오픈AI의 챗GPT 출시와 함께 전 세계 산업 분야에서 널리 활용되고 있는 인공지능(AI)은 무수히 많은 장점에도 불구하고 적절한 관리 감독이 이루어지지 않을 경우 예상치 못한 위험을 야기하는 상황을 초래할 수 있는 마치 ‘양면의 동전’과도 같다.
더욱이 특정 인공지능 도구의 경우 매우 기술적이고 복잡한 탓에 여러 기관들, 특히 금융기관들이 이를 효과적으로 설명하거나 모니터링하는 데 어려움을 초래해 시스템 운용에 위험이 가중시킬 수도 있다.
◆인공지능 적절 관리 부재 시…금융 시스템에 새로운 위험 초래
이처럼 인공지능의 활용에 따른 부작용 또는 위험에 대한 우려가 높아지고 있는 가운데 미국 금융 규제 당국이 인공지능(AI)의 급속한 도입과 관련해 이 신흥 기술에 대한 감독이 적절하게 이루어지지 않을 경우 미국 금융 시스템에 새로운 위험을 초래할 수 있다고 경고하고 나서 주목을 받고 있다.
해외 블록체인 전문 매체 코인텔레그래프(Cointelegraph)에 따르면 재닛 옐런(Janet Yellen) 미국 재무장관이 의장을 맡고 있는 금융 안정 감독위원회(FSOC)는 지난 14일 발표한 연례 금융안정보고서에서 처음으로 인공지능이 초래하는 위험에 대해 경고했다.
미국 금융 안정 감독위원회는 금융기관의 혁신과 효율성을 견인할 수 있는 인공지능의 잠재력을 인정하면서도 급속한 기술 발전으로 인해 기업과 규제 당국이 경계를 늦추지 말아야 한다고 강조했다.
금융 안정 감독위원회는 연례 보고서에서 인공지능이 사이버 보안 측면에서 특정한 위험을 수반하고 있다고 강조했다. 또한 기업과 규제 기관이 인공지능의 혁신과 사용을 모니터링하고 새로운 위험을 식별하기 위해 지식과 역량을 강화할 것을 제안했다.
보고서에 따르면 특정 인공지능 도구는 매우 기술적이고 복잡하기 때문에 기관들이 이를 효과적으로 설명하거나 모니터링하는 데 어려움을 겪고 있다. 이 보고서는 또 기업들과 규제 당국이 종합적인 이해 없이 편향되거나 부정확한 결과를 간과할 수 있다고 경고했다.
금융 안정 감독위원회의 보고서는 또한 인공지능 도구가 광범위한 외부 데이터 세트와 제3자 공급업체에 점점 더 의존하고 있어 개인 정보 보호 및 사이버 보안 문제를 야기시키고 있다고 강조했다.
앞서 금융 안정 감독위원회의 의장을 맡고 있는 미국 증권거래위원회(SEC)를 비롯한 특정 규제 기관들은 기업의 인공지능 사용을 조사했다. 또 백악관은 인공지능 위험을 해결하고 줄이기 위한 행정 명령을 발동했다.
◆인공지능 규제 필요성 제기…기술 기업 대책 마련 노력 필요
인공지능 위험의 해결을 위한 규제 필요성에 대해서는 이번 미국 금융 안정 위원회 등 규제 기관 외에도 지속적으로 제기되어 왔다.
전 세계 가톨릭 교회의 수장인 프란치스코 교황은 지난 8일 서한을 통해 인공지능이 인류에게 가하게 될 잠재적 위협에 대한 우려를 표명했다. 프란치스코 교황은 인공지능 개발을 윤리적으로 규제하기 위한 국제 조약을 지지하는 한편, 적절한 통제가 없는 ‘기술 독재’의 위험에 대해 경고했다.
이외에 일론 머스크(Elon Musk)와 스티브 워즈니악(Steve Wozniak)과 같은 기술 업계 인사들도 인공지능의 빠른 발전에 대해 우려의 목소리를 냈다.
2023년 3월 일론 머스크와 워즈니악을 포함한 2600명이 넘는 기술 지도자들과 연구원들은 인공지능 개발의 ‘일시 중지’를 촉구하는 청원서에 서명했다. 서명에 동참한 이들은 챗GPT-4를 능가하는 인공지능의 발전으로 인해 야기될 수 있는 ‘사회와 인류에 대한 중대한 위험’을 강조했다.
학계와 전문가들은 이번 미국 금융 안정 감독위원회가 연례 금융안정보고서를 통해 제기한 인공지능이 초래하는 위험에 대해 인식을 같이하고 있는 것으로 알려지고 있다.
특히 인공지능의 사용에 따른 사이버 보안 등 부작용 문제의 경우 여타 산업에 비해 금융 분야가 특히 직간접적인 피해를 입을 가능성이 높은 만큼 인공지능의 혁신과 사용을 모니터링하고 새로운 위험을 식별하기 위해 지식과 역량을 강화할 필요가 있다고 학계와 전문가들은 지적하고 있다.
이 같은 지적은 지금껏 상당수의 기술 기업들이 인공지능의 개발과 출시 과정에서 이를 통한 영업이익의 창출을 최우선적인 목표로 설정하고 있는 나머지 개인 정보 보호와 사이버 보안 문제를 소홀히 여기는 기류가 형성되며 각종 문제점들이 수면 위로 속속 드러나고 있는 데 따른 것으로 풀이할 수 있다.
이에 따라 학계와 전문가들은 미국 금융 안정 감독위원회가 연례 금융안정보고서 외에도 인공지능을 선도하는 국가들을 중심으로 인공지능 산업의 사이버 보안 문제 해결에 강력하게 한목소리를 내고 있는 상황인 만큼 차제에 인공지능 기술 기업들이 개인 정보 보호 및 사이버 보안의 강화를 위한 대책 마련에 보다 전향적으로 나서야 할 것이라고 강조하고 있다. [뉴스드림]
관련기사
- [이슈분석] 일자리 위협하는 AI…'근로자와 상생' 가능해질까?
- [이슈분석] "AI 위험성 높다"…교황까지 나서 경고
- [이슈분석] "AI 사이버 보안 대책 만들자"…세계 각국이 뭉쳤다
- [이슈분석] AI 생성 허위정보 "이젠 꼼짝마"
- [이슈분석] AI 생성 딥페이크 허위 정보 우려…전 세계로 확산
- [이슈분석] AI 기술 개발에 사용자 의견 반영된다
- [이슈분석] 저널리즘의 무분별한 AI 사용…‘이젠 꼼짝 마’
- [이슈분석] 진화하는 AI, 해킹·사기·자금 세탁 '범죄 온상'되나
- [이슈분석] 금융 분야 AI 부작용…美 의회 조사 나섰다
- [이슈분석] 기관 투자자 거래서도 "AI 활용이 대세로"
- [이슈추적] ‘AI 워싱’ 증권법 위반 소지 가능성 높아
- [이슈분석] AI 딥페이크, 불법 금융 활동…핵무기에 버금간다