오픈AI의 챗GPT 출시 이후 인공지능(AI)의 활용이 전 세계적으로 확대되고 있지만 인공지능 사용에 따른 부작용에 대한 지적 또한 끊임없이 제기되고 있다.
특히 정치 분야와 선거에서 초래될 수 있는 인공지능의 부작용에 대해 우려의 목소리가 높으며 이 같은 우려는 올해 선거를 앞두고 있는 미국과 유럽연합 등의 국가들을 중심으로 더욱 거세지고 있다.
◆AI 선거 공정성 위배 우려…올해 선거 앞둔 EU·미국 등 ‘촉각’
선거를 앞둔 국가들을 중심으로 인공지능에 대한 우려가 높아지는 이유는 생성형 인공지능이 정치인들의 발언 또는 특정 사건에 대한 가짜뉴스 양산, 선거 여론조사 등에서 허위 합성 콘텐츠를 만들고 유포해 유권자에게 잘못된 정보를 제공하거나 선거 과정을 조작할 위험이 있기 때문이다.
이처럼 인공지능의 선거 공정성에 대해 우려가 높아지고 있는 가운데 유럽연합이 인공지능의 선거 개입을 방지하기 위해 강력 대처에 나서 주목을 받고 있다.
해외 블록체인 전문 매체 코인텔레그래프(Cointelegraph)에 따르면 유럽연합 집행위원회(European Commission)는 빙(Bing), 페이스북(Facebook), 구글 서치(Google Search), 인스타그램(Instagram), 스냅챗(Snapchat), 틱톡(TikTok), 유튜브(YouTube) 및 X에 잠재적으로 유권자들을 오도할 수 있는 생성형 인공지능 사용과 관련된 위험 관리와 관련해 공식적인 정보 요청(RFI)을 했다.
유럽연합 집행위원회는 지난 3월 14일 보도자료를 통해 생성형 인공지능과 관련된 위험을 해결하기 위한 조치와 관련해 이들 플랫폼에 추가적인 세부 정보를 요청한다고 밝혔다.
여기에는 인공지능 모델이 학습 데이터에 있는 정보에 근거하여 나타나지 않는 높은 수준의 신뢰도로 결과물을 출력 생성하는 경향인 ‘환각’과 바이럴 딥페이크 유포, 유권자의 인식에 영향을 미칠 수 있는 자동화된 서비스 조작 해결 등이 포함된다.
이러한 요청은 유럽연합의 최신 전자상거래 및 온라인 거버넌스 규칙인 디지털 서비스법(Digital Services Act·DSA)에 따라 이뤄졌다.
이들 8개 플랫폼은 규정집에 명시된 다른 조항을 준수하는 것과 함께 시스템 위험을 평가하고 해결할 것을 의무화하는 규정에 따라 초대형 온라인 플랫폼(VLOP)으로 분류된다.
◆초대형 온라인 플랫폼에 정보 요청…공식적인 지침도 개발
유럽연합 집행위원회는 이러한 요청된 질문들이 생성형 인공지능 콘텐츠의 보급 및 제작과 관련이 있다고 강조하고 “위원회는 또한 생성형 인공지능이 선거 과정, 불법 콘텐츠 유포, 기본권 보호, 젠더 기반 폭력, 미성년자 보호 및 정신 건강에 미치는 영향과 관련된 위험 평가 및 완화 조치에 대한 정보와 내부 문서를 요청하고 있다”고 밝혔다.
초대형 온라인 플랫폼의 빅테크 관련 디지털 서비스법의 규정 준수를 감독하는 위원회는 선거 보안을 시행의 주요 초점으로 파악하고 있다.
특히 최근에는 초대형 온라인 플랫폼의 선거 보안 규정에 대한 의견을 구하는 동시에 이 분야에 대한 공식적인 지침도 개발하고 있다.
유럽연합 집행위원회에 따르면 이러한 요청들은 지침 개발에 기여하기 위한 것이다. 플랫폼들은 긴급한 것으로 분류된 요청에 따라 4월 3일까지 선거 보호에 관한 정보를 제공해야 하지만 유럽연합은 3월 27일까지 선거 보안 지침을 확정하는 것을 목표로 하고 있다.
유럽연합 집행위원회는 합성 콘텐츠 제작 비용이 크게 감소하고 있으며, 선거 기간 동안 사기성 딥페이크가 유포될 위험이 심화되고 있다고 강조했다. 이에 따라 정치적 딥페이크를 널리 퍼뜨릴 수 있는 주요 플랫폼에 집중하고 있다.
디지털 서비스법 제74조 제2항에 따라 유럽연합 집행위원회는 정보 요청에 대한 응답으로 제공된 부정확성, 불완전성 또는 잘못된 정보에 대해 벌금을 부과할 권한이 있다. 초대형 온라인 플랫폼과 초대형 온라인 검색 엔진(VLOSE)이 이에 대응하지 못할 경우 주기적인 위약금이 부과될 수 있다.
학계와 전문가들은 이번 유럽연합 집행위원회의 조치가 생성형 인공지능의 이용을 통한 선거의 부정적인 영향을 방지하는 데 일조할 것으로 예상하고 있다.
지난달 16일 마이크로소프트(Microsoft), 구글(Google), 어도비(Adobe) 등 인공지능을 개발하는 20개 기술 기업들이 자사의 소프트웨어가 세계 각국의 선거에 직간접적으로 영향을 미치는 것을 막겠다는 합의사항을 발표한 상황에서 이들 기업들에게 인공지능의 선거 개입 방지를 위한 보다 구체적이고 실체적인 정보의 제공을 요청하고 나섬으로써 이들 기술 기업 차원에서도 방지 대책을 마련하도록 직간접적으로 압박을 가하는 것으로 판단하기 때문이다.
따라서 학계와 전문가들은 이번 유럽연합 집행위원회의 조치가 거대 기술 기업들의 인공지능 선거 개입 방지를 위한 자구책 마련 등을 유도해 향후 허위정보 또는 가짜 뉴스가 난무하고 유권자들의 정확한 판단을 흐리게 하는 인공지능의 선거 개입 행위를 최소화시킬 수 있을 것으로 기대하고 있다. [뉴스드림]