OpenAI의 거대 언어 모델 챗GPT 출시 이후 산업 현장에서의 인공 지능(AI) 활용에 따른 부작용에 대한 논쟁이 지속되고 있는 가운데 최근에는 선거에서 인공 지능을 활용한 딥 페이크, 즉 합성 가짜 광고에 대한 우려가 제기되고 있다.
이에 따라 최근 미국의 유권자 단체가 선거에서 활용되는 합성 가짜 광고의 규제를 위한 청원을 연방선거관리위원회에 제출했으며 연방 선관위가 이 같은 청원을 진행시키기로 결정해 주목 받고 있다.
◆선거 활용 AI 가짜 광고…美 연방선거관리위원회 철퇴 행보
해외 블록체인 전문 매체 코인텔레그래프(Cointelegraph)에 따르면 미국 연방선거관리위원회(FEC)는 지난 10일 인공 지능(AI)에 의해 생성되는 정치 광고의 딥 페이크(deep fake)를 잠재적으로 규제할 수 있는 청원을 만장일치로 통과시켰다.
이번에 제출한 청원은 선거에 출마하고자 하는 정치 후보자들이 다가올 2024년 선거를 앞두고 인공 지능을 사용하여 자신들이 하지 않은 행동 또는 말하는 것을 묘사하는 광고를 대상으로 한다.
이번 청원을 배후에서 주도해 온 미국 유권자 단체인 퍼블릭 시티즌(Public Citizen)의 회장 로버트 와이즈먼(Robert Weissman)은 딥 페이크를 ‘민주주의에 대한 중대한 위협’이라고 지적했다.
로버트 와이즈먼은 “연방선거관리위원회는 딥 페이크를 금지하거나 인공 지능이 주도하는 사기성의 잘못된 정보에 연루되어 진실과 거짓의 기본 규범을 파괴할 위험을 감수하기 위해 권한을 사용해야 한다”고 말했다.
사실 선거에 출마한 후보자들이 캠페인의 일부로 인공 지능으로 생성된 가짜 이미지를 사용하는 사례가 이미 있었다. 일례로 공화당 후보 경선에 출마한 론 드산티스 플로디아 주지사의 선거 운동은 도널드 트럼프 전 미국 대통령이 앤서니 파우치 박사를 껴안고 있는 가짜 이미지 3장을 유포했다.
연방선거관리위원회의 회의에서 퍼블릭 시티즌은 정치 캠페인에서 ‘사기성 허위 진술’을 방지하기 위한 기존의 법률에 인공 지능 딥 페이크가 포함되는지 여부에 대한 명확한 설명을 요청했다.
◆美 규제 당국 인공 지능 위협 인지…향후 대응 방안 관심 집중
퍼블릭 시티즌의 부회장 리사 길버트(Lisa Gilbert)는 “선거 광고에서 딥 페이크 및 기타 기만적인 인공 지능 사용을 규제할 필요성은 날이 갈수록 더욱 시급해지고 있다”고 말했다.
연방선거관리위원회는 청원을 진전시키기로 결정했으며 다음 단계는 60일의 공개 의견 수렴 기간을 갖는다. 이에 대해 리사 길버트는 규제 당국이 민주주의에 대한 인공 지능의 위협을 “심각하게 받아들이고 있다”는 고무적인 신호라고 평가했다.
또한 퍼블릭 시티즌의 정부 업무 로비스트인 Craig Holman은 공개 의견 수렴 기간과 관련해 “공개 의견 수렴 기간은 정책 옹호자, 전문가 및 유권자들에게 다가오는 선거 주기에서 잠재적인 딥 페이크 광고의 홍수에 대한 우려를 표명할 수있는 중요한 포럼을 제공할 것”이라고 말했다.
이번 조치는 지난 7월 퍼블릭 시티즌이 처음 제출한 청원서에 이은 것이다. 청원서는 딥 페이크가 ‘선거 결과를 흔들 수 있다’는 점을 강조하며 비슷한 정서를 강조했다.
퍼블릭 시티즌의 첫 번째 청원서가 발표된 후에 미국 상원과 하원의 양원 의원들은 이를 지지하는 서한으로 화답했다.
학계와 전문가들은 인공 지능의 활용에 따른 가짜 뉴스 또는 정보의 유포 등 각종 부작용의 발생은 특히 선거와 관련된 정치 분야에서 야기될 가능성이 높은 만큼 이번 미국 연방선거관리위원회의 결정은 지극히 당연한 조치인 것으로 분석하고 있다.
이와 함께 이번 미국 연방선거관리위원회의 결정이 향후 민주적인 선거 절차를 강조하고 있는 영국과 유럽 연합(EU) 등 의회 민주주의 선도 국가들의 선거 정책에도 직간접적으로 영향을 미치게 될 것으로 전망하고 있다. [뉴스드림]