인공지능(AI)을 악용한 딥페이크 등 각종 범죄 행위를 규제하기 위한 강력한 법안들이 전 세계적으로 속속 발의되고 통과되는 가운데 인공지능 기술 기업을 중심으로 하는 반발 기류도 거세지고 있다. 특히 법안의 시행을 앞두고 상급 법원이 제동을 걸고 나서는 사례까지 발생하고 있다.
대표적인 예로 선거 기간 동안 정치적인 주제를 가진 인공지능 딥페이크를 강력 단속하기 위해 미국 캘리포니아 의회가 발의하고 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사가 통과시킨 새 법안이 시행도 되기 전에 역풍을 맞고 있는 것을 들 수 있다.
최근 미국 캘리포니아 주 의회가 통과시킨 AB 2839 법으로 명명된 새 법안이 미국 연방법원으로부터 언론의 자유를 침해할 수 있는 요소가 있어 위헌이라는 판결을 받았다.
◆AI 딥페이크 위험 인식 불구…규제 법령 시행에는 의견 상충
해외 블록체인 전문 매체 코인텔레그래프(Cointelegraph)에 따르면 미국 연방법원 판사는 선거와 관련된 딥페이크를 사실상 금지하는 2주 전 통과된 캘리포니아 법에 대해 예비 금지 명령을 내렸다.
AB 2839 법은 인공지능 딥페이크에 대한 손해배상 소송을 제기한 사람은 누구나 선거 후 120일 이내에 가해자의 게시물이 정치 후보자와 유사한 경우 최대 60일까지 손해배상을 청구할 수 있도록 허용하고 있다.
존 A. 멘데즈(John A. Mendez) 판사는 인공지능과 딥페이크가 심각한 위험을 초래한다고 말하면서도 이 법이 수정헌법 제1조를 위반했을 가능성이 있어 ‘위헌’이라고 판결했다.
존 A. 멘데즈(John A. Mendez) 판사는 “법원은 AB 2839가 캘리포니아의 언론의 자유 조항에 따라 위헌이라고 판결했다”고 밝혔다.
이번 결정은 X에서 ‘미스터 레이건’으로 알려진 크리스토퍼 콜스(Christopher Kohls)가 지난 7월 카말라 해리스(Kamala Harris) 미국 부통령을 조롱하는 인공지능 변형 캠페인 영상을 제작해 논란을 빚은 사건에서 비롯된 것으로 이후 X의 회장 일론 머스크(Elon Musk)가 이를 공유했다.
크리스토퍼 콜스를 대리하는 변호사는 지난 9월 17일 개빈 뉴섬 캘리포니아 주지사가 이 법안에 서명한 지 하루 만에 롭 본타 캘리포니아 법무장관과 셜리 웨버 국무장관을 상대로 새 법안을 막아달라는 소송을 제기했다.
이 법은 캘리포니아 판사가 인공지능 딥페이크 배포자에게 딥페이크를 삭제하도록 명령할 수 있도록 했으며 그렇지 않을 경우 금전적 처벌을 받을 수 있다.
◆규제 기관과 기술 기업 온도차 확연…향후 시행 여부 관심 집중
존 A. 멘데즈 판사는 크리스토퍼 콜스가 “주 헌법상 제기된 소송에서 승소할 가능성이 높다”며 지난 10월 2일 가처분 신청을 승인했다.
존 A. 멘데즈 판사는 “AB 2839 법의 대부분은 메스가 아닌 망치와 같은 역할을 하며 유머러스한 표현을 방해하고 미국 민주주의 논쟁에 매우 중요한 자유롭고 자유로운 아이디어 교환을 위헌적으로 억압하는 무딘 도구 역할을 한다”고 말했다.
존 A. 멘데즈 판사는 더 나아가 해리스의 인공지능 딥페이크는 수정헌법 제1조에 의해 보호되어야 하는 ‘풍자’일 뿐이라는 크리스토퍼 콜스 측 변호사의 의견에 동의했다.
존 A. 멘데즈 판사는 “디지털로 조작된 미디어 환경에 대한 근거 있는 우려는 정당화될 수 있지만 이러한 두려움이 입법자들에게 수정헌법 제1조에 의해 보호되는 비판, 패러디, 풍자의 오랜 전통을 불도저로 밀어붙일 수 있는 무제한적인 면허를 부여하지는 않는다”고 말했다.
한편, 테슬라의 최고경영자(CEO) 일론 머스크는 이번 연방법원 판결을 승리로 간주했다.
AB 2839 법은 최근 개빈 뉴섬 캘리포니아 주지사의 책상을 강타한 몇 가지 새로운 인공지능 관련 법률 중 하나다.
지난 9월 30일 개빈 뉴섬 주지사는 인공지능 모델에 대한 안전성 검사를 의무화하는 법안을 발의한 ‘프론티어 인공지능 모델을 위한 안전 및 보안 혁신법(Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, SB 1047)’에 대해 거부권을 행사했다.
개빈 뉴섬 주지사는 “SB 1047 법이 좋은 의도를 가지고 있지만 캘리포니아의 신흥 인공지능 기업에 불필요한 제한을 가할 수 있다”고 말했다.
전문가들은 이번 미국 연방법원의 판결은 일정 부분 예상되었던 일로 평가하고 있다. 인공지능 딥페이크 규제에 대한 법률 제정과 시행에 대한 기술 기업들의 반발이 극심했던데다 미국 정치권 내에서도 기술 기업들의 주장에 동조하는 시각이 있었기 때문이다.
다만 인공지능을 악용한 딥페이크 등 각종 범죄 행위의 차단이 필요하다는 것은 미온적인 입장을 취하고 있는 기술 기업을 제외한 정치권과 규제 기관 모두 인식하고 있는 상황이어서 향후 어떤 방향으로 법령 시행에 물꼬를 틀지 관심이 집중되고 있다.
이에 따라 새로 제정된 인공지능 규제 법안의 실질적인 시행 여부와 시행 시기는 미국 정치권과 규제 당국, 기업 간에 초미의 관심사로 부상하고 있다. [뉴스드림]