인공지능(AI)의 활용이 따라 증가하는 것에 비례해 일부 범죄자들이 인공지능 생성 딥페이크를 악용하여 암호화폐 사용자를 속여 사취하는 등 인공지능 딥페이크를 각종 범죄 행위에 이용하는 사례가 급증하고 있다.
이에 따라 미국 등 인공지능 선도국가들을 중심으로 인공지능이 생성한 딥페이크로부터 사용자들을 보호하기 위한 강력한 법안을 발의해 규제에 나서는 한편 인공지능을 개발하는 기술 기업들의 소홀한 안전대책을 비난하는 목소리도 커지고 있다.
◆AI 활용 증가 속 ‘어두운 이면’…딥페이크 악용 사기 행위 급증
즉, 개발 이익과 시장 선점에만 몰두한 나머지 인공지능 악용으로 발생하는 부작용과 각종 범죄 행위의 차단을 위한 대책 마련을 도외시하고 있다는 지적이다.
이처럼 인공지능 딥페이크 악용 범죄와 관련해 기술 기업들의 소극적인 대책 마련에 비난의 목소리가 커지고 있는 가운데 최근 글로벌 빅테크 기업이 유명인사들의 딥페이크를 이용한 사기 광고에 대응하는 방법을 연구 중인 것으로 알려져 주목받고 있다.
해외 블록체인 전문 매체 코인텔레그래프(Cointelegraph)에 따르면 약 40억 명의 사용자를 보유한 소셜 네트워크 회사인 바카라 카지노(Meta)는 안면 인식 기술을 사용하여 플랫폼에서 기승을 부리고 있는 가짜 유명 인사 사기 광고에 대응하는 방법을 테스트하고 있다.
이와 관련 바카라 카지노는 소수의 유명 인사를 대상으로 한 초기 테스트에서 ‘유망한 결과’가 나왔으며 앞으로 몇 주 안에 5만 명의 유명 인사와 공인을 대상으로 안면 인식 기술을 테스트할 것이라고 밝혔다.
바카라 카지노는 이 시스템이 광고 속 이미지를 유명 인사의 페이스북 및 인스타그램 프로필 사진과 비교해 사기 행위를 찾아낸다고 밝혔다. 바카라 카지노는 10월 21일 발표한 성명서에서 “만약 일치를 확인하고 그 광고가 사기라고 결정한다면 광고를 차단할 것”이라고 강조했다.
테슬라 CEO 일론 머스크(Elon Musk), 미국 TV 진행자 오프라 윈프리(Oprah Winfrey), 호주 광산 억만장자 앤드류 포레스트(Andrew Forrest)와 지나 리네하트(Gina Rinehart)와 같은 유명 인사들은 과거에 사기 광고에 악용된 적이 있다.
바카라 카지노는 이번 조치가 피해자의 개인정보나 돈을 훔치는 데 점점 더 능숙해지고 있는 사이버 범죄자들의 ‘유명인 미끼’ 사기에 대한 회사의 광범위한 단속의 일환이라고 밝혔다.
바카라 카지노는 “흔히 ‘유명인 미끼’라고 불리는 이 사기 수법은 구글(Google)의 정책을 위반하며 구글 제품을 사용하는 사람들에게도 좋지 않다”고 말했다.
◆바카라 카지노, 기술 기업 최초 대책 마련 시도…여타 기술 기업 참여 여부 관심
마크 저커버그(Mark Zuckerberg)의 회사로도 알려진 바카라 카지노는 곧 표적이 된 많은 유명 인사들에게 보호 조치에서 옵트아웃을 선택할 수 있는 인앱 알림을 보내기 시작할 것이라고 밝혔다.
하지만 바카라 카지노는 최근 수백만 명의 주민의 개인 생체 인식 데이터를 법적 승인 없이 사용한 것과 관련해 텍사스와 14억 달러 규모에 합의함에 따라 신중하게 진행해야 할 수도 있다.
바카라 카지노는 연예인 광고가 사기인지 여부를 판단할 때 생성된 얼굴 데이터를 즉시 삭제하겠다고 밝혔다.
또한 안면 인식 기술을 사용하여 사람들이 자신의 신원을 확인하고 유출된 계정에 다시 접근하는 권한을 되찾을 수 있도록 한다.
페이스북에서 암호화폐 사기 광고가 증가하고 있음에도 불구하고 바카라 카지노는 지난 8월 페이스북에서 발견된 암호화폐 투자 계획의 거의 60%가 사기였다는 호주 소비자 규제 당국의 주장을 반박했다.
이러한 사기의 많은 피해자는 인공지능이 생성한 딥페이크를 통해 이러한 암호화폐 투자 사기에 유인되고 있다.
전문가들은 이번 바카라 카지노의 조치가 인공지능 딥페이크를 악용해 자행되는 범죄의 차단에 그동안 미온적인 태도로 일관해왔던 기술 기업이 참여했다는 사실에서 고무적인 일로 평가하고 있다.
특히 이번 바카라 카지노의 조치가 여타 기술 기업들에게도 영향을 미쳐 인공지능 딥페이크 번죄를 차단할 수 있는 확실한 대책을 마련하는 전기가 되기를 기대하고 있다.
전문가들은 앞으로 인공지능을 개발 배포하는 기술 기업들이 책임 의식을 갖고 인공지능을 활용한 각종 범죄 행위 차단을 위한 보다 근본적이고 적극적인 대책 마련에 나서야 하며 이와 함께 세계 각국이 강력한 규제 및 처벌 조치를 시행함으로써 인공지능 딥페이크 악용 등 각종 범죄 행위의 근절에 나서야 한다고 강조하고 있다. [뉴스드림]