미국과 유럽연합(EU) 등의 강력한 규제에도 불구하고 인공지능(AI) 굴기를 위해 국가적 차원에서 자국 내 기술 기업들을 독려하며 인공지능 도구와 기술의 개발에 매진하고 있는 중국이 개발 독려와 사용자 통제라는 이중적인 행태를 보이고 있어 업계와 전문가들은 물론 사용자들로부터 주목을 받고 있다.
인공지능 기술 개발과 사용 과정에서 개발 독려와 강력 통제라는 ‘두 얼굴’의 모습을 하고 있는 중국 정부의 행태는 사회주의 국가로 국가가 기업과 국민들을 통제하는 특성상 인공지능 기술 개발을 천명하고 나선 때부터 일정 부분 예견돼왔던 부분이지만 최근 인공지능 사용자와 기업들에 대한 강력 통제 규정이 발표되면서 ‘혹시나 했던 것이 역시나’로 드러나고 있다.
◆AI도 국가 통제…생성형 AI 모델 훈련에 엄격한 규칙 설정
해외 블록체인 전문 매체 코인텔레그래프(Cointelegraph)에 따르면 중국은 인공지능 모델 학습에 사용되는 데이터 소스에 대한 제한을 포함하는 생성형 인공지능 서비스를 제공하는 기업들에 대한 보안 규정 초안을 발표했다.
지난 10월 11일 중국 사이버공간관리국(CAC), 산업정보기술부와 법 집행 기관들의 대표자들로 구성된 국가정보보안표준화위원회(National Information Security Standardization Committee)는 제안된 규정을 발표했다.
오픈AI의 챗GPT 성과에서 확인할 수 있듯이 생성형 인공지능은 과거 데이터 분석을 통해 업무를 수행할 수 있는 능력을 습득하고 이 훈련을 기반으로 텍스트, 이미지 등의 새로운 콘텐츠를 생성한다.
중국 국가정보보안표준화위원회는 공개적으로 접근 가능한 생성형 인공지능 모델을 훈련하는 데 사용되는 콘텐츠에 대한 보안 평가를 수행할 것을 권장하고 있다.
보안 평가를 통해 ‘불법적이고 유해한 정보의 형태로 5%’를 초과하는 콘텐츠는 블랙리스트에 지정된다. 이 범주에는 테러리즘, 폭력, 사회주의 체제의 전복, 국가의 명성에 해를 끼치고 국가의 결속과 사회적 안정을 훼손하는 행동을 옹호하는 콘텐츠가 포함된다.
규정의 초안은 또한 중국 인터넷에서 검열 대상이 되는 데이터가 이러한 모델들을 위한 훈련 자료로 사용되어서는 안 된다는 점을 강조하고 있다.
◆기술 기업 자율권 침해…AI 기술 개발 목표 진정성 의문
이번 규정은 중국 규제 당국이 유명한 검색 엔진 바이두(Baidu)를 포함한 다양한 중국 기술 기업들에게 생성형 인공지능 기반 챗봇을 일반 대중들에게 소개할 수 있는 권한을 부여한 지 한 달이 조금 넘은 시점에서 발표됐다.
앞서 중국 사이버공간관리국은 지난 4월부터 기업이 생성형 인공지능 기반 서비스를 대중에게 선보이기 전에 규제 기관에 보안 평가를 제공해야 한다는 요구 사항을 지속적으로 전달해 왔다.
또한 지난 7월에는 사이버공간 규제 기관들이 이러한 서비스에 대한 일련의 가이드라인을 발표했다. 업계 분석가들은 이 가이드라인이 최초 4월에 제안된 초안의 조치에 비해서는 관련 기업들의 부담이 경감된 것으로 분석하고 있다.
최근 공개된 보안 규정 초안에 따르면 이러한 인공지능 모델 훈련에 참여하는 조직은 훈련에 사용되는 생체 정보를 포함하는 개인 데이터를 가진 개인들로부터 명시적인 동의를 얻어야 한다. 또한 규정 초안에는 지적재산권과 관련된 침해 방지에 대한 포괄적인 지침이 포함되어 있다.
현재 세계 각국은 이 기술에 대한 규제 프레임워크를 마련하기 위해 고심하고 있다. 잘 알려진 대로 중국은 인공지능 분야를 미국과 경쟁하기를 열망하는 영역으로 간주하고 2030년까지 이 분야의 글로벌 리더로 자리매김하겠다는 야망을 세우고 있다.
업계와 전문가들은 중국 정부가 2030년까지 인공지능 기술 산업의 글로벌 리더로 자리매김 하겠다는 계획을 천명하고 기술 개발을 독려하고 있음에도 결과에 대해서는 회의적인 시각이 지배적인 것으로 알려지고 있다.
중국의 기술 개발 기업들이 국가 차원의 전폭적인 지원을 통해 인공지능 기술과 도구의 개발에 성공하는 경우라도 중국 정부의 일방적인 잣대로 규정된 사회주의 체제의 전복, 국가의 명성에 해를 끼치고 국가의 결속과 사회적 안정을 훼손시키는 행동을 옹호하는 행위에 강력한 통제를 가할 경우 오히려 발목을 잡을 수도 있다는 판단에서다.
실제로 중국 정부는 그동안 인공지능은 물론 메타버스와 슬롯 사이트의 개발에 이르기까지 개발을 독려하는 이면에 정부와 사회주의 체제 유지를 위한 강력한 통제라는 이중적인 행태를 보여왔던 것이 사실이며 이에 따라 개발 목적에 대한 진정성을 의심받고 있는 것이 사실이다.
따라서 업계와 전문가들은 중국의 인공지능 굴기 실현은 기술 또는 도구의 개발의 차원이 아닌 향후 중국 정부의 관련 기업들과 사용들에 대한 통제 강도 여부에 좌우될 것으로 예상하고 있다. [뉴스드림]