‘AI·딥페이크 선거운동’ 우려…13개주서 규제법 추진

Jan 23, 2024

AI 생성 콘텐츠에 표시 의무·특정 기간 유포 금지 등 담아

오는 11월 대선을 앞두고 본격적인 선거철에 접어든 미국에서 인공지능(AI)을 활용한 딥페이크 선거운동을 규제하기 위한 법안 발의가 잇따르고 있다고 미국 NBC방송이 23일 전했다.

보도에 따르면, 올해 들어 미국 최소 13개 주에서 AI를 활용한 가짜 이미지나 오디오, 비디오 콘텐츠로 선거 관련 허위 정보가 확산하는 일을 방지하기 위한 법안이 추진되고 있다.

이들 법안은 AI로 생성한 콘텐츠의 경우 이를 표시하도록 고지 의무를 부과하거나, AI로 생성한 콘텐츠의 게시를 금지하는 방식의 규제 내용을 담고 있다.

네브래스카주의 경우, 선거일 전 60일 동안 딥페이크 콘텐츠 유포를 전면 금지하는 법안이 민주당 의원들의 주도로 발의돼 있다.

애리조나주의 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있게 하는 법안을 제출했다.

아이다호주에서는 콘텐츠가 합성 이미지일 경우 합성 사실을 공표하지 않으면 배포를 금지하고, 이를 어긴 유포자를 고소할 수 있도록 하는 법안이 공화당 주도로 추진되고 있다.

조 바이든 미국 대통령
조 바이든 대통령 [AP=연합뉴스 자료사진. 재판매 및 DB 금지]

켄터키주에서 공화당이 추진하는 법안은 딥페이크 콘텐츠에서 묘사된 대상의 동의 없이는 이를 유포할 수 없도록 하고, 이를 어길 시 손해배상을 청구할 수 있도록 하는 내용이 골자다.

버지니아주에서는 범죄를 저지를 목적으로 ‘거짓된 시청각 미디어’를 제작하는 행위를 1급 경범죄로 규정하는 법안이 민주당의 주도로 발의된 상태다.

이밖에 알래스카·플로리다·하와이·사우스다코타·매사추세츠·오클라호마·인디애나·와이오밍 등에서도 AI를 활용한 딥페이크 선거운동을 규제하기 위한 법안이 의회에 제출돼 있다.

뉴햄프셔주의 경우, 정치 광고물에 AI를 활용한 가짜 콘텐츠를 쓸 경우 이를 고지하도록 하는 법안이 지난해 말 제출됐다.

이같은 법안 발의는 오는 11월 대선을 앞두고 각 당의 경선 후보 간 경쟁이 치열해지는 가운데 딥페이크 선거운동으로 인한 위험이 현실화할 수 있다는 우려에 따른 것으로 보인다.

도널드 트럼프 전 대통령(좌)과 니키 헤일리 전 유엔 대사
도널드 트럼프 전 대통령(좌)과 니키 헤일리 전 유엔 대사 [연합뉴스 자료사진]

실제 지난 22일 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 걸려 오면서 딥페이크 선거운동에 대한 우려가 증폭됐다.

미국 시민단체 ‘퍼블릭 시티즌’의 로버트 와이스먼 회장은 “뉴햄프셔의 사례는 딥페이크 (콘텐츠)가 혼란을 심고, 사람들을 계속 속일 수 있는 많은 방법을 갖고 있단 점을 일깨운다”며 “정책 입안자들은 서둘러 보호 장치를 마련해야 한다”고 강조했다.