AI 유명인 목소리 위조 불법…전화 마케팅 금지

Feb 9, 2024

연방통신위, 지난달 ‘바이든 오디오 딥페이크’ 논란 이후 대책 급물살

연방통신위원회 [연합뉴스 자료사진]

연방정부가 전화 마케팅에 인공지능(AI)을 활용한 가짜 목소리인 ‘오디오 딥페이크’를 사용하는 것을 금지했다.

월스트리트저널(WSJ)은 8일(현지시간) 미 연방통신위원회(FCC)가 이날 ‘전화 마케팅에 대한 소비자보호법'(TCPA)을 근거로 이 같은 결정을 내렸다고 보도했다.

FCC는 전화에 AI 기술로 만든 가짜 목소리를 사용하기 위해선 먼저 상대방의 동의를 받아야 한다고 규정했다.

불특정 다수에게 전화를 건 뒤 유명 인사가 직접 녹음한 것처럼 상대방을 오도해 상품을 판매하거나, 광고를 하는 것이 불가능해진 셈이다.

FCC는 금지 규정을 지키지 않은 업체에 대해선 벌금을 부과하고, 주 검찰에도 단속권을 부여하기로 했다.

이 규정은 즉시 발효된다.

FCC의 결정은 최근 뉴햄프셔 프라이머리(예비선거)에서 조 바이든 대통령의 가짜 목소리를 활용한 전화가 기승을 부린 사건이 계기가 됐다.

이 전화에는 민주당 당원들에게 프라이머리 투표 거부를 독려하는 ‘가짜 바이든 대통령 목소리’가 담겼다.

당시 민주당은 바이든 대통령에게 피해를 주려는 목적에서 꾸민 정치공작이라고 반발했다. 프라이머리 개최를 방해하려는 시도라는 이유에서였다.

특히 11월 대선을 앞두고 AI 기술로 만든 유명인의 가짜 목소리가 가짜 정보를 퍼뜨리는 수단으로 악용될 수 있다는 우려도 확산했다.

조사 결과 바이든 대통령의 목소리를 조작한 전화 음성은 텍사스의 한 업체가 제작한 것으로 확인됐다.

FCC는 이 업체에 대해서는 경고장을 보냈다고 밝혔다.

한편 미국에서는 연방 정부가 아닌 개별 주 차원에서도 AI를 활용한 가짜 정보 확산을 막으려는 움직임이 본격화하고 있다.

올해 들어서만 10여개 주의회가 AI를 활용한 가짜 이미지나 오디오로 선거운동을 하는 것을 금지하는 법안을 추진 중이다.