캘리포니아주가 글로벌 현안으로 부각한 딥페이크 문제에 칼을 꺼내 들었다. AP통신에 따르면 캘리포니아 주의회는 지난주 인공지능(AI) 기술을 이용한 딥페이크를 규제하는 일련의 법안을 처리했다.

개빈 뉴섬 캘리포니아 주지사에게 송부된 법안에 따르면 AI로 미성년자를 성 착취하는 내용의 딥페이크는 제작 자체가 금지된다. 현행법에서는 딥페이크 성 착취물을 제작하는 것은 미성년자를 대상으로 해도 불법이 아니다. 표현의 자유를 규정한 미국 수정헌법 1조에 따라 딥페이크 속 인물이 실존하는 인물이 아닐 경우에는 기소와 처벌이 불가능하다는 것이다.

그러나 주의회가 처리한 법안은 실존하는 인물이 아니더라도 딥페이크 아동 성 착취물은 처벌이 가능하도록 규정했다. 뉴섬 주지사가 이 법안에 서명한다면 딥페이크 아동 성 착취물을 제작한 사람뿐 아니라, 배포나 소지한 사람도 처벌받을 수 있다.

또한 캘리포니아 주의회는 11월 대선을 앞두고 성 착취물뿐 아니라 선거 관련 딥페이크에 대한 규제를 강화하는 내용의 법안도 처리했다. 선거와 관련한 딥페이크 제작을 금지하고, 소셜미디어 업체에 선거 전 120일 전부터 딥페이크를 사용한 선거 콘텐츠를 규제하도록 의무를 부과했다. 선거 당국이나 후보가 딥페이크 선거 콘텐츠를 제작한 사람에 대해 소송을 제기해 손해배상을 받을 수 있는 길도 열어놨다.

이 법안은 풍자가 목적인 딥페이크에 대해선 규제하지 않는다는 예외 조항도 뒀다. 구글과 엑스 등 업계는 표현의 자유에 대한 과다한 규제라는 이유로 이 법안들에 대해 반대하는 분위기다. 다만 챗GPT 개발사 오픈AI는 SNS 업체들의 AI 콘텐츠 관리 의무 강화에 찬성하는 것으로 알려졌다.

뉴섬 주지사는 9월30일까지 법안에 서명하거나, 거부권을 행사할 수 있다. 뉴섬 주지사가 법안에 서명한다면 캘리포니아는 미국에서 최초로 AI 딥페이크에 대한 포괄적인 규제를 도입하는 주가 된다.