미국 캘리포니아주가 최근 세계적으로 문제가 되고 있는 딥페이크(인공지능 기반 이미지 합성) 범죄에 대한 법적 규제에 나섰다.
지난달 31일(현지시간) AP통신에 따르면 캘리포니아 주의회는 아동 성착취물 제작 등 인공지능(AI)을 활용한 범죄 행위를 단속하기 위해 일련의 규제 법안을 처리했다. 이제 개빈 뉴섬 주지사의 서명만 남았다.
이번 법안에는 딥페이크 기술을 이용해 아동 성착취물을 만들 경우 처벌이 가능하도록 하는 내용이 담겼다. 현행법에선 표현의 자유를 규정한 미국 수정헌법 1조에 따라 딥페이크 영상 속 인물이 실존 인물이 아니면 미성년자를 대상으로 해도 기소와 처벌이 불가능했다.
딥페이크 아동 성착취물을 제작한 사람뿐 아니라 배포·소지한 사람도 처벌 대상이 될 수 있도록 하는 내용도 법안에 포함됐다.
뉴섬 주지사는 9월30일까지 법안에 서명하거나 거부권을 행사해야 한다. 뉴섬 주지사가 이 법안에 서명한다면 캘리포니아는 미국에서 최초로 AI 딥페이크에 대한 포괄적 규제를 도입하는 주가 된다.
캘리포니아 주의회는 11월 대선을 앞두고 선거 관련 AI 딥페이크에 대한 규제를 강화하는 내용의 법안도 처리했다. 선거와 관련한 딥페이크 제작을 금지하고, 사회관계망서비스(SNS) 업체에 선거 120일 전부터 딥페이크를 사용한 선거 콘텐츠를 규제하도록 의무를 부과했다.
선거 당국이나 후보가 딥페이크 선거 콘텐츠를 제작한 사람에게 손해배상을 청구할 수 있는 길도 마련했다. 다만 풍자가 목적인 딥페이크에 대해선 규제 대상의 예외로 뒀다.
