정부가 인공지능(AI) 챗봇 그록 내에 청소년 보호를 위한 안전장치를 마련해 줄 것을 엑스(X‧옛 트위터)에 요청했다. 그록은 불법 성적 이미지 생성 등으로 논란이 되고 있다.
방송미디어통신위원회는 최근 성착취물‧비동의 성적 이미지가 소셜미디어를 통해 전파돼 사회적 우려가 커짐에 따라 엑스의 그록 서비스에 대해 청소년 보호 장치 마련을 요구했다고 14일 밝혔다.
일론 머스크가 운영하는 AI 기업 xAI는 최근 엑스에서 그록을 사용해 딥페이크 이미지를 생성하는 서비스를 선보였다. 그러나 다른 사용자가 동의 없이 딥페이크 이미지로 만들어 올리는 사례들이 나오며 논란이 일고 있다.
방미통위는 그록 서비스 이용자의 불법 행위가 발생하지 않도록 엑스 측에서 안전장치를 마련할 것을 요청했다. 이어 유해정보로부터 청소년을 보호하기 위해 청소년 접근제한 및 관리조치 등 보호 계획을 수립해 그 결과를 회신해 줄 것을 통보했다.
현재 엑스는 ‘정보통신망법’에 따라 청소년보호책임자를 지정해 방미통위에 통보하고 있으며 매년 청소년보호책임자 운영실태 관련 자료를 제출하고 있다. 그록 서비스에 대해서도 이와 관련한 자료를 요청했다.
특히 방미통위는 엑스 측에 당사자 의사에 반해 성적 허위영상물을 제작‧유통‧소지‧시청하는 행위가 형사처벌 대상이라는 점도 전달했다.
김종철 방미통위원장은 “새롭게 도입되는 신기술이 건전하고 안전하게 발전하는데 도움이 되도록 적극 지원하고자 한다”라며 “이에 따른 부작용과 역기능에 대해서는 합리적 규제를 진행해 나갈 예정”이라고 말했다.
이어 “인공지능 서비스 제공자를 대상으로 성범죄물 등 불법정보 유통 방지 및 청소년 보호 의무 부과 등 제도 개선을 추진해 나갈 계획”이라고 덧붙였다.
