최근 유행하는 노래 ‘밤양갱’을 처음 접한 건 숏폼 플랫폼에서다. 무심히 튕기던 엄지손가락을 멈추게 만든 주인공은 가수 고(故) 김광석. 지난 1995년 KMTV에서 진행한 슈퍼콘서트 영상이었다. 특유의 깊은 감정으로 그가 노래했다. 내가 먹고 싶었던 건 달디단 밤양갱이라고.

가수를 좋아하는 팬들 사이에는 유명한 바람이 하나 있다. 세상 모든 노래를 좋아하는 가수의 목소리로 듣는 것. AI 발전 덕에 세상 모든 노래를 김광석의 목소리로 들을 수 있게 됐다. 영상에는 ‘이게 바로 AI의 순기능’이라는 댓글이 줄지었다.

유명인의 목소리 데이터를 학습, 모방해 만든 AI 커버곡이 인기다. 가수 비비의 노래 밤양갱의 경우 아이유, 양희은, 임재범 등의 AI 커버 버전이 올라왔다. 영국 록 밴드 퀸 멤버 프레디 머큐리가 부른 밤양갱도 있으니, AI 커버곡에 대한 대중의 호기심과 흥미는 분명히 있어 보인다.

문제는 올라가는 콘텐츠 조회수만큼이나 저작권 침해, 범죄 이용 우려 심각성도 커지고 있다는 것이다. ‘챗GPT’ 개발사인 오픈AI는 사람 음성을 학습해 모방 음성을 생성하는 AI 도구 ‘보이스엔진’을 개발해 지난달 29일(현지시간) 공개했다. 보이스엔진은 15초 분량의 음성 샘플만 있으면, 화자와 비슷한 소리를 만들어낸다. 원본과 복제본을 구별하기 어려울 정도다.

기술의 발전을 마냥 기뻐할 수 있을까. 결론부터 말하자면 그럴 수 없다. 선거가 있는 해엔 더욱 그렇다. 미국 전 국무장관은 힐러리 클린턴은 올해 치러질 미국 대선에 있어 가장 큰 위협으로 AI를 지목했다. 실제 미국에서는 지난 1월 뉴햄프셔주 민주당 프라이머리 예비선거를 앞두고 “투표를 하지 말라”라고 말하는 바이든 대통령 사칭 전화가 유권자 사이에 퍼졌다. 선거판은 순식간에 흔들렸다. 올해는 전 세계 70여개국에서 40억명의 인구가 투표를 한다. 한 나라에 국한한 문제가 아니다.

AI는 한국의 제22대 국회의원선거도 위협한다. 딥페이크 악용 사례를 반면교사 삼아 경각심을 가진 건 불행 중 다행이다. 구글은 이번 총선과 관련해 정치 광고를 지원하지 않기로 했다. 네이버와 카카오, SK커뮤니케이션즈 등 국내 포털은 중앙선거관리위원회와 협력해 딥페이크 콘텐츠를 차단한다는 계획이다. 뉴스 서비스에서도 생성형 AI가 작성한 기사에 AI 저작물임을 표기하기로 했다. 언론도 선거기간이 되면 자체적으로도 팩트체크 기사를 늘려 사실적 정확성을 파악하는 데 품을 들인다.

문제는 규제가 닿지 않는 곳에 있다. 자극적인 콘텐츠를 올리는 각종 숏폼 계정이나 업로드에 제재가 없는 온라인 커뮤니티 등이다. 출처 없는, 잘못된 정보를 담은 게시물이 무분별하게 퍼진다. 과거엔 신문·TV·라디오 등 매스미디어가 수용자에게 직접적인 영향을 줬다. 현재는 다르다. 중개자들의 역할이 커졌다. 정보를 먼저 접한 사람이 어떤 해석을 담아 공유하느냐에 따라 주변 수용자들의 의견이나 태도가 달라진다. 편파적이고 악의적인 딥페이크 콘텐츠가 뿌리내리기에 이만한 땅이 없다.

숏폼이나 온라인 커뮤니티를 통한 정보 수용은 느는 상황이다. 한국언론진흥재단에서 진행한 2023 언론수용자 조사에 따르면 기사를 언론사 페이지나 포털 기사 섹션에서 소비하는 사람보다 SNS에서 소비하는 사람이 많아지고 있다. 숏폼을 통한 뉴스 이용률은 37.8%, 응답은 20~30대에서 특히 높았다. 온라인 카페나 커뮤니티를 통한 뉴스 이용 경험은 11.5%였다. 지난 2021년의 8%에 비해 상승한 수치다.

미국과 유럽연합이 AI 악용을 막겠다며 규제 법안 마련에 나섰다. 필요한 대응이다. 하지만 기술의 발전 속도는 늘 규제 속도를 앞선다. 제한만으로는 문제를 근본적으로 해결할 수 없다. 숏폼 플랫폼이나 온라인 커뮤니티에서 최소한의 자체 규제 시스템을 만들어야 한다. AI 기술의 윤리적 사용에 대한 논의도 시작해야 한다. 무엇보다 중요한 건 정보를 수용하는 이들의 비판적 사고다.

민수미 편집부장 min@kukinews.com