“안녕하세요 저는 김재민입니다.” 기기에 말을 건넨 지 1분도 채 되지 않아, 똑같은 목소리로 “지금 바로 oo은행 계좌로 100만원 입금해줘” 라고 말한다. AI보이스 생성임을 인지하고 있음에도 얼핏 들으면 실제 자신의 목소리와 거의 구별이 되지 않는다.
챗GPT로 대표되는 AI기술의 급격한 발전은 누구나 어디서든 쉽게 TTS(Text to Speech) 기능을 활용할 수 있게 했다. 그러나 이러한 AI보이스 생성기를 통한 신종 보이스피싱 수법이 최근 피해 사례를 급증시키고 있어 주의가 필요한 시기다. 실제로 2023년 4472억원 규모였던 보이스피싱 피해는 지난해 8545억원으로 1년 새 2배가량 증가했다.
단지 음성만의 문제가 아니다. 고도화된 딥페이크(Deepfake) 기술을 통해 영상 통화를 통해서도 신종 사기 수법이 진화하고 있다. 통상 보이스피싱을 의심하는 경우 영상 통화로 이를 확인하려 하므로 딥페이크를 통한 사기 수법에 피해자는 더욱 취약할 수밖에 없다.
AI 보이스피싱, 통신사가 막는다
LG유플러스는 26일 LG서울역빌딩에서 ‘AI 보안 기술 설명회’를 열고 국내 통신사 최초로 ‘안티딥보이스(Anti-DeepVoice)’와 ‘안티딥페이크(Anti-Deepfake)’ 기술을 개발해 자사 AI통화 에이전트 서비스 ‘익시오(ixi-O)’에 적용한다고 밝혔다. 안티딥보이스가 우선 탑재되는 익시오는 LG AI 연구원의 LLM(거대언어모델)인 ‘엑사원(EXAONE)’을 기반으로 통신 데이터를 학습해 자체 개발한 sLLM ‘익시젠(ixi-GEN)’ 기반의 서비스다.
LG유플러스는 안티딥보이스 기술 상용화를 위해 AI 엔진에 약 3000시간 분량의 통화 데이터를 학습시켰다. 3000시간은 통화 건수로 약 200만건에 해당하는 양이다. 완성된 안티딥보이스는 위조된 목소리의 부자연스러운 발음을 찾아내거나 음성 주파수의 비정상적인 패턴을 탐지하는 등 과정을 통해 진위를 판별한다.
LG유플러스는 데이터 확보 과정에서 수사기관 및 금융기관의 도메인을 확보해 정확도를 높였다. 이석영 LG유플러스 모바일Agent트라이브 담당은 “서비스 초기였던 올 2~3월에는 정상적으로 고객센터에서 안내하는 내용을 민감하게 받아들여 걸러내는 등 잘못 판별하는 사례도 있었지만 이러한 점을 즉시 파악해 화이트리스트 등록 등으로 조처했고, 지속적인 학습 과정을 통해 정확도를 더욱 높여가고 있다”고 말했다.
특히 통화 전-중-후를 기준으로, AI가 보이스피싱으로 신고된 전화번호의 통화 패턴을 학습해 ‘통화 전’ 단계에서 자동적으로 탐지하는 기능을 지난해 8월 선보인 바 있다. 향후 ‘통화 중’ 단계에서 보이스피싱 범죄자의 목소리를 탐지하는 시스템을 개발하기 위해 국립과학수사연구원과 협력하고 있으며, ‘통화 후’ 단계에서 보이스피싱의 실질적 피해 방지를 위해 금융권과 통신-금융 연계 피싱 공동 모니터링 체계를 구축한다는 계획이다.
AI를 고객 중심으로 활용하겠다는 방향성 하에 LG유플러스는 익시오를 통해 향후 통화 전-중-후 과정뿐만 아니라 스토킹성 연락, 학교폭력 등 원치 않는 연락으로부터 고객을 보호하고, 개인의 감정까지 케어할 수 있는 ‘AI 안심 Agent’로 진화시킨다는 계획이다.
전병기 AX기술그룹장(전무)은 이날 설명회에서 “안티딥보이스는 단순히 키워드로 판단하는 게 아니라 문장 전체 또는 누적된 통화 내용을 보고 확률적으로 판별하는 것이고 이를 위해선 데이터 확보가 매우 중요하다”면서 “학교나 교육기관, 보호기관 등과의 협업을 통해 다량의 데이터를 학습시켜 이를 판단하고 부모에게 알림이 전달되는 등의 구조일 것”이라고 설명했다.
사진·영상의 진위 여부를 판별하는 ‘안티딥페이크’ 기술의 경우 합성된 영상에 남아있는 비자연적인 흔적을 탐지한다. 페이크 영상 생성 과정에서 발생하는 신경망 모델의 생성 흔적, 픽셀 단위의 비정상적 변화 패턴을 위주로 스캔하는 방식이다. 실제로 설명회의 한 공간에 마련된 안티딥페이크 기기는 실제 촬영된 영상과 조작된 영상을 정상·비정상으로 구분하고 있었다.
한영섭 AX기술그룹 AI테크랩(Lab)장은 “실제 화상통화 환경에서 활용할 수 있도록 해상도·압축·조명 변화 등 조건에서도 탐지가 될 수 있도록 고도화하고 있고, 추후 딥페이크 기반 유해 콘텐츠 판별 솔루션으로 진화할 수 있도록 개발을 진행하고 있다”고 부연했다.
이러한 안티딥보이스, 안티딥페이크 기술은 소위 ‘경량화’해 온디바이스(단말기 등) AI 형태로 저장·분석된다. 중앙기관에 해당하는 통신사 서버에 저장될 경우 통화 내용 등 고객의 데이터가 사실상 감청돼 개인정보보호 우려를 낳을 수 있기 때문이다. 이때 중요한 것은 서버 대비 용량이 작은 온디바이스에 저장하기 위한 경량화, 그리고 온디바이스 자체의 보안 문제다.
한영섭 AI테크랩장은 “먼저 상용화되는 안티딥보이스의 경우 개발 초기 기가 단위의 서버 기반에서 성능을 끌어올린 후 자체 노하우와 경험을 통해 성능을 95% 이상 유지하면서 수십 메가 단위로의 경량화를 달성했다”며 “아직 개발 단계지만 추후 양자암호보안 기술을 통해 단말기 보안을 강화하고, 양자컴퓨팅을 통해 데이터를 복제할 수 없는 키 값으로 저장해 혹여 해킹이 됐더라도 이를 풀 수 없도록 개발해 나가고 있다”고 말했다.
LG유플러스는 이러한 기술적 개발 외에도 고객이 일상생활에서 보안 케어를 받을 수 있는 프로세스를 구축해 나가고 있다. 디지털 채널에서 가입 첫날부터 보안 점수를 수시 체크함과 동시에, 오프라인 채널에선 전국 1800여 개 LG유플러스 매장을 ‘U+보안 전문 매장’으로 지정, 보안 전문 상담가를 통해 고객 맞춤형 상담, 피해 진단 및 대처 방법 안내, 단말 초기화 지원 등에 나서고 있다.
최윤호 AI Agent추진그룹장(상무)은 “기술이 만든 문제는 기술로 해결해야 한다는 사명감으로 개발을 진행하고 있다”며 “통신사로서 보안은 기본적으로 지켜야 할 의무라고 생각하고 있기 때문에 가입자께서 LG유플러스를 선택하실 때의 핵심 고려 기능으로 자리매김하도록 노력할 것”이라고 말했다.
