이재명 정부가 ‘AI 3강 도약’을 목표로 추진 중인 전 국민 대상 인공지능(AI) 서비스 ‘모두의 AI’를 두고, 국민 개인정보 활용 여부를 둘러싼 논란이 제기되고 있다. 이에 대해 과학기술정보통신부는 “국민 개인정보는 활용하지 않는다”고 선을 그었다.
25일 과기정통부와 정보통신산업진흥원에 따르면, 오는 30일 서울 코엑스 오디토리움에서 ‘독자 AI 파운데이션 모델’ 프로젝트 1차 발표회가 열린다. 지난 8월 선정된 △네이버클라우드 △업스테이지 △SK텔레콤 △NC AI △LG AI연구원 등 5개 정예팀은 그동안 개발한 1차 성과물을 공개할 예정이다.
정부는 글로벌 수준의 독자 AI 파운데이션 모델이 국내에 오픈소스로 확산될 경우 다양한 AI 서비스 출시와 경제·사회 전반의 AI 전환이 가속화될 것으로 기대하고 있다. 특히 글로벌 AI 모델의 95% 이상 성능을 구현하는 독자 AI 모델을 전 국민이 사용할 수 있는 모두의 AI 서비스를 출시한다는 계획이다.
과기정통부는 해당 프로젝트에 참여하는 국내 정예팀 공모 당시 “이번 프로젝트는 단순한 독자 AI 파운데이션 모델 개발을 넘어 AI 시대 대한민국의 기술주권 확보, 모두의 성장을 도모하는 생태계 구축이 목표”라며 “대한민국이 AI 강국으로 도약하는 모두의 AI 출발점이 될 것”이라고 밝혔다.
다만 전문가들은 정부 주도의 AI 산업 육성 방식과 국민 데이터 활용 가능성에 대한 우려를 제기하고 있다. 정부가 운영하는 AI 서비스가 해킹될 경우, 대규모 데이터 유출 사고로 이어질 수 있다는 지적이다.
실제 앞선 국가정보자원관리원 화재로 709개 행정정보시스템이 마비됐으며 복구에 상당 시간이 소요된 바 있다. 또 지난 8월 미국 보안 전문지 프랙 보고서에 따르면, 국방부·외교부·방첩사령부·대검찰청 등을 겨냥한 북한 해커들의 피싱 공격이 있었다. 이 과정에서 행정안전부의 행정전자서명(GPKI) 인증서, 외교부 내부 메일 서버 소스코드, 통일부‧해양수산부의 ‘온나라’ 소스코드와 내부망 인증 기록 등이 유출됐다고 봤다.
함유근 건국대 경영대학 교수(전 한국빅데이터학회장)는 “중국 학생들도 국가 감시를 이유로 딥시크, 두바오 등 생성형 AI를 사용하지 않는다는 말이 있다”라며 “부처별이나 연계 서비스는 괜찮지만 중앙 집중적인 AI 서비스는 위험성이 있다”라고 말했다.
이어 “일부 기업에 공적 데이터를 제공하는 구조가 될 수 있다”며 “정부는 (직접 AI 서비스를 운영하기 보다는) 민간기업의 사업을 지원하는 접근법이 더 바람직할 수 있다”고 덧붙였다.
과기정통부는 5개 정예팀이 합법적으로 이용할 수 있는 데이터를 활용하며 국민의 개인정보는 활용하지 않는다고 반박했다.
과기정통부 관계자는 “아직 프로젝트가 진행 중인 상황으로 확정된 것은 없으나 국민의 개인정보는 전혀 학습되지 않은 것으로 알고 있다”라며 “정예팀 중 개인정보를 가지고 있다고 하더라도 개인정보보호법 상 AI 모델 학습에 활용할 수는 없을 것”이라고 설명했다.
한편, 개인정보보호위원회는 AI 등 신기술 확산으로 프라이버시 침해 위험이 커지고 있다고 보고, 예방 중심의 대응 체계 강화를 위해 조직을 확대했다. 개인정보위는 23일 예방조정심의관(고위공무원 나급)과 사전실태점검과(7명)를 신설했으며, 조사관 6명, 분쟁조정 대응 인력 1명, 디지털소통팀 2명 등 총 17명의 정원을 증원했다.
개인정보위 관계자는 “대규모 언어모델(LLM)에 활용되는 개인 데이터는 결과값으로 나오지 않도록 가드레일 등 보호장치를 두고 있다”라며 “모두의 AI가 어떤 형태로 만들어질지는 모르지만 정예팀에 속한 기업들도 개인정보위의 AI 프라이버시 가이드라인을 주시하고 있을 것”이라고 말했다.
정부는 1차 발표회 이후 평가 절차에 착수해 다음 달 15일 이내 1차 단계평가를 완료하고 내부 종합 과정을 거친다. 이르면 1월19일쯤 평가 결과를 발표하며 5개 팀 중 4개팀이 선발된다.
