글로벌 정보기술(IT) 기업과 국내 인공지능(AI) 스타트업, 개인정보 감독기구가 오픈소스 AI의 안전한 활용 방안을 모색하기 위해 서울에 모였다.
개인정보보호위원회는 16일 개막하는 글로벌 프라이버시 총회(GPA)를 앞두고 15일 사전 행사 ‘오픈소스 데이’를 개최했다. 행사에는 구글, 메타, 마이크로소프트(MS), 오픈AI, 네이버, 셀렉트스타, 에임 인텔리전스 등 국내외 기업과 해외 감독기구 관계자 등 120여 명이 참석했다.
“가장 시급한 건 개인정보 필터링”
참석자들은 오픈소스 AI를 실제로 활용할 때 직면하는 위험과 대응 방안을 집중 논의했다. 핵심 주제는 △개인정보 필터링 △특정 데이터를 추가 학습시키는 미세조정 △모델 취약점을 찾는 모의 해킹 방식인 레드팀 테스트였다.
한 국내 스타트업 관계자는 “모델에 개인정보가 들어 있는지 확인하기 어렵다”며 “명확한 가이드라인이 필요하다”고 지적했다. 이에 셀렉트스타 측은 “오픈 데이터셋을 만들 때부터 검증 절차를 마련해야 한다”며 “사전 검증이 사후 대응보다 훨씬 효율적”이라고 강조했다.
에임 인텔리전스는 “미세조정 과정에서 기존 안전장치가 무력화될 수 있다”며 각별한 주의를 당부했다. 구글은 자사 플랫폼 ‘버텍스(Vertex) AI’ 플랫폼을 소개하며 “품질 평가와 안전성 강화 도구를 함께 제공하는 이유는 학습 이후에도 지속적인 모니터링이 가능하게 하기 위함”이라고 설명했다.
레드팀 테스트의 필요성도 주목받았다. 오픈AI는 “오픈소스 모델은 코드와 가중치가 공개돼 있어 더 체계적인 테스트가 필요하다”며 “글로벌 차원의 표준화된 프레임워크 마련이 시급하다”고 말했다. MS는 “스스로 판단·행동하는 차세대 AI인 ‘에이전틱 AI’는 예측하기 힘든 결과를 낼 수 있어 기존 테스트 방식을 보완해야 한다”고 덧붙였다.
4개국 한목소리…“에이전틱 AI 시대 ‘국제 공조’ 필수”
한국을 비롯해 영국·이탈리아·브라질 개인정보 감독기구가 참여한 라운드테이블에서는 “개방성과 투명성에 기반한 신뢰할 수 있는 AI 생태계가 필요하다”는 데 뜻을 모았다.
영국 대표는 “자율성을 갖춘 AI가 확산하면 개인정보 처리 주체와 책임 소재가 모호해질 수 있다”며 국제 공조의 중요성을 강조했다. 이탈리아 측은 “투명성을 유지하면서도 신뢰를 구축하는 것이 공통 과제”라고 말했다.
최장혁 개인정보위 부위원장은 “이번 행사는 일회성 이벤트가 아니라 지속적 소통 채널의 시작점”이라며 “기업과 연구자들이 안심하고 오픈소스를 활용할 수 있도록 현장의 목소리를 정책에 적극 반영하겠다”고 밝혔다.
김휘강 비상임위원도 “오픈소스의 개방·공유 문화는 혁신을 가속하는 원동력”이라며 “신뢰할 수 있는 AI 발전의 출발점이 되기를 기대한다”고 말했다.
