KAIST가 미국 뉴욕대(NYU)와 손잡고 구글, 메타 등 글로벌 빅테크기업과 석학들을 한자리에 모아 기술 혁신과 안전의 균형을 맞출 실질적인 ‘인공지능(AI) 거버넌스’ 체계 마련에 나섰다.
KAIST는 지난 6~7일(현지시각) NYU에서 ‘KAIST-NYU AI 및 디지털 거버넌스 서밋’을 개최했다.
이번 행사는 단순 주제발표 형식의 포럼을 넘어 실행가능한 규범과 정책을 도출하기 위해 투표와 합의 과정을 거치는 실험적 합의 모델을 적용해 주목받았다.
서밋에는 앤쓰로픽, 구글딥마인드, 메타, IBM, 아마존 등 세계적 AI 기업 전문가들과, 필립 골드버그 전 주한미국대사, 차머스 뉴욕대 교수, 차지호 더불어민주당 국회의원 등이 참석했다.
이번 행사는 KAIST 과학기술과글로벌발전연구센터(G-CODEs)와 NYU 생명윤리연구센터가 기획을 주도, 지난해 12월부터 온라인으로 진행한 사전 토론을 바탕으로 현장에서 치열한 합의회의를 여는 방식으로 진행했다.
참가자들은 거버넌스 필수 요건, 제도적 아키텍처, 이행경로 등 세 가지 분과에서 구체적인 가이드라인을 만들었다.
거버넌스 필수 요건에서는 고위험 AI 시스템에 대한 감독 강화가 핵심 주제로 등장했다.
전문가들은 자율적으로 목표를 추구하거나 사람을 속일 수 있는 전략적 기만 능력을 갖춘 AI 시스템의 경우 기존 기술보다 훨씬 높은 수준의 모니터링이 필요하다는 데 의견을 모았다.
또 제도적 아키텍처 분과에서는 AI를 감독할 기구를 어떻게 설계할지 논의했다.
이 과정에서 미국 식품의약국(FDA)이나 연방항공청(FAA)처럼 고위험 기술을 성공적으로 관리해 온 기존 모델을 AI 분야에 어떻게 적용할지 검토했다.
이행경로 분과에서는 국제적인 AI 규제가 완성되기 전 규제 공백기에 기업들이 당장 무엇을 해야 할지를 다뤘다.
이를 통해 법적 강제성이 없더라도 기업이 국경을 넘어 지켜야 할 책임 기준과 자율 규약 등 단기적인 실천 방안을 집중적으로 모색했다.
특히 공개 토론에는 450여 명의 청중이 몰린 가운데 AI의 미래 결정권에 대해 논의했다.
KAIST에서는 박경렬 과학기술정책대학원 교수와 김소영 국제협력처장, 김형준 AI대학 학과장 등이 참여해 한국의 연구 성과를 공유하고 논의를 이끌었다.
박 교수는 “이번 서밋은 AI 거버넌스를 단순한 기술 규제가 아닌 국제 협력과 제도 설계의 문제로 확장한 시도”라며 “KAIST와 NYU의 협력으로 한국이 글로벌 논의를 주도할 토대를 만들겠다”고 말했다.
이광형 KAIST 총장은 “책임 있는 AI 혁신을 위해 거버넌스 논의가 중요해지고 있다”며 “국제 파트너십을 통해 관련 분야 연구와 정책 논의를 선도하겠다”고 강조했다.
