‘인공지능(AI) 기본법’이 지난 22일부터 시행되면서 AI를 관리하는 종합적인 법 체계가 본격적으로 가동됐다. 그동안 명확한 기준 없이 활용돼 온 AI에 대해 정부가 처음으로 공통된 관리 기준을 제시한 것이다.
이번 법 시행으로 생성형 AI 결과물에는 ‘AI가 만든 것’임을 알 수 있도록 워터마크 표시가 의무화됐고, 사람의 생명이나 권리에 큰 영향을 미칠 수 있는 AI는 ‘고영향 AI’로 분류돼 별도의 관리 대상이 된다. 그동안 불분명했던 AI 활용 기준이 제도권 안으로 들어왔다는 평가가 나온다.
법조계에서는 이번 법을 계기로 AI를 단순한 신기술이 아니라 사회 전반에 영향을 미치는 기반 인프라로 관리하기 시작했다는 해석도 있다.
AI 기본법은 의료, 에너지, 채용, 대출 심사 등 국민의 생명·안전·기본권에 직접적인 영향을 줄 수 있는 분야에서 활용되는 인공지능을 ‘고영향 AI’로 규정했다. 이런 AI를 운영하는 경우, 이용자에게 AI 활용 사실을 알리고 위험 요소를 관리하는 등 기본적인 의무를 지도록 했다.
또 생성형 AI가 만든 글이나 이미지, 영상에는 이용자가 AI 제작물임을 알아볼 수 있도록 워터마크를 표시해야 한다. 이를 지키지 않을 경우 최대 3000만원의 과태료가 부과된다.
다만 IT 업계를 중심으로는 고영향 AI의 기준이 다소 모호하다는 지적도 나온다. 법에서는 국민의 생명이나 권리에 중대한 영향을 미칠 수 있는 AI를 고영향 AI로 규정하고 있지만, ‘중대한 영향’이나 ‘위험성’을 어디까지로 볼 것인지에 대한 구체적인 수치는 제시되지 않았다.
이 때문에 어떤 AI가 규제 대상에 해당하는지를 두고 해석 차이가 발생할 수 있고, 일부 기업에는 사업 불확실성을 키울 수 있다는 우려도 제기된다.
법조계는 이런 우려를 인정하면서도, 제도를 보완할 장치가 마련돼 있다는 점에 주목한다. 허종 법무법인(유) 지평 변호사는 “그동안 인공지능 개발·이용 사업자들이 별도의 규제 틀 없이 서비스를 운영해 온 측면이 있었다”며 “국민 기본권에 큰 영향을 줄 수 있는 분야에 최소한의 기준을 제시했다는 점에서 이번 법 시행은 중요한 의미가 있다”고 평가했다.
허 변호사는 또 “기업들도 자신들이 개발하거나 운영하는 AI가 고영향 AI에 해당하는지, 해당한다면 어떤 의무를 지켜야 하는지를 점검할 기준이 마련됐다”고 설명했다.
법 시행 초기에는 해석이 필요한 부분이 남아 있지만, 정부 가이드라인과 행정 절차를 통해 예측 가능성을 높일 수 있다는 분석도 나온다. 허 변호사는 “정부가 비교적 구체적인 가이드라인을 마련해 기업들이 스스로 점검할 수 있도록 한 점은 긍정적”이라며 “고영향 AI 해당 여부가 애매할 경우 과학기술정보통신부 장관에게 공식 확인을 요청할 수 있는 절차도 마련돼 있다”고 말했다.
학계 역시 이번 법을 기준 마련의 출발점으로 평가하고 있다. 문형남 숙명여대 글로벌융합학부 교수(한국AI교육협회장)는 “AI 기본법 제정 자체로 의미는 크지만, 현장에 완전히 정착하기까지는 시간이 필요하다”며 “시행 초기에는 기준이 다소 모호하게 느껴질 수 있으나, 하위 법령과 해석을 통해 적용 범위가 점차 구체화될 것”이라고 말했다.
이어 “고영향 AI 분류와 워터마크 제도 역시 추가 논의를 거쳐 운영 기준이 더 정교해질 필요가 있다”고 덧붙였다.
법조계에서는 이번 법이 강한 처벌 중심 규제라기보다는, AI 활용에 대한 기본적인 관리 틀을 만드는 데 초점이 맞춰졌다고 보고 있다. 허 변호사는 “규제 요소도 일부 포함돼 있지만 전체 구조는 자율 관리에 가까운 편”이라며 “시행 초기에는 제도 안착과 기준 정립에 정책적 초점이 맞춰질 가능성이 크다”고 전망했다.
AI 활용이 계속 확대되는 만큼, 법적 책임과 관리 기준도 단계적으로 정비될 필요가 있다는 지적이 나온다.
