대학가에서 벌어진 AI 커닝 논란이 이제 ‘AI 판독기’ 문제로 옮겨붙었다. 생성형 AI 사용이 확산되면서 대학에서 AI 판독기 도입은 점차 늘고 있지만, 기술적 한계로 인한 오판 사례가 잇따르며 미검증 기술의 공정성과 신뢰도에 대한 우려도 커지고 있다.
“AI가 썼대” 판정으로 낙인…피해 현실화
온라인에서는 AI 문서 판독기 때문에 피해를 봤다는 사례가 꾸준히 공유되고 있다. 최근 국내 최대 대학 온라인 커뮤니티 ‘에브리타임’에는 “AI 판독기 돌려서”라는 제목의 글이 올라왔다. 익명의 작성자는 “20% 이상이면 0점 처리라 해서 급하게 돌려봤는데 33%가 나왔다. 챗지피티를 전혀 안 썼다”고 토로했다. “과제를 판독기에 넣었더니 100%가 나왔다”는 글도 있었다.
소셜미디어 X(옛 트위터)에도 비슷한 사례가 잇따랐다. 한 취업준비생은 “자소서를 직접 썼는데도 판독기에서는 AI 확률이 75%로 나온다”고 했고, 한 대학생은 “교수님이 수행평가 과정에서 AI 표절 판독기를 쓴다길래 미리 돌려봤더니 70~80%가 떴다. 어떻게 해야 하냐”라고 적었다.
이처럼 사람이 직접 작성한 문서가 판독기에서 ‘AI 생성’으로 잘못 판단되는 경우가 반복되고 있다.
사용 확산…낮은 정확도와 모순된 기술 구조
실제 사용량은 급증세를 그리고 있다. AI 기업 무하유가 공개한 자사 탐지 서비스 통계에 따르면 교수자용 표절검사 서비스 ‘CK브릿지’의 검사 문서량은 전년 10월 대비 4.3배 증가했다.
반면 정확도는 낮았다. 2024년 발표된 논문 ‘생성형 AI 텍스트 감지기를 우회하는 간단한 기법’에 따르면 GPT 제로 등 주요 AI 판독기 7개의 평균 정확도는 39.5%에 불과했다. 문장 길이를 바꾸거나 철자 오류를 일부러 넣으면 정확도는 22.2%까지 떨어졌다.
AI 판독기, 어떻게 작동하나…기술적 한계 뚜렷
시중 대부분의 AI 판독기는 문장의 복잡성, 일관성 등을 분석해 패턴을 파악한다. 어휘 반복률, 문장의 단순성, 특정 문체적 특징 등을 통계적으로 평가해 ‘AI 생성 확률’을 계산한다.
다만 기술적 한계는 명확하다. AI 판독기는 문법 오류가 없고 간결한 문장을 AI 작성으로 간주하는 경향이 있다. 제품별 정확도 편차도 크다. AI가 생성한 콘텐츠를 또 다른 AI가 검증하는 구조 자체가 동일한 논리 체계를 공유해 근본적 모순을 갖는다는 지적도 있다.
“판독기 단독 판단은 권리 침해…보조 자료로만 써야”
AI 판독기에 의존해 징계나 탈락 여부를 결정하는 것은 법적 문제도 야기할 수 있다. 유재규 법무법인 태평양 변호사는 “학생이나 지원자의 징계·탈락은 인생에 직접적인 영향을 미치는 중요한 결정”이라며 “AI 오류 가능성이 있는 상황에서 판독기 결과에 의존해 처분을 결정하는 것은 당사자가 공정한 평가를 받을 권리를 침해하는 것”이라고 지적했다. 그러면서 “AI 판독은 보조 자료로 사용하고, 최종 판단은 책임자가 여러 자료를 종합해 결정해야 한다”고 강조했다.
김현준 법무법인 YK 변호사도 “현 기술 수준에서 AI 판독 결과만으로 징계를 결정하는 것은 법적·절차적으로 타당하지 않다”며 “판독 결과와 기타 정황을 함께 검토하는 방식 외엔 현실적 대안이 없는 상황”이라고 말했다.
대안은 ‘적발’ 아닌 ‘과정 중심 평가’
AI 판독기의 한계가 확인되면서, 평가 방식 자체를 바꿔야 한다는 목소리가 힘을 얻고 있다. 토론, 발표, 구술시험 등 학생의 사고 과정을 직접 확인하는 평가 방식은 AI가 작성한 결과물과 학생의 실제 역량을 분리해 판단할 수 있어 대안으로 거론된다.
일부 대학은 이미 과정 중심 평가를 도입하고 있다. 서울의 한 대학은 교수 재량 하에 AI 사용을 허용하되, 학생이 사용한 범위를 명시하도록 가이드라인을 운영한다. 다른 대학은 과제 제출 전 AI 활용 계획서 제출을 의무화해, 학생이 AI를 어떤 목적·방식으로 사용할지 먼저 밝히도록 한다. 결과보다 학습 과정을 검증하는 방식이다.
이처럼 평가 기준이 ‘결과 중심’에서 ‘과정 중심’으로 이동하면, AI 사용을 무조건 금지하거나 적발하는 방식에서 벗어나 학생의 역량을 관리·지도하는 방향으로 전환할 수 있다는 분석이 나온다.
“AI 판독 경쟁 의미 없어…활용 방향 바꿔야”
전문가들은 AI 탐지 기술의 한계가 명확한 상황에서, AI를 ‘적발’이 아닌 ‘활용’ 대상으로 바라봐야 한다고 조언한다. 윤종영 국민대 소프트웨어융합대학 교수는 판독기를 대체하려는 시도 자체가 실익이 적다고 지적했다. 윤 교수는 “AI가 만든 글을 찾아내려는 탐지 기술은 계속 발전할 수는 있겠지만, 그것을 완벽히 대체할 판독기를 만드는 건 현실적으로 어렵다”면서 “생성 기술이 더 정교해지면 탐지 기술도 계속 따라가야 하는 ‘끝없는 경쟁’이 될 뿐”이라고 말했다. 이어 “결국 중요한 건 적발 기술을 고도화하는 것이 아니라, AI를 어떻게 활용할지를 교육하는 방향으로 전환하는 것”이라고 부연했다.
정태선 아주대 인공지능학과 교수도 “AI는 갈수록 똑똑해지고 버전이 업그레이드가 되기 때문에, 판별 자체는 점점 더 어려워질 것”이라며 “그걸 기준으로 패널티를 주는 건 불합리하다”라고 설명했다. 그러면서 “AI가 오히려 학습에 도움이 되는 만큼 무조건 배제하기보다 더 발전적인 방향으로 활용 방향을 고민해야 한다”고 덧붙였다.
