미국 명문대학 밴더빌트(Vanderbilt University)가 세계 최대 표절 검사 서비스 Turnitin의 AI 작성물 탐지 기능을 전격 중단했다.

신뢰성 논란, 학생권리 침해, 기술적 한계가 복합적으로 얽히며 AI 탐지기는 결국 교육 현장에서 설 자리를 잃었다.

AI 활용과 평가, 그리고 인간적 신뢰 회복이라는 오래된 과제가 다시 제기되고 있다.

2023년 4월, Turnitin은 제출된 과제의 ‘AI 작성 비율’을 판별하는 새로운 기능을 출시했다. 하지만 불과 몇 달 만에 밴더빌트 등 주요 대학이 이를 비활성화하는 결정을 내렸다.

AI 글쓰기가 폭발적으로 확산되자, 전 세계 대학들은 학생의 부정행위 예방과 AI 활용 가이드라인 마련에 분주히 움직였다. 하지만 AI 탐지기의 등장과 퇴장은, 이 과정의 허점을 적나라하게 드러낸다.

신뢰의 기술, 신뢰를 잃다

Turnitin의 AI 탐지기는 출시 직후부터 신뢰성 논란에 휩싸였다.

알고리즘 불투명성: Turnitin 측은 “AI 글쓰기에서 흔히 발견되는 패턴”을 판별 기준으로 삼았다고 밝혔지만, 구체적으로 어떤 패턴인지, 어떤 원리로 판단하는지 공개하지 않았다.

오탐(오류 판별) 문제: Turnitin은 ‘1%의 오탐률’을 주장했으나, 연간 75,000건의 과제가 제출되는 밴더빌트 사례로 환산하면 750명 이상의 학생이 잘못된 의심을 받을 수 있다. 실제로 여러 대학에서 무고한 학생이 AI 부정행위로 오인 받는 사례가 속출했다.

언어·문화적 편향성: 스탠포드대 연구에 따르면, AI 탐지기는 비원어민(Non-Native) 학생의 글을 AI 작성물로 잘못 판단할 가능성이 훨씬 높았다. 이는 글로벌 교육 현장에 치명적 불공정 요소로 작용할 수 있다.

AI 탐지 기술, 한계에 직면하다

AI 탐지 기술은 빠르게 발전하는 기술 환경 속에서 근본적인 한계에 부딪히고 있다. 실제로 OpenAI, Turnitin 등 주요 글로벌 기업들이 AI 탐지기 기능을 잇달아 축소하거나 종료한 배경에는 기술적 불가피성이 자리하고 있다.
AI가 인간과 비슷한 수준으로 자연스러운 문장을 생성하면서, 탐지기는 점점 더 정확도를 잃어가고 있다. 탐지 기술만으로는 더 이상 AI 작성물을 확실하게 구별하기 어렵다는 결론에 이른 것이다.

여기에 프라이버시 문제도 불거진다. 여러 타사 AI 탐지기들이 학생들의 과제나 글을 외부 서버에 저장하는 과정에서 개인정보 유출과 2차 활용에 대한 우려가 커지고 있다. 교육 현장에서 학생의 데이터를 안전하게 보호하는 것이 그 어느 때보다 중요해졌다.

결국 ‘탐지’냐 ‘신뢰’냐, 교육의 본질적인 질문이 다시 제기된다. Turnitin AI 탐지기 중단 사례는 대학 사회에 다음과 같은 고민을 던진다.

부정행위 예방이라는 명분이 학생의 신뢰와 학습권을 침해하는 것은 아닌지, 상업화된 감시 시스템이 오히려 교육 현장에 불신과 혼란만 키우는 것은 아닌지 돌아봐야 한다. 이제 실질적인 대안은 무엇인가에 대한 논의가 필요하다. 최근에는 기술적 해결책보다는 교사와 학생 간의 소통, 책임감을 바탕으로 한 새로운 AI 활용 가이드라인이 요구되고 있다.

국제적으로도 흐름이 바뀌고 있다. 미국과 영국 등 주요 대학들은 AI 탐지기에 의존하는 대신, 과제 설계의 혁신과 AI 활용 윤리교육, 그리고 학생과의 지속적인 대화를 대안으로 모색하고 있다.

AI 탐지기의 오남용은 결국 교육 현장의 신뢰 기반을 무너뜨릴 수 있다는 점이 이미 여러 글로벌 대학에서 문제로 인식되고 있다.

이제는 기술만으로 해결하려 하기보다, 교육 현장의 신뢰와 소통을 복원하는 근본적인 접근이 필요하다.

AI 시대의 평가, 신뢰의 재설계

AI가 교실과 과제 현장 깊숙이 자리잡은 지금, 단순한 ‘탐지’ 기술만으로는 교육 현장의 문제를 해결할 수 없다.

이제는 평가의 방식부터 근본적인 변화를 요구받고 있다.

우선, 과제 설계가 달라져야 한다. 기존의 온라인 과제나 제출물 평가에서 벗어나, 직접 대면해 작성하거나 교실 내에서 글을 쓰게 하거나, 학생 개개인의 경험과 관점을 묻는 맞춤형 주제를 도입하는 등 평가 방식을 다양하게 바꿔야 한다.

또한, AI 활용과 관련한 명확한 규범을 마련하는 것도 중요하다. AI를 어느 범위까지 사용할 수 있는지, 인용이나 출처 표시는 어떻게 해야 하는지 등 구체적인 기준을 세우고, 이를 학생들에게 충분히 교육할 필요가 있다.

무엇보다 ‘신뢰 기반’ 교육의 복원이 절실하다.

AI가 대신할 수 없는 개인의 서사, 그리고 비판적 사고 능력을 평가하는 방향으로 교육의 무게중심이 옮겨가야 한다.

Turnitin AI 탐지기의 실패와 중단은, 기술만으로는 교육 현장의 모든 문제를 해결할 수 없다는 점을 단적으로 보여준다.

신뢰 없는 감시가 남기는 것은 현장에 혼란과 불신뿐이다.

이제 교육은 AI와 인간의 상호작용을 더 정교하게 설계하고, 학생의 성찰과 소통, 책임의식을 바탕으로 새로운 ‘신뢰의 교육 생태계’를 구축해야 할 때다.

[저작권자ⓒ META-X. 무단전재-재배포 금지]