생사람까지 잡는 챗GPT 감지기… 각급학교 '쓸까 말까' 딜레마

'챗GPT 활용 여부' 잡아내는 솔루션 출시에
교육계 신중론... "억울한 피해자 생길 수도"

논문 표절 여부 감지 솔루션 업체 턴잇인(Turnitin)이 3일(현지시간) '인공지능(AI) 감지 기능'을 출시했다고 밝혔다. 글 작성에 챗GPT같은 생성형 AI가 쓰였을 가능성이 얼마나 되는지 측정해주는 도구다. 턴잇인 홈페이지 캡처

전 세계 교육계 종사자 약 210만 명이 쓰는 논문 표절 감지 솔루션 턴잇인(Turnitin)이 3일(현지시간) '인공지능(AI) 감지 기능'을 출시했다. 챗GPT같은 생성형 AI가 학생 대신 논문을 작성하거나 과제를 수행했는지를 판별해 주는 도구인데, 턴잇인은 "신뢰도가 98%에 달한다"고 밝혔다. 이 솔루션만 돌리면 챗GPT가 작성에 개입한 문서를 거의 다 잡아낼 수 있다는 설명이다.

AI를 활용한 부정행위 가능성은 챗GPT 열풍이 낳은 대표적 문제점 중 하나다. 학생들이 스스로 해야 할 시험이나 과제에서 AI 도움을 받는 경우가 생기면서 세계 교육계엔 비상이 걸렸다. 실제로 시장조사업체 임팩트리서치가 지난달 미국 12~17세 학생들을 대상으로 조사했더니, 33%가 "학업과 관련해 챗GPT를 사용한 적이 있다"고 답했다.

이 때문에 세계 각국에선 챗GPT 활용을 금지하는 학교가 늘고 있다. 미국 뉴욕시 교육당국은 이미 1월 초부터 모든 공립고에서 챗GPT에 접속할 수 없도록 했고, 영국 옥스포드대와 케임브릿지대, 프랑스 파리정치대학 등도 챗GPT 이용 금지령을 내렸다. 턴잇인의 AI 감지 기능은 이처럼 교육계의 우려가 확산하는 가운데 나왔다.

그러나 정작 교육계는 AI 감지기 활용에 극도로 신중한 태도를 보이고 있다. 감지기를 안 쓰자니 부정행위가 만연해질 것 같고, 감지기를 쓰자니 억울하게 의심을 사는 사례가 나올 수도 있는 상황. 챗GPT 시대에 교육계가 처한 딜레마다.

지난해 말부터 챗GPT를 계기로 불어 닥친 생성형 AI 광풍 속에 부작용을 우려하는 목소리도 커지고 있다. 게티이미지뱅크

"부정행위 막을 근본 해결책은 윤리 교육 강화"

AI 감지기가 '교육자를 위한' 솔루션임에도 정작 교육자들이 적극 반기지 않는 것은 감지기의 정확도 때문이다. 감지기의 실수 가능성이 1%만 되더라도 무고한 피해자가 생길 수 있는데, 테크업계에선 생성 AI 발전 속도가 너무 빨라 감지기가 속도를 따라가는 건 사실상 불가능하다고 본다. '정확도 100%' 구현은 현실적으로 어렵단 뜻이다.

최근 워싱턴포스트(WP)에 따르면 감지기가 AI 도움을 받지 않은 글을 'AI 개입'으로 판정한 사례가 발생했다. WP는 제 힘으로 에세이 평가에서 고득점을 받은 한 고등학생이 턴잇인으로부터 '챗GPT 활용이 의심된다'는 결과를 받고 억울함을 호소한 사례를 소개했다. WP는 "AI 감지기가 부정행위가 있었다고 판단하는 한, 교사가 학생을 신뢰하는 것 외엔 부정행위를 하지 않았다는 사실을 증명할 방법이 없다"고 했다.

정확도가 100%에 가까워진다 하더라도 이런 솔루션을 쓰는 게 과연 교육적인가에 대한 회의도 있다. AI 감지기를 쓰는 것 자체가 모든 학생을 잠재적 부정행위자로 본다는 뜻이다. 이런 이유에서 논문 표절 감지에 턴잇인을 활용하는 영국 대학들 중 상당수가 AI 감지 기능 추가를 거부했다고 한다.

교육계에선 그래서 감지기 개발보다는 학생 윤리 교육에 힘써야 한다는 주장이 힘을 얻고 있다. 학생들에게 AI의 힘에 기대지 않는 것의 중요성을 인지시키고, 부정행위를 하지 않도록 지속적으로 설득하는 게 근본적인 해결책이란 것이다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com