K-12 DIVE (2024.08.22.)

• ChatGPT가 학교 현장에 등장한 지 거의 2년이 되어가자, 많은 기업들은 학생의 과제물에서 인공지능의 저작물을 표절한 경우를 밝혀낼 수 있는 도구를 개발하는 데 노력함. 그리고 일부 연구자와 시민들은 이러한 AI 감지 시스템이 학문적 무결성 정책(Academic integrity policies)에 도움이 되는지와 표절 감지의 정확도에 대한 의구심을 가짐

• AI 패러프레이징 도구는 AI가 생성한 텍스트를 조정하여 표절을 은폐하는 도구임. 기존의 AI 감지 시스템 기업들은 학생이 AI 패러프레이징 도구를 사용한 사실을 파악할 수 있는 기능까지 포함함

• CDT(Center for Democracy & Technology)에 따르면 2023-24학년도 교육자들의 AI 감지 시스템 의존도는 전년 대비 30% 상승해 68%에 달함. 또한, 학생이 AI 관련 표절로 인해 징계를 받은 경우가 48%에서 64%로 증가한 사실을 발견함

• CDT의 수석기술자인 Hannah Quay-de la Vallee은 교사와 학교 지도자에게 AI 감지 도구를 의미 있게 활용하는 방법에 대해 조언함

• 그는 AI 감지 소프트웨어는 AI 생성기의 텍스트를 식별하는 데 꽤 능숙해질 것이지만, ChatGPT와 같은 AI 역시 변화하고 적응하며 개선될 것이기에 AI 감지 소프트웨어와 AI 간의 '군비경쟁'이 일어나 표절 감지의 정확도가 계속해서 변동될 것을 우려함

• 따라서 Quay-de la Vallee는 교사가 ‘AI 탐지기’를 사용하여 학생의 AI 사용을 확인하는 것은 첫 번째 단계일 뿐이며, 그 이후 학생들과의 대화를 통해 실제로 무슨 일이 일어났는지 알아내기 위해 노력할 필요가 있음을 주장함

• 또한, 학교에서 AI 감지 도구가 어떻게 사용되고 있고, 해당 도구가 어떠한 도움을 주는지 등 도구 사용에 대한 학교의 대응책에 중점을 두어 AI 감지 도구의 영향에 대한 지속적인 분석을 권장함