Fleckenstein, J., Meyer, J., Jansen, T., Keller, S. D., Köller, O., & Möller, J. (2024). Do teachers spot AI? Evaluating the detectability of AI-generated texts among student essays. Computers and Education: Artificial Intelligence, 6, 100209.
간단한 실험 연구. 식별이 생각처럼 쉽지 않다는 것과 자신의 능력을 과신한다는 결과. 아래는 초록
학교와 대학에서 생성 인공지능(AI)의 잠재적 적용은 특히 학생의 텍스트 평가에 큰 도전이 되고 있습니다. 이전 연구에 따르면 사람들은 일반적으로 AI가 생성한 텍스트와 사람이 작성한 텍스트를 구별하는 데 어려움을 겪지만, 교사가 학생의 에세이 중에서 AI가 생성한 텍스트를 식별하는 능력은 아직 조사되지 않았습니다. 여기에서는 두 가지 실험 연구에서 초보자(N = 89)와 숙련된 교사(N = 200)가 학생이 작성한 텍스트 중 ChatGPT가 생성한 텍스트를 식별하지 못하는 것을 보여 줍니다. 그러나 경험이 많은 교사가 더 차별화되고 더 정확한 판단을 내린 것으로 나타났습니다. 또한 두 그룹 모두 자신의 판단을 과신하는 경향이 있었습니다. 실제 출처와 가정된 출처가 품질 평가에 미치는 영향은 이질적이었습니다. 연구 결과에 따르면 현재 인공지능은 비교적 적은 자극만으로 교사가 감지할 수 없는 텍스트를 생성할 수 있으며, 이는 학교와 대학이 학생 에세이를 채점하는 데 어려움을 겪고 있음을 보여줍니다. 이번 연구는 최신 기술 발전에 비추어 학교와 대학의 시험 전략에 관한 현재 논쟁에 대한 경험적 증거를 제공합니다.
