Durably reducing conspiracy beliefs through dialogues with AI
Costello et al. / Science
챗봇을 활용해 음모론에 대한 믿음을 상당부분 낮출 수 있고, 일정기간 지속되는 효과가 나타났다는 연구결과
구조화된 초록
소개
근거 없는 음모론에 대한 광범위한 믿음은 대중의 주요 관심사이며 학계 연구의 초점입니다. 이러한 음모론은 종종 믿기 어려운 경우가 많음에도 불구하고 널리 믿어지고 있습니다. 저명한 심리학 이론에 따르면 많은 사람들이 근본적인 심리적 ‘욕구’ 또는 동기를 충족시키기 위해 음모론을 받아들이고 싶어하기 때문에 신자들은 사실과 반증에 근거하여 이러한 근거 없고 믿을 수 없는 믿음을 버리도록 설득할 수 없다고 합니다. 이 글에서는 이러한 통념에 의문을 제기하고 충분히 설득력 있는 증거를 통해 사람들을 음모의 ‘토끼굴’에서 빠져나오게 할 수 있는지에 대해 알아봅니다.
근거
저희는 사실에 입각한 교정 정보에 기반한 개입은 충분한 깊이와 개인화가 부족하기 때문에 효과가 없을 수 있다는 가설을 세웠습니다. 이 가설을 테스트하기 위해 방대한 양의 정보에 접근하고 맞춤형 주장을 생성할 수 있는 인공지능(AI)의 한 형태인 대규모 언어 모델(LLM)의 발전된 기능을 활용했습니다. 따라서 LLM은 각 개인이 자신의 음모적 신념을 뒷받침하는 특정 증거를 직접 반박할 수 있습니다.
이를 위해 저희는 연구 대상과 AI 간의 실시간 맞춤형 상호작용을 통해 행동과학 연구를 수행하는 파이프라인을 개발했습니다. 두 차례의 실험을 통해 2190명의 미국인이 자신이 믿는 음모론과 그 음모론을 뒷받침한다고 생각하는 증거를 직접 말로 표현했습니다. 그런 다음 참가자들이 음모론에 대한 믿음을 줄이도록 유도하면서(또는 대조 조건으로 관련 없는 주제에 대해 AI와 대화하도록 유도하면서) 이 구체적인 증거에 응답하도록 유도하는 LLM GPT-4 Turbo와 세 차례 대화를 진행했습니다.
결과
이 치료는 참가자들이 선택한 음모론에 대한 믿음을 평균 20% 감소시켰습니다. 이 효과는 최소 2개월 동안 감소하지 않고 지속되었으며, 존 F. 케네디 암살, 외계인, 일루미나티와 관련된 고전적인 음모부터 코로나19 및 2020년 미국 대선과 같은 시사적인 사건과 관련된 음모에 이르기까지 광범위한 음모론에 걸쳐 일관되게 관찰되었으며, 음모론적 믿음이 자신의 정체성에 깊이 자리 잡고 있는 참가자들에게도 나타났습니다. 주목할 만한 점은 AI가 실제 음모에 대한 믿음을 감소시키지 않았다는 점입니다. 또한, 전문 팩트 체커가 AI가 제기한 128개의 주장 샘플을 평가한 결과 99.2%가 사실이고 0.8%는 오해의 소지가 있으며 거짓은 없었습니다. 또한, 이러한 반박은 관련 없는 음모에 대한 믿음을 감소시켜 음모론적 세계관이 전반적으로 감소하고 다른 음모론 신봉자들을 반박하려는 의도가 증가했음을 나타냅니다.
결론
사실에 근거하지 않는 것처럼 보이는 음모론적 신념을 강하게 믿는 사람들도 설득력 있는 증거를 제시하면 마음을 바꿀 수 있습니다. 이론적 관점에서 볼 때 이는 인간의 추론에 대해 놀랍도록 낙관적인 그림을 그려줍니다: 음모론적 토끼굴에는 실제로 출구가 있을 수 있습니다. 심리적 욕구와 동기는 본질적으로 음모론자들이 증거에 눈을 멀게 하는 것이 아니라, 적절한 증거가 필요할 뿐입니다. 실제로 LLM의 설득력을 입증함으로써, 이번 연구 결과는 책임감 있게 활용될 경우 생성적 AI의 잠재적인 긍정적 영향과 이 기술이 무책임하게 사용될 기회를 최소화하는 것이 얼마나 중요한지를 강조합니다.
