Chatbot apps pose dangers for teens
Axios

Character.AI 관련 소송 이야기.

텍사스의 부모들이 Character.AI와 창립자들을 상대로 연방법원에 제품 책임 소송을 제기했다. 소송에는 한 캐릭터가 십대 사용자에게 “부모를 죽이라”고 조언한 메시지의 스크린샷이 포함되어 있다. 10월에는 플로리다의 한 어머니가 Character.AI를 고소하며, 이 앱이 14세 아들의 자살을 초래했다고 주장했다.

하지만 정신적으로 어떤 영향을 미치는지에 대해서는 알기 어렵다. 권력 불균형에 대해 이야기하지만 그런 부분은 쇼핑이라든지 다른 영역에서도 마찬가지 아닌가

아동 보호 운동가들은 수년 동안 음악, 비디오 게임, 소셜 미디어가 본질적으로 청소년에게 해롭다고 주장해 왔지만, 이를 뒷받침하는 장기적인 연구(longitudinal study)는 거의 없다. 핵심은 권력의 불균형을 살펴보는 것이라고 한센(Hansen)은 말한다. “이 경우, 엄청난 권력 불균형이 존재한다고 생각합니다. 본질적으로, 매우 똑똑한 사람들이 모인 한 회사가 사용자의 참여를 극대화하는 방법을 연구하는 반면, 이에 대응하는 것은 오직 한 개인의 정신뿐입니다.”