The ChatGPT Lawyer Explains Himself
NYT

챗지피티의 잘못된 이용과 관련해 화제가 된 사건 중 하나가 판례 인용을 챗지피티가 제시한 그대로 작성했던 변호사 사례이다. 지난 주 벌금 5천 달라가 부과되었다. 뉴욕 타임즈에서 변호사를 인터뷰한 내용 일부를 보면 어떤 방식으로 작동하는지 전혀 이해하지 못했다는 사실을 알 수 있다.

뉴욕에서 30년 동안 변호사로 일해 온 슈워츠 씨는 이번 주 판사에게 제출한 진술서에서 대학생 자녀와 기사를 통해 ChatGPT에 대해 알게 되었지만 전문적으로 사용해 본 적은 없다고 말했습니다.
그는 목요일에 카스텔 판사에게 ChatGPT가 표준 데이터베이스보다 더 큰 영향력을 가지고 있다고 믿었다고 말했습니다. 슈워츠는 “이 새로운 사이트에 대해 들었는데, 슈퍼 검색 엔진이라고 잘못 생각했습니다.”라고 말했습니다.
ChatGPT와 같은 프로그램과 기타 대규모 언어 모델은 실제로 인터넷에서 가져온 수십억 개의 예시를 수집한 통계 모델을 기반으로 어떤 텍스트 조각이 다른 시퀀스를 따라야 하는지 분석하여 사실적인 응답을 생성합니다.

대다수 사람은 이 모델이 어떤 방식으로 작동하는지에 대한 이해가 부족하다. 여러 차례 설명해도 똑같은 불만을 듣게 된다. 이런 부분이 새로운 기술에 대한 설명에서 가장 어려운 점 아닐지.