Metaphors for AI, and why I don’t like them
Boaz Barak (Blog)

인공지능을 대중적으로 설명하는 과정에서 은유를 종종 사용한다. 은유는 강력한 설명의 방식이지만, 인공지능을 설명하는 과정에서 많은 오해를 발생시킨다는 글이다. 따라서 Boaz Barak 교수는 은유를 과도하게 해석하지 않도록 주의할 필요가 있다고 주장한다. 단일 은유로는 인공지능의 모든 측면을 포착하기 어렵기 때문이다. 몇 가지 널리 알려진 사례를 기반으로 해당 은유가 가지는 문제점에 관해 설명한다. 여기에서는 몇 가지 사례만 인용해놓는다. 이 조차도 일부 인용이라 오해가 있을 수 있으니 링크를 직접 읽어볼 필요가 있다.

• 확률적 앵무새

대규모 언어 모델이 ‘앵무새처럼 따라하기’를 극대화하도록, 즉 교차 엔트로피 손실을 최소화하도록 학습된 것은 사실이지만, 이 손실 함수가 모든 기능을 포착하지는 못합니다. 예를 들어, GPT-3 논문에 따르면(표 D.1의 숫자를 그림 3.1의 공식에 대입하면) 13B 매개변수 모델의 손실은 1.97이고 175B 모델의 손실은 1.73입니다. 이는 175B 모델이 13B 모델보다 약간 더 나은 “앵무새”에 불과하다는 것을 의미합니다(대략 14%가 아닌 17.7%의 확률로 다음 토큰을 추측). 그러나 많은 작업에서 175B 모델은 13B 모델보다 질적으로 우수하여 거의 완벽에 가까운 성능을 달성하는 반면 13B 모델은 무작위 추측을 간신히 능가합니다. 마찬가지로, 검증 손실의 (추정되는) 작은 차이에도 불구하고 GPT4는 GPT3보다 질적으로 더 강력합니다. 이러한 새로운 기능이 바로 LLM의 본질적인 속성이며, 확률적 앵무새 비유가 오해의 소지가 있는 이유이기도 합니다.

• 웹의 손실압축

치앙은 이것이 ChatGPT의 본질적인 사실이며, 기본적으로 웹을 제한된 공간에 저장하려는 경우에만 유용할 수 있는 Google의 일부 저하된 버전이라고 생각하는 것 같습니다. 그의 말에 따르면, “우리는 인터넷에 대한 액세스를 잃지 않습니다. 원본이 있는데 흐릿한 JPEG가 무슨 소용이 있을까요?”라고 반문했습니다. 하지만 치앙이 이 글을 썼을 때 이미 ChatGPT의 사용자 수는 1억 명에 달했으니, 분명 많은 사람들이 이 ‘흐릿한 jpg’의 용도를 찾았을 것입니다. 실제로 아래에서 설명하겠지만, 치앙 자신도 새로운 은유로 옮겨간 것으로 보입니다.

널리 알려진 은유 외 다른 은유도 정리해놓은 글이니 참고

AI is killing the old web, and the new web struggles to be born
The Verge

“AI 편집자”를 찾는 구인 공고에는 “주당 200~250건의 기사 생산”을 기대하고 있습니다. ChatGPT는 전체 스팸 사이트를 생성하는 데 사용되고 있습니다. Etsy는 “AI가 생성한 정크”로 넘쳐납니다. 챗봇은 잘못된 정보 오보에서 서로를 인용합니다. LinkedIn은 지친 사용자를 자극하기 위해 AI를 사용하고 있습니다. Snapchat과 Instagram은 친구가 말을 걸지 않을 때 봇이 말을 걸어주기를 희망합니다. 레디터들은 블랙아웃을 준비하고 있습니다. 스택 오버플로 모드가 파업 중입니다. 인터넷 아카이브는 데이터 스크레이퍼와 싸우고 있으며, “인공지능이 위키백과를 찢어놓고 있다”고 합니다. 오래된 웹은 죽어가고 있고 새로운 웹은 탄생을 위해 고군분투하고 있습니다.

생성 인공지능의 여러가지 문제를 이야기하지만 개인적으로는 기존에 만들어놓았던 웹이라는 콘텐츠 유통 체계가 완전히 새로운 방식으로 바뀌게 될 것이라는 점이다. 누가 정보를 만들고 어떻게 접근하며 누가 돈을 받게 될지에 관한 싸움이다.

기존의 웹과 인공지능이 새롭게 바꿀 방식 중 어떤게 더 낫다고 이야기하기는 어렵다. 하지만 웹을 둘러싼 오랜 변화 중 가장 최근의 이야기이며, 지금 결정에 따라 미래의 웹이 어떻게 바뀔지 결정될 것이다.

머신러닝 분야에서 “The Bitter Lesson”이라는 유명한 에세이가 있는데, 수십 년에 걸친 연구를 통해 AI 시스템을 개선하는 가장 좋은 방법은 지능을 설계하는 것이 아니라 단순히 문제에 더 많은 컴퓨터 성능과 데이터를 투입하는 것임을 증명하고 있습니다. 이 교훈은 기계의 규모가 인간의 큐레이션을 능가한다는 것을 보여주기 때문에 씁쓸합니다. 웹에서도 마찬가지일 수 있습니다.

The Greatest Guide
McCANN

생성 인공지능을 활용하여 맞춤형 간판을 만들었다는 사례. (실제 효과로 제시된 지표에 대해서는 얼마나 믿어야할지는 모르겠지만..). 링크 영상 참고.

세계 최대 베이커리 회사인 빔보는 75년 동안 문어, 메뚜기 등 특이한 재료를 사용한 독특한 레시피로 햄버거와 핫도그를 혁신하는 멕시코의 수천 개 인디 푸드 벤더에게 빵을 공급해 왔습니다. ‘위대한 가이드’를 통해 8,400명 이상의 소규모 비즈니스 사업가들이 매핑 기술과 업계 최초의 AI 기반 브랜딩 도구 세트를 통해 거대 패스트푸드 기업들과 경쟁에서 돋보일 수 있도록 지원했습니다. 크리에이티브 프로세스에는 공급업체로부터 광범위한 데이터를 수집한 다음 음식의 창의성과 멕시코 거리 간판의 풍부한 전통적 시각적 유산을 반영한 매핑 및 생성 AI 간판에 적용하는 작업이 포함되었습니다.

이 캠페인을 통해 42,000개 이상의 독창적인 간판이 생성되었으며, 캠페인에 참여한 지역의 매출은 23% 증가했습니다. 또한 미식가와 관광객에게 멕시코를 방문해야 할 이유를 8,000개 이상 더 제공했습니다. 이 캠페인은 맥칸 멕시코, FCB 멕시코, 미디어브랜즈로 구성된 빔보 멕시코의 맞춤형 IPG 유닛인 벡터 B와 수상 경력에 빛나는 “블랙 엘리베이션 맵”을 제작한 데이터 기반 크리에이티브 에이전시인 맥칸 월드그룹 에이전시 퍼포먼스 아트(Performance Art)가 함께 기획했습니다.

The ChatGPT Lawyer Explains Himself
NYT

챗지피티의 잘못된 이용과 관련해 화제가 된 사건 중 하나가 판례 인용을 챗지피티가 제시한 그대로 작성했던 변호사 사례이다. 지난 주 벌금 5천 달라가 부과되었다. 뉴욕 타임즈에서 변호사를 인터뷰한 내용 일부를 보면 어떤 방식으로 작동하는지 전혀 이해하지 못했다는 사실을 알 수 있다.

뉴욕에서 30년 동안 변호사로 일해 온 슈워츠 씨는 이번 주 판사에게 제출한 진술서에서 대학생 자녀와 기사를 통해 ChatGPT에 대해 알게 되었지만 전문적으로 사용해 본 적은 없다고 말했습니다.
그는 목요일에 카스텔 판사에게 ChatGPT가 표준 데이터베이스보다 더 큰 영향력을 가지고 있다고 믿었다고 말했습니다. 슈워츠는 “이 새로운 사이트에 대해 들었는데, 슈퍼 검색 엔진이라고 잘못 생각했습니다.”라고 말했습니다.
ChatGPT와 같은 프로그램과 기타 대규모 언어 모델은 실제로 인터넷에서 가져온 수십억 개의 예시를 수집한 통계 모델을 기반으로 어떤 텍스트 조각이 다른 시퀀스를 따라야 하는지 분석하여 사실적인 응답을 생성합니다.

대다수 사람은 이 모델이 어떤 방식으로 작동하는지에 대한 이해가 부족하다. 여러 차례 설명해도 똑같은 불만을 듣게 된다. 이런 부분이 새로운 기술에 대한 설명에서 가장 어려운 점 아닐지.

Federal Trade Commission Proposes Rule Provision Making it Easier for Consumers to “Click to Cancel” Recurring Subscriptions and Memberships

미 연방거래위원회는 수 년동안 소비자 동의없이 아마존 프라임에 가입하게 유도하고 취소를 어렵게 만들었다는 이유로 아마존을 고소했다. 이러한 개념을 다크패턴이라 부르는데(Dark Patterns of UX Design), 서비스 이익이 되는 행동을 하도록 사용자를 유도하는 디자인이라 할 수 있다. 관련 사례를 찾아볼 수 있는 해커뉴스 스레드.

• 간단한 취소 메커니즘: 소비자가 원할 때 프로그램을 쉽게 탈퇴할 수 없다면, 네거티브 옵션 기능은 더 이상 원하지 않는 제품에 대한 요금을 계속 청구하는 수단에 지나지 않습니다. 이 문제를 해결하기 위해 제안된 규칙은 기업이 최소한 구독을 시작할 때만큼 쉽게 구독을 취소할 수 있도록 요구합니다. 예를 들어, 온라인으로 가입할 수 있는 경우 동일한 웹사이트에서 동일한 단계로 취소할 수 있어야 합니다.
• 추가 제안을 하기 전 새로운 요건: 제안된 규칙에 따라 판매자는 소비자가 가입을 취소하려고 할 때 추가 혜택이나 수정 사항을 제시할 수 있습니다. 그러나 이러한 제안을 하기 전에 판매자는 먼저 소비자에게 해당 제안을 듣고 싶은지 여부를 물어봐야 합니다. 즉, 판매자는 ‘아니오’라는 대답을 받아야 하며, ‘아니오’라는 대답을 들으면 즉시 취소 절차를 이행해야 합니다.
• 알림 및 확인에 관한 새로운 요건: 제안된 규칙에 따르면 판매자는 실물 상품이 아닌 다른 것을 포함하는 네거티브 옵션 프로그램에 가입한 소비자에게 자동으로 갱신되기 전에 매년 알림을 제공해야 합니다.

아마존이 일리아드 플로우(Iliad Flow)라고 부른 이러한 절차와 관련해 공정거래위원회의 지적이 소비자 보호라고 이야기하지만, 다른 관점에서 보는 사람도 있다.

다크 패턴이 나쁘다고 주장하는 이유는 고객이 특정 방향으로 고객을 유도하는 의도적으로 혼란스러운 인터페이스(예: 프라임 가입)를 탐색할 수 있을 만큼 충분한 교육이나 능력을 갖추지 못했기 때문입니다. 저는 정부 규제 기관이 철학적 차원에서 제품 설계에 관여하는 데 따르는 비용을 경계하지만 도덕적 지적에는 공감합니다.

그러나 이전 단락의 전제를 받아들인다면, 제품을 취소하는 과정에서 소비자에게 제품에 대한 가치에 대해 교육하려는 회사에 대해 불만을 제기하는 것은 일관성이 없습니다. 다시 말해, 프라임 가입 시 다크 패턴에 대한 FTC의 불만은 소비자가 지식이 부족하고 쉽게 속는다는 가정에 뿌리를 두고 있으며, 아마존이 해지하지 말아야 할 이유를 제시하는 것에 대한 FTC의 불만은 소비자가 이미 충분한 정보를 가지고 있으며 가능한 한 몇 번의 클릭으로 목표를 달성할 수 있어야 한다는 가정에 뿌리를 두고 있습니다. 더 나은 설명은 FTC가 단순히 반기업적이라는 것입니다.