AI is killing the old web, and the new web struggles to be born
The Verge

“AI 편집자”를 찾는 구인 공고에는 “주당 200~250건의 기사 생산”을 기대하고 있습니다. ChatGPT는 전체 스팸 사이트를 생성하는 데 사용되고 있습니다. Etsy는 “AI가 생성한 정크”로 넘쳐납니다. 챗봇은 잘못된 정보 오보에서 서로를 인용합니다. LinkedIn은 지친 사용자를 자극하기 위해 AI를 사용하고 있습니다. Snapchat과 Instagram은 친구가 말을 걸지 않을 때 봇이 말을 걸어주기를 희망합니다. 레디터들은 블랙아웃을 준비하고 있습니다. 스택 오버플로 모드가 파업 중입니다. 인터넷 아카이브는 데이터 스크레이퍼와 싸우고 있으며, “인공지능이 위키백과를 찢어놓고 있다”고 합니다. 오래된 웹은 죽어가고 있고 새로운 웹은 탄생을 위해 고군분투하고 있습니다.

생성 인공지능의 여러가지 문제를 이야기하지만 개인적으로는 기존에 만들어놓았던 웹이라는 콘텐츠 유통 체계가 완전히 새로운 방식으로 바뀌게 될 것이라는 점이다. 누가 정보를 만들고 어떻게 접근하며 누가 돈을 받게 될지에 관한 싸움이다.

기존의 웹과 인공지능이 새롭게 바꿀 방식 중 어떤게 더 낫다고 이야기하기는 어렵다. 하지만 웹을 둘러싼 오랜 변화 중 가장 최근의 이야기이며, 지금 결정에 따라 미래의 웹이 어떻게 바뀔지 결정될 것이다.

머신러닝 분야에서 “The Bitter Lesson”이라는 유명한 에세이가 있는데, 수십 년에 걸친 연구를 통해 AI 시스템을 개선하는 가장 좋은 방법은 지능을 설계하는 것이 아니라 단순히 문제에 더 많은 컴퓨터 성능과 데이터를 투입하는 것임을 증명하고 있습니다. 이 교훈은 기계의 규모가 인간의 큐레이션을 능가한다는 것을 보여주기 때문에 씁쓸합니다. 웹에서도 마찬가지일 수 있습니다.

The Greatest Guide
McCANN

생성 인공지능을 활용하여 맞춤형 간판을 만들었다는 사례. (실제 효과로 제시된 지표에 대해서는 얼마나 믿어야할지는 모르겠지만..). 링크 영상 참고.

세계 최대 베이커리 회사인 빔보는 75년 동안 문어, 메뚜기 등 특이한 재료를 사용한 독특한 레시피로 햄버거와 핫도그를 혁신하는 멕시코의 수천 개 인디 푸드 벤더에게 빵을 공급해 왔습니다. ‘위대한 가이드’를 통해 8,400명 이상의 소규모 비즈니스 사업가들이 매핑 기술과 업계 최초의 AI 기반 브랜딩 도구 세트를 통해 거대 패스트푸드 기업들과 경쟁에서 돋보일 수 있도록 지원했습니다. 크리에이티브 프로세스에는 공급업체로부터 광범위한 데이터를 수집한 다음 음식의 창의성과 멕시코 거리 간판의 풍부한 전통적 시각적 유산을 반영한 매핑 및 생성 AI 간판에 적용하는 작업이 포함되었습니다.

이 캠페인을 통해 42,000개 이상의 독창적인 간판이 생성되었으며, 캠페인에 참여한 지역의 매출은 23% 증가했습니다. 또한 미식가와 관광객에게 멕시코를 방문해야 할 이유를 8,000개 이상 더 제공했습니다. 이 캠페인은 맥칸 멕시코, FCB 멕시코, 미디어브랜즈로 구성된 빔보 멕시코의 맞춤형 IPG 유닛인 벡터 B와 수상 경력에 빛나는 “블랙 엘리베이션 맵”을 제작한 데이터 기반 크리에이티브 에이전시인 맥칸 월드그룹 에이전시 퍼포먼스 아트(Performance Art)가 함께 기획했습니다.

The ChatGPT Lawyer Explains Himself
NYT

챗지피티의 잘못된 이용과 관련해 화제가 된 사건 중 하나가 판례 인용을 챗지피티가 제시한 그대로 작성했던 변호사 사례이다. 지난 주 벌금 5천 달라가 부과되었다. 뉴욕 타임즈에서 변호사를 인터뷰한 내용 일부를 보면 어떤 방식으로 작동하는지 전혀 이해하지 못했다는 사실을 알 수 있다.

뉴욕에서 30년 동안 변호사로 일해 온 슈워츠 씨는 이번 주 판사에게 제출한 진술서에서 대학생 자녀와 기사를 통해 ChatGPT에 대해 알게 되었지만 전문적으로 사용해 본 적은 없다고 말했습니다.
그는 목요일에 카스텔 판사에게 ChatGPT가 표준 데이터베이스보다 더 큰 영향력을 가지고 있다고 믿었다고 말했습니다. 슈워츠는 “이 새로운 사이트에 대해 들었는데, 슈퍼 검색 엔진이라고 잘못 생각했습니다.”라고 말했습니다.
ChatGPT와 같은 프로그램과 기타 대규모 언어 모델은 실제로 인터넷에서 가져온 수십억 개의 예시를 수집한 통계 모델을 기반으로 어떤 텍스트 조각이 다른 시퀀스를 따라야 하는지 분석하여 사실적인 응답을 생성합니다.

대다수 사람은 이 모델이 어떤 방식으로 작동하는지에 대한 이해가 부족하다. 여러 차례 설명해도 똑같은 불만을 듣게 된다. 이런 부분이 새로운 기술에 대한 설명에서 가장 어려운 점 아닐지.

Federal Trade Commission Proposes Rule Provision Making it Easier for Consumers to “Click to Cancel” Recurring Subscriptions and Memberships

미 연방거래위원회는 수 년동안 소비자 동의없이 아마존 프라임에 가입하게 유도하고 취소를 어렵게 만들었다는 이유로 아마존을 고소했다. 이러한 개념을 다크패턴이라 부르는데(Dark Patterns of UX Design), 서비스 이익이 되는 행동을 하도록 사용자를 유도하는 디자인이라 할 수 있다. 관련 사례를 찾아볼 수 있는 해커뉴스 스레드.

• 간단한 취소 메커니즘: 소비자가 원할 때 프로그램을 쉽게 탈퇴할 수 없다면, 네거티브 옵션 기능은 더 이상 원하지 않는 제품에 대한 요금을 계속 청구하는 수단에 지나지 않습니다. 이 문제를 해결하기 위해 제안된 규칙은 기업이 최소한 구독을 시작할 때만큼 쉽게 구독을 취소할 수 있도록 요구합니다. 예를 들어, 온라인으로 가입할 수 있는 경우 동일한 웹사이트에서 동일한 단계로 취소할 수 있어야 합니다.
• 추가 제안을 하기 전 새로운 요건: 제안된 규칙에 따라 판매자는 소비자가 가입을 취소하려고 할 때 추가 혜택이나 수정 사항을 제시할 수 있습니다. 그러나 이러한 제안을 하기 전에 판매자는 먼저 소비자에게 해당 제안을 듣고 싶은지 여부를 물어봐야 합니다. 즉, 판매자는 ‘아니오’라는 대답을 받아야 하며, ‘아니오’라는 대답을 들으면 즉시 취소 절차를 이행해야 합니다.
• 알림 및 확인에 관한 새로운 요건: 제안된 규칙에 따르면 판매자는 실물 상품이 아닌 다른 것을 포함하는 네거티브 옵션 프로그램에 가입한 소비자에게 자동으로 갱신되기 전에 매년 알림을 제공해야 합니다.

아마존이 일리아드 플로우(Iliad Flow)라고 부른 이러한 절차와 관련해 공정거래위원회의 지적이 소비자 보호라고 이야기하지만, 다른 관점에서 보는 사람도 있다.

다크 패턴이 나쁘다고 주장하는 이유는 고객이 특정 방향으로 고객을 유도하는 의도적으로 혼란스러운 인터페이스(예: 프라임 가입)를 탐색할 수 있을 만큼 충분한 교육이나 능력을 갖추지 못했기 때문입니다. 저는 정부 규제 기관이 철학적 차원에서 제품 설계에 관여하는 데 따르는 비용을 경계하지만 도덕적 지적에는 공감합니다.

그러나 이전 단락의 전제를 받아들인다면, 제품을 취소하는 과정에서 소비자에게 제품에 대한 가치에 대해 교육하려는 회사에 대해 불만을 제기하는 것은 일관성이 없습니다. 다시 말해, 프라임 가입 시 다크 패턴에 대한 FTC의 불만은 소비자가 지식이 부족하고 쉽게 속는다는 가정에 뿌리를 두고 있으며, 아마존이 해지하지 말아야 할 이유를 제시하는 것에 대한 FTC의 불만은 소비자가 이미 충분한 정보를 가지고 있으며 가능한 한 몇 번의 클릭으로 목표를 달성할 수 있어야 한다는 가정에 뿌리를 두고 있습니다. 더 나은 설명은 FTC가 단순히 반기업적이라는 것입니다.

Is AI an Excuse for Not Learning To Code? 
Slashdot

과연 코딩을 배워야하는가와 관련해 여러가지 논쟁이 있었다. 최근에 코딩을 배우지 않아야 하는 이유로 제시되는 것 중 하나는 인공지능. 챗지피티 이후 스택오버플로우 트래픽 감소와 같은 결과가 나타났다는 사실도 주목받은바 있다. 아래는 슬래시닷에 올라온 글 중 하나.

Y 컴비네이터의 설립자 폴 그레이엄은 지난주 트위터를 통해 인공지능이나 다른 핑계를 대며 코딩을 배우지 않는 사람들을 한탄했습니다. “한 세대 전만 해도 모든 프로그래밍 일자리가 인도에 아웃소싱될 것이기 때문에 프로그래밍을 배울 필요가 없다고 말하는 사람들이 있었습니다.”라고 Graham은 썼습니다. “이제 그들은 AI가 모든 것을 할 것이기 때문에 그럴 필요가 없다고 말하고 있습니다. 프로그래밍을 배우고 싶지 않다면 언제든지 이유를 찾을 수 있습니다.”

이번 주 블룸테크 코딩 부트캠프의 CEO 오스틴 앨레드(Austen Allred)는 그레이엄의 트윗을 두 배로 확대하여 사람들이 코딩을 배우지 않는 이유에 대한 자신의 변명을 전했습니다… 앨레드의 트윗은 다음과 같습니다:

“코딩을 배우지 마세요. 곧 GUI가 모든 것을 알아서 해줄 것입니다.” – 1985

“코딩을 배우지 마세요. 곧 이 모든 것이 해외에서 단돈 몇 푼으로 이루어질 것입니다.” – 2003

“코딩을 배우지 마세요. 곧 노코드 도구가 모든 것을 대신해 줄 것입니다.” – 2015

“코딩을 배우지 마세요. 곧 인공지능이 모든 것을 알아서 해줄 것입니다.” – 2023

올레드의 경고 메시지를 리트윗한 사람 중에는 2030년까지 컴퓨터 과학을 고등학교 졸업 필수 과목으로 지정하는 것을 목표로 하는 기술 지원 비영리 단체인 Code.org의 CEO도 있었는데, 그는 사람들이 코딩을 배우지 않아도 되는 시대는 곧 끝날 것이라고 그레이엄에게 안심시키는 트윗으로 답장을 보냈습니다. “이제 27개 주에서 모든 학교에서 컴퓨터 과학을 가르쳐야 하고, 7개 주에서는 고등학교 졸업 시 CS 과정을 필수로 이수해야 합니다.”라고 Code.org의 CEO 하디 파토비는 설명하며 “이제 논쟁은 사실상 끝났습니다.”라고 말합니다. 컴퓨터 과학이 이겼습니다.”

GUI부터 노코드 도구에 이르기까지 모든 이야기가 나 자신도 했던 말이기는 하다. 개인적으로 어떤 입장인지 물어보면 배우는게 좋기는 하다는 쪽이다. 다만 현실적으로 코딩을 배워서 활용하는 사람은 매우 소수이지 않나 싶다. 조금 더 세부적으로 보면 코딩의 수준도 천차만별이라 코딩을 배우는게 좋다고 하는게 어떤 수준을 말하는건지도 조금 생각해볼 필요는 있다는 점. 엑셀을 쓴다고 해도 이용하는 사람에 따라 활용 수준이 완전히 다른 것처럼, 코딩도 라이브러리도 간단한 코드 몇 줄 만드는건 코딩 아니라 인문학 아니냐고 말하는 엔지니어도 있으니까 말이다.

AI and employment($)
By Benedict Evans

챗지피티와 같은 언어모델 기반 인공지능이 고용에 어떤 영향을 미칠 것인지에 대한 논쟁이 있는데, 주말에도 사람들이 비슷한 주제로 토론하는 것을 들었다. 과연 인공지능 비서가 생기면 우리가 일을 덜 하게 될까? 이와 관련해서 베네딕트 에반스가 쓴 글에서 제번스의 역설을 이야기한다.

19세기 영국 해군은 세계 최강의 해군으로 석탄을 연료로 사용했는데, 영국은 대부분 석탄으로 만들어졌지만 언젠가는 석탄이 고갈될 것입니다. 그래서 사람들은 해군은 어떻게 될까 하고 물었습니다. 증기 기관이 점점 더 효율적이므로 석탄을 덜 사용하게 될 것이라는 일반적인 대답이 돌아왔습니다. 증기 기관을 더 효율적으로 만들면 더 저렴해질 것이므로 석탄을 더 많이 사용할 것이 아니라 더 적게 사용할 것입니다. 컴퓨터는 분석을 더 저렴하게 만들었기 때문에 더 많은 사람을 고용하여 더 많은 작업을 수행합니다. Excel도 같은 효과를 가져옵니다. 며칠 또는 몇 주가 걸리던 일을 한 사람이 한 시간 만에 할 수 있게 되었기 때문에 골드만삭스 직원들은 금요일 오후 3시에 퇴근할 수 있게 된 것이죠? 틀렸습니다.

디아블로 하는 날 같은건 오지 않을지도 모른다.