Junk websites filled with AI-generated text are pulling in money from programmatic ads
MIT Technology Review

인공지능으로 인해 정크 웹사이트가 급증했고, 많은 프로그램 광고가 이러한 사이트에 광고비를 지불하고 있음을 분석한 내용. 몇 가지 조사 결과가 인용되어 있다.

140개 이상의 주요 브랜드가 자신도 모르게 신뢰할 수 없는 AI 작성 사이트에 게재되는 광고에 비용을 지불하고 있습니다. 이러한 AI가 생성한 뉴스 사이트에 게재된 주요 브랜드 광고의 90%는 Google에서 제공한 것이지만, Google의 자체 정책은 사이트가 “스팸성 자동 생성 콘텐츠”가 포함된 페이지에 Google 제공 광고를 게재하는 것을 금지하고 있습니다. 이러한 관행은 막대한 광고비를 낭비할 뿐만 아니라 AI가 생성한 콘텐츠로 넘쳐나는 스팸성 인터넷의 도래를 앞당길 위험이 있습니다.

전미 광고주 협회의 최근 조사에 따르면 샘플 광고 노출의 21%가 광고 목적의 사이트로 이동한 것으로 나타났습니다. 이 단체는 이러한 사이트에서 매년 전 세계적으로 약 130억 달러가 낭비되는 것으로 추정했습니다.

NewsGuard는 매주 약 25개의 새로운 AI 생성 사이트를 발견하고 있다고 말합니다. 4월에 현상을 추적하기 시작한 이후 13개 언어로 217개를 찾았습니다 .  

구조적으로 새로운 방식이 도입되지 않는다면 해결이 어려운 문제 아닐지. 온라인 경제의 효율성을 보여주던 프로그램 방식의 광고가 이렇게 되는 날이 올 줄이야.

WeChat과 같은 모델에서 모든 것을 포괄하는 수퍼 앱을 만들 수 있다는 아이디어를 시도. 다른 모든 테크기업에서 시도했다가 실패한 모든 일을 하는 인공지능을 바탕으로 한다는데 가능한 일인지.

China’s live-streaming e-commerce market faces major disruption as AI-powered virtual hosts lower cost of campaigns, work round the clock
South China Morning Post

중국 라이브스트리밍 커머스 분야에서 인공지능 활용한 가상 호스트 사용에 관한 기사. 중국은 어떤 의미에서는 좀 무섭다. 왠지 SF 소설에서 보던 풍경같은 느낌.

광저우에 본사를 둔 가상 호스트 제공업체 산송수지의 설립자 휴고 황에 따르면 소규모 공급업체와 주요 브랜드의 온라인 마케팅 캠페인을 실행하는 데 드는 가상 호스트 비용은 사람이 직접 라이브 스트리밍하는 것보다 훨씬 저렴합니다. 황의 회사는 매달 500위안(미화 70달러)을 받고 짧은 동영상이나 라이브 스트리밍 세션에 출연할 수 있는 가상 호스트를 제공합니다.
반면, 실제 호스트를 고용하고 스튜디오를 임대하는 데 드는 일반적인 비용은 월 평균 약 5만 위안입니다.

…… 최근 저장성 동부의 수도 항저우에서 개최된 기업 행사에서 이 온라인 검색 대기업이자 AI 옹호자인 바이두는 대규모 언어 모델(챗봇 어니봇을 훈련시키는 데 사용되는 기술)을 기반으로 ‘태국 황금 베개 두리안’, ‘월 매출 10만’, ‘300단어 이상’ 등의 키워드를 입력해 인간 호스트가 제품 소개에 사용하는 스크립트를 생성하는 워크플로우를 소개했습니다.

여전히 인간 호스트에 대한 수요가 높지만 아마도 이런 현상이 발생하는건 시장의 규모가 엄청나게 크기 때문일 것이다.

Universal Music and Google in talks over deal to combat AI deep fakes: Report
Cointelegraph

유니버셜 뮤직과 구글이 생성 인공지능으로 만들어진 아티스트 음악에 대한 라이선스를 협상중이라는 기사. (본래 보도는 FT에서 이루어짐)

두 업계 거대 기업 간의 논의는 아직 초기 단계에 있으며, 제품 출시나 가이드라인도 임박하지 않은 것으로 알려졌습니다. 그러나 FT 소식통은 저작권이 정당하게 귀속된 합법적으로 트랙을 생성할 수 있는 도구를 개발하는 것이 목표라고 말합니다. 

그런데 여러 사람의 목소리를 합쳐서 만드는 음악의 경우 저작권은 어디에 귀속되어야 하는가? 여전히 복잡한 문제이다.

Open challenges in LLM research

1. 환각 감소 및 측정
2. 컨텍스트 길이 및 컨텍스트 구성 최적화
3. 다른 데이터 양식 통합
4. 더 빠르고 저렴한 LLM 제작
5. 새로운 모델 아키텍처 설계
6. GPU 대안 개발
7. 에이전트 사용 가능
8. 사람 선호도를 통한 학습 개선
9. 채팅 인터페이스의 효율성 향상
10. 비영어권 언어용 LLM 구축

개별 주제에 대해 모두 이야기할 수는 없지만 어떤 것은 가능하고 어떤 것은 근본적인 문제로 아에 불가능하거나 어려울 것으로 전망하는 주제들이다.

More workers now claim AI skills on resumes as demand heats up
AXIOS

인공지능 관련 역량을 갖는것이 얼마나 중요해질것인가? IBM 설문조사에 참여한 3,000명의 임원 중 절반 이상이 향후 3년 내에 기업이 AI 및 자동화를 구현함에 따라 인력의 40%를 재교육해야 할 것으로 예상했다고 한다. 실제로 이력서에 인공지능 관련 기술을 적는 경우가 늘어나고 있다고 한다.

LinkedIn의 새로운 보고서에 따르면 지난 5년 동안 ‘AI 책임자’ 직책을 맡은 미국 LinkedIn 회원의 수가 264% 증가했으며, 전반적으로 사용자들이 AI 기술을 습득하는 속도가 빠르게 빨라지고 있다고 합니다.

2022년 11월 ChatGPT가 출시되기 전에는 7.7%의 사용자만이 AI 기술을 보유하고 있다고 주장했습니다. 7개월 만에 그 수치는 13%로 거의 두 배로 증가했습니다.
LinkedIn 회원은 프로필에 ‘프롬프트 엔지니어링’, ‘프롬프트 크래프팅’, ‘제너레이티브’, ‘제너레이티브 인공 지능’ 키워드를 1월보다 15배 더 자주 사용하고 있습니다.

인공지능 관련 역량을 어디서부터 어디까지라고 이야기하는 것도 쉬운 일은 아닌데, 이력서에 적히는 수준은 많이 과장되는건 아닌지 하는 생각도 든다. 이와 별개로 인공지능 관련 스킬들은 이용자 GUI 수준에서 기존 소프트웨어와 꾸준히 통합되고 있는데, 엑셀에서도 파이썬 사용이 가능해진다.

AI and employment($)
By Benedict Evans

챗지피티와 같은 언어모델 기반 인공지능이 고용에 어떤 영향을 미칠 것인지에 대한 논쟁이 있는데, 주말에도 사람들이 비슷한 주제로 토론하는 것을 들었다. 과연 인공지능 비서가 생기면 우리가 일을 덜 하게 될까? 이와 관련해서 베네딕트 에반스가 쓴 글에서 제번스의 역설을 이야기한다.

19세기 영국 해군은 세계 최강의 해군으로 석탄을 연료로 사용했는데, 영국은 대부분 석탄으로 만들어졌지만 언젠가는 석탄이 고갈될 것입니다. 그래서 사람들은 해군은 어떻게 될까 하고 물었습니다. 증기 기관이 점점 더 효율적이므로 석탄을 덜 사용하게 될 것이라는 일반적인 대답이 돌아왔습니다. 증기 기관을 더 효율적으로 만들면 더 저렴해질 것이므로 석탄을 더 많이 사용할 것이 아니라 더 적게 사용할 것입니다. 컴퓨터는 분석을 더 저렴하게 만들었기 때문에 더 많은 사람을 고용하여 더 많은 작업을 수행합니다. Excel도 같은 효과를 가져옵니다. 며칠 또는 몇 주가 걸리던 일을 한 사람이 한 시간 만에 할 수 있게 되었기 때문에 골드만삭스 직원들은 금요일 오후 3시에 퇴근할 수 있게 된 것이죠? 틀렸습니다.

디아블로 하는 날 같은건 오지 않을지도 모른다.

Is AI an Excuse for Not Learning To Code? 
Slashdot

과연 코딩을 배워야하는가와 관련해 여러가지 논쟁이 있었다. 최근에 코딩을 배우지 않아야 하는 이유로 제시되는 것 중 하나는 인공지능. 챗지피티 이후 스택오버플로우 트래픽 감소와 같은 결과가 나타났다는 사실도 주목받은바 있다. 아래는 슬래시닷에 올라온 글 중 하나.

Y 컴비네이터의 설립자 폴 그레이엄은 지난주 트위터를 통해 인공지능이나 다른 핑계를 대며 코딩을 배우지 않는 사람들을 한탄했습니다. “한 세대 전만 해도 모든 프로그래밍 일자리가 인도에 아웃소싱될 것이기 때문에 프로그래밍을 배울 필요가 없다고 말하는 사람들이 있었습니다.”라고 Graham은 썼습니다. “이제 그들은 AI가 모든 것을 할 것이기 때문에 그럴 필요가 없다고 말하고 있습니다. 프로그래밍을 배우고 싶지 않다면 언제든지 이유를 찾을 수 있습니다.”

이번 주 블룸테크 코딩 부트캠프의 CEO 오스틴 앨레드(Austen Allred)는 그레이엄의 트윗을 두 배로 확대하여 사람들이 코딩을 배우지 않는 이유에 대한 자신의 변명을 전했습니다… 앨레드의 트윗은 다음과 같습니다:

“코딩을 배우지 마세요. 곧 GUI가 모든 것을 알아서 해줄 것입니다.” – 1985

“코딩을 배우지 마세요. 곧 이 모든 것이 해외에서 단돈 몇 푼으로 이루어질 것입니다.” – 2003

“코딩을 배우지 마세요. 곧 노코드 도구가 모든 것을 대신해 줄 것입니다.” – 2015

“코딩을 배우지 마세요. 곧 인공지능이 모든 것을 알아서 해줄 것입니다.” – 2023

올레드의 경고 메시지를 리트윗한 사람 중에는 2030년까지 컴퓨터 과학을 고등학교 졸업 필수 과목으로 지정하는 것을 목표로 하는 기술 지원 비영리 단체인 Code.org의 CEO도 있었는데, 그는 사람들이 코딩을 배우지 않아도 되는 시대는 곧 끝날 것이라고 그레이엄에게 안심시키는 트윗으로 답장을 보냈습니다. “이제 27개 주에서 모든 학교에서 컴퓨터 과학을 가르쳐야 하고, 7개 주에서는 고등학교 졸업 시 CS 과정을 필수로 이수해야 합니다.”라고 Code.org의 CEO 하디 파토비는 설명하며 “이제 논쟁은 사실상 끝났습니다.”라고 말합니다. 컴퓨터 과학이 이겼습니다.”

GUI부터 노코드 도구에 이르기까지 모든 이야기가 나 자신도 했던 말이기는 하다. 개인적으로 어떤 입장인지 물어보면 배우는게 좋기는 하다는 쪽이다. 다만 현실적으로 코딩을 배워서 활용하는 사람은 매우 소수이지 않나 싶다. 조금 더 세부적으로 보면 코딩의 수준도 천차만별이라 코딩을 배우는게 좋다고 하는게 어떤 수준을 말하는건지도 조금 생각해볼 필요는 있다는 점. 엑셀을 쓴다고 해도 이용하는 사람에 따라 활용 수준이 완전히 다른 것처럼, 코딩도 라이브러리도 간단한 코드 몇 줄 만드는건 코딩 아니라 인문학 아니냐고 말하는 엔지니어도 있으니까 말이다.

Federal Trade Commission Proposes Rule Provision Making it Easier for Consumers to “Click to Cancel” Recurring Subscriptions and Memberships

미 연방거래위원회는 수 년동안 소비자 동의없이 아마존 프라임에 가입하게 유도하고 취소를 어렵게 만들었다는 이유로 아마존을 고소했다. 이러한 개념을 다크패턴이라 부르는데(Dark Patterns of UX Design), 서비스 이익이 되는 행동을 하도록 사용자를 유도하는 디자인이라 할 수 있다. 관련 사례를 찾아볼 수 있는 해커뉴스 스레드.

• 간단한 취소 메커니즘: 소비자가 원할 때 프로그램을 쉽게 탈퇴할 수 없다면, 네거티브 옵션 기능은 더 이상 원하지 않는 제품에 대한 요금을 계속 청구하는 수단에 지나지 않습니다. 이 문제를 해결하기 위해 제안된 규칙은 기업이 최소한 구독을 시작할 때만큼 쉽게 구독을 취소할 수 있도록 요구합니다. 예를 들어, 온라인으로 가입할 수 있는 경우 동일한 웹사이트에서 동일한 단계로 취소할 수 있어야 합니다.
• 추가 제안을 하기 전 새로운 요건: 제안된 규칙에 따라 판매자는 소비자가 가입을 취소하려고 할 때 추가 혜택이나 수정 사항을 제시할 수 있습니다. 그러나 이러한 제안을 하기 전에 판매자는 먼저 소비자에게 해당 제안을 듣고 싶은지 여부를 물어봐야 합니다. 즉, 판매자는 ‘아니오’라는 대답을 받아야 하며, ‘아니오’라는 대답을 들으면 즉시 취소 절차를 이행해야 합니다.
• 알림 및 확인에 관한 새로운 요건: 제안된 규칙에 따르면 판매자는 실물 상품이 아닌 다른 것을 포함하는 네거티브 옵션 프로그램에 가입한 소비자에게 자동으로 갱신되기 전에 매년 알림을 제공해야 합니다.

아마존이 일리아드 플로우(Iliad Flow)라고 부른 이러한 절차와 관련해 공정거래위원회의 지적이 소비자 보호라고 이야기하지만, 다른 관점에서 보는 사람도 있다.

다크 패턴이 나쁘다고 주장하는 이유는 고객이 특정 방향으로 고객을 유도하는 의도적으로 혼란스러운 인터페이스(예: 프라임 가입)를 탐색할 수 있을 만큼 충분한 교육이나 능력을 갖추지 못했기 때문입니다. 저는 정부 규제 기관이 철학적 차원에서 제품 설계에 관여하는 데 따르는 비용을 경계하지만 도덕적 지적에는 공감합니다.

그러나 이전 단락의 전제를 받아들인다면, 제품을 취소하는 과정에서 소비자에게 제품에 대한 가치에 대해 교육하려는 회사에 대해 불만을 제기하는 것은 일관성이 없습니다. 다시 말해, 프라임 가입 시 다크 패턴에 대한 FTC의 불만은 소비자가 지식이 부족하고 쉽게 속는다는 가정에 뿌리를 두고 있으며, 아마존이 해지하지 말아야 할 이유를 제시하는 것에 대한 FTC의 불만은 소비자가 이미 충분한 정보를 가지고 있으며 가능한 한 몇 번의 클릭으로 목표를 달성할 수 있어야 한다는 가정에 뿌리를 두고 있습니다. 더 나은 설명은 FTC가 단순히 반기업적이라는 것입니다.

The ChatGPT Lawyer Explains Himself
NYT

챗지피티의 잘못된 이용과 관련해 화제가 된 사건 중 하나가 판례 인용을 챗지피티가 제시한 그대로 작성했던 변호사 사례이다. 지난 주 벌금 5천 달라가 부과되었다. 뉴욕 타임즈에서 변호사를 인터뷰한 내용 일부를 보면 어떤 방식으로 작동하는지 전혀 이해하지 못했다는 사실을 알 수 있다.

뉴욕에서 30년 동안 변호사로 일해 온 슈워츠 씨는 이번 주 판사에게 제출한 진술서에서 대학생 자녀와 기사를 통해 ChatGPT에 대해 알게 되었지만 전문적으로 사용해 본 적은 없다고 말했습니다.
그는 목요일에 카스텔 판사에게 ChatGPT가 표준 데이터베이스보다 더 큰 영향력을 가지고 있다고 믿었다고 말했습니다. 슈워츠는 “이 새로운 사이트에 대해 들었는데, 슈퍼 검색 엔진이라고 잘못 생각했습니다.”라고 말했습니다.
ChatGPT와 같은 프로그램과 기타 대규모 언어 모델은 실제로 인터넷에서 가져온 수십억 개의 예시를 수집한 통계 모델을 기반으로 어떤 텍스트 조각이 다른 시퀀스를 따라야 하는지 분석하여 사실적인 응답을 생성합니다.

대다수 사람은 이 모델이 어떤 방식으로 작동하는지에 대한 이해가 부족하다. 여러 차례 설명해도 똑같은 불만을 듣게 된다. 이런 부분이 새로운 기술에 대한 설명에서 가장 어려운 점 아닐지.