Universal Music and Google in talks over deal to combat AI deep fakes: Report
Cointelegraph
유니버셜 뮤직과 구글이 생성 인공지능으로 만들어진 아티스트 음악에 대한 라이선스를 협상중이라는 기사. (본래 보도는 FT에서 이루어짐)
두 업계 거대 기업 간의 논의는 아직 초기 단계에 있으며, 제품 출시나 가이드라인도 임박하지 않은 것으로 알려졌습니다. 그러나 FT 소식통은 저작권이 정당하게 귀속된 합법적으로 트랙을 생성할 수 있는 도구를 개발하는 것이 목표라고 말합니다.
그런데 여러 사람의 목소리를 합쳐서 만드는 음악의 경우 저작권은 어디에 귀속되어야 하는가? 여전히 복잡한 문제이다.
Open challenges in LLM research
- 환각 감소 및 측정
- 컨텍스트 길이 및 컨텍스트 구성 최적화
- 다른 데이터 양식 통합
- 더 빠르고 저렴한 LLM 제작
- 새로운 모델 아키텍처 설계
- GPU 대안 개발
- 에이전트 사용 가능
- 사람 선호도를 통한 학습 개선
- 채팅 인터페이스의 효율성 향상
- 비영어권 언어용 LLM 구축
개별 주제에 대해 모두 이야기할 수는 없지만 어떤 것은 가능하고 어떤 것은 근본적인 문제로 아에 불가능하거나 어려울 것으로 전망하는 주제들이다.
More workers now claim AI skills on resumes as demand heats up
AXIOS
인공지능 관련 역량을 갖는것이 얼마나 중요해질것인가? IBM 설문조사에 참여한 3,000명의 임원 중 절반 이상이 향후 3년 내에 기업이 AI 및 자동화를 구현함에 따라 인력의 40%를 재교육해야 할 것으로 예상했다고 한다. 실제로 이력서에 인공지능 관련 기술을 적는 경우가 늘어나고 있다고 한다.
LinkedIn의 새로운 보고서에 따르면 지난 5년 동안 ‘AI 책임자’ 직책을 맡은 미국 LinkedIn 회원의 수가 264% 증가했으며, 전반적으로 사용자들이 AI 기술을 습득하는 속도가 빠르게 빨라지고 있다고 합니다.
2022년 11월 ChatGPT가 출시되기 전에는 7.7%의 사용자만이 AI 기술을 보유하고 있다고 주장했습니다. 7개월 만에 그 수치는 13%로 거의 두 배로 증가했습니다.
LinkedIn 회원은 프로필에 ‘프롬프트 엔지니어링’, ‘프롬프트 크래프팅’, ‘제너레이티브’, ‘제너레이티브 인공 지능’ 키워드를 1월보다 15배 더 자주 사용하고 있습니다.
인공지능 관련 역량을 어디서부터 어디까지라고 이야기하는 것도 쉬운 일은 아닌데, 이력서에 적히는 수준은 많이 과장되는건 아닌지 하는 생각도 든다. 이와 별개로 인공지능 관련 스킬들은 이용자 GUI 수준에서 기존 소프트웨어와 꾸준히 통합되고 있는데, 엑셀에서도 파이썬 사용이 가능해진다.
AI and employment($)
By Benedict Evans
챗지피티와 같은 언어모델 기반 인공지능이 고용에 어떤 영향을 미칠 것인지에 대한 논쟁이 있는데, 주말에도 사람들이 비슷한 주제로 토론하는 것을 들었다. 과연 인공지능 비서가 생기면 우리가 일을 덜 하게 될까? 이와 관련해서 베네딕트 에반스가 쓴 글에서 제번스의 역설을 이야기한다.
19세기 영국 해군은 세계 최강의 해군으로 석탄을 연료로 사용했는데, 영국은 대부분 석탄으로 만들어졌지만 언젠가는 석탄이 고갈될 것입니다. 그래서 사람들은 해군은 어떻게 될까 하고 물었습니다. 증기 기관이 점점 더 효율적이므로 석탄을 덜 사용하게 될 것이라는 일반적인 대답이 돌아왔습니다. 증기 기관을 더 효율적으로 만들면 더 저렴해질 것이므로 석탄을 더 많이 사용할 것이 아니라 더 적게 사용할 것입니다. 컴퓨터는 분석을 더 저렴하게 만들었기 때문에 더 많은 사람을 고용하여 더 많은 작업을 수행합니다. Excel도 같은 효과를 가져옵니다. 며칠 또는 몇 주가 걸리던 일을 한 사람이 한 시간 만에 할 수 있게 되었기 때문에 골드만삭스 직원들은 금요일 오후 3시에 퇴근할 수 있게 된 것이죠? 틀렸습니다.
디아블로 하는 날 같은건 오지 않을지도 모른다.
Is AI an Excuse for Not Learning To Code?
Slashdot
과연 코딩을 배워야하는가와 관련해 여러가지 논쟁이 있었다. 최근에 코딩을 배우지 않아야 하는 이유로 제시되는 것 중 하나는 인공지능. 챗지피티 이후 스택오버플로우 트래픽 감소와 같은 결과가 나타났다는 사실도 주목받은바 있다. 아래는 슬래시닷에 올라온 글 중 하나.
Y 컴비네이터의 설립자 폴 그레이엄은 지난주 트위터를 통해 인공지능이나 다른 핑계를 대며 코딩을 배우지 않는 사람들을 한탄했습니다. “한 세대 전만 해도 모든 프로그래밍 일자리가 인도에 아웃소싱될 것이기 때문에 프로그래밍을 배울 필요가 없다고 말하는 사람들이 있었습니다.”라고 Graham은 썼습니다. “이제 그들은 AI가 모든 것을 할 것이기 때문에 그럴 필요가 없다고 말하고 있습니다. 프로그래밍을 배우고 싶지 않다면 언제든지 이유를 찾을 수 있습니다.”
이번 주 블룸테크 코딩 부트캠프의 CEO 오스틴 앨레드(Austen Allred)는 그레이엄의 트윗을 두 배로 확대하여 사람들이 코딩을 배우지 않는 이유에 대한 자신의 변명을 전했습니다… 앨레드의 트윗은 다음과 같습니다:
“코딩을 배우지 마세요. 곧 GUI가 모든 것을 알아서 해줄 것입니다.” – 1985
“코딩을 배우지 마세요. 곧 이 모든 것이 해외에서 단돈 몇 푼으로 이루어질 것입니다.” – 2003
“코딩을 배우지 마세요. 곧 노코드 도구가 모든 것을 대신해 줄 것입니다.” – 2015
“코딩을 배우지 마세요. 곧 인공지능이 모든 것을 알아서 해줄 것입니다.” – 2023
올레드의 경고 메시지를 리트윗한 사람 중에는 2030년까지 컴퓨터 과학을 고등학교 졸업 필수 과목으로 지정하는 것을 목표로 하는 기술 지원 비영리 단체인 Code.org의 CEO도 있었는데, 그는 사람들이 코딩을 배우지 않아도 되는 시대는 곧 끝날 것이라고 그레이엄에게 안심시키는 트윗으로 답장을 보냈습니다. “이제 27개 주에서 모든 학교에서 컴퓨터 과학을 가르쳐야 하고, 7개 주에서는 고등학교 졸업 시 CS 과정을 필수로 이수해야 합니다.”라고 Code.org의 CEO 하디 파토비는 설명하며 “이제 논쟁은 사실상 끝났습니다.”라고 말합니다. 컴퓨터 과학이 이겼습니다.”
GUI부터 노코드 도구에 이르기까지 모든 이야기가 나 자신도 했던 말이기는 하다. 개인적으로 어떤 입장인지 물어보면 배우는게 좋기는 하다는 쪽이다. 다만 현실적으로 코딩을 배워서 활용하는 사람은 매우 소수이지 않나 싶다. 조금 더 세부적으로 보면 코딩의 수준도 천차만별이라 코딩을 배우는게 좋다고 하는게 어떤 수준을 말하는건지도 조금 생각해볼 필요는 있다는 점. 엑셀을 쓴다고 해도 이용하는 사람에 따라 활용 수준이 완전히 다른 것처럼, 코딩도 라이브러리도 간단한 코드 몇 줄 만드는건 코딩 아니라 인문학 아니냐고 말하는 엔지니어도 있으니까 말이다.
미 연방거래위원회는 수 년동안 소비자 동의없이 아마존 프라임에 가입하게 유도하고 취소를 어렵게 만들었다는 이유로 아마존을 고소했다. 이러한 개념을 다크패턴이라 부르는데(Dark Patterns of UX Design), 서비스 이익이 되는 행동을 하도록 사용자를 유도하는 디자인이라 할 수 있다. 관련 사례를 찾아볼 수 있는 해커뉴스 스레드.
- 간단한 취소 메커니즘: 소비자가 원할 때 프로그램을 쉽게 탈퇴할 수 없다면, 네거티브 옵션 기능은 더 이상 원하지 않는 제품에 대한 요금을 계속 청구하는 수단에 지나지 않습니다. 이 문제를 해결하기 위해 제안된 규칙은 기업이 최소한 구독을 시작할 때만큼 쉽게 구독을 취소할 수 있도록 요구합니다. 예를 들어, 온라인으로 가입할 수 있는 경우 동일한 웹사이트에서 동일한 단계로 취소할 수 있어야 합니다.
- 추가 제안을 하기 전 새로운 요건: 제안된 규칙에 따라 판매자는 소비자가 가입을 취소하려고 할 때 추가 혜택이나 수정 사항을 제시할 수 있습니다. 그러나 이러한 제안을 하기 전에 판매자는 먼저 소비자에게 해당 제안을 듣고 싶은지 여부를 물어봐야 합니다. 즉, 판매자는 ‘아니오’라는 대답을 받아야 하며, ‘아니오’라는 대답을 들으면 즉시 취소 절차를 이행해야 합니다.
- 알림 및 확인에 관한 새로운 요건: 제안된 규칙에 따르면 판매자는 실물 상품이 아닌 다른 것을 포함하는 네거티브 옵션 프로그램에 가입한 소비자에게 자동으로 갱신되기 전에 매년 알림을 제공해야 합니다.
아마존이 일리아드 플로우(Iliad Flow)라고 부른 이러한 절차와 관련해 공정거래위원회의 지적이 소비자 보호라고 이야기하지만, 다른 관점에서 보는 사람도 있다.
다크 패턴이 나쁘다고 주장하는 이유는 고객이 특정 방향으로 고객을 유도하는 의도적으로 혼란스러운 인터페이스(예: 프라임 가입)를 탐색할 수 있을 만큼 충분한 교육이나 능력을 갖추지 못했기 때문입니다. 저는 정부 규제 기관이 철학적 차원에서 제품 설계에 관여하는 데 따르는 비용을 경계하지만 도덕적 지적에는 공감합니다.
그러나 이전 단락의 전제를 받아들인다면, 제품을 취소하는 과정에서 소비자에게 제품에 대한 가치에 대해 교육하려는 회사에 대해 불만을 제기하는 것은 일관성이 없습니다. 다시 말해, 프라임 가입 시 다크 패턴에 대한 FTC의 불만은 소비자가 지식이 부족하고 쉽게 속는다는 가정에 뿌리를 두고 있으며, 아마존이 해지하지 말아야 할 이유를 제시하는 것에 대한 FTC의 불만은 소비자가 이미 충분한 정보를 가지고 있으며 가능한 한 몇 번의 클릭으로 목표를 달성할 수 있어야 한다는 가정에 뿌리를 두고 있습니다. 더 나은 설명은 FTC가 단순히 반기업적이라는 것입니다.
The ChatGPT Lawyer Explains Himself
NYT
챗지피티의 잘못된 이용과 관련해 화제가 된 사건 중 하나가 판례 인용을 챗지피티가 제시한 그대로 작성했던 변호사 사례이다. 지난 주 벌금 5천 달라가 부과되었다. 뉴욕 타임즈에서 변호사를 인터뷰한 내용 일부를 보면 어떤 방식으로 작동하는지 전혀 이해하지 못했다는 사실을 알 수 있다.
뉴욕에서 30년 동안 변호사로 일해 온 슈워츠 씨는 이번 주 판사에게 제출한 진술서에서 대학생 자녀와 기사를 통해 ChatGPT에 대해 알게 되었지만 전문적으로 사용해 본 적은 없다고 말했습니다.
그는 목요일에 카스텔 판사에게 ChatGPT가 표준 데이터베이스보다 더 큰 영향력을 가지고 있다고 믿었다고 말했습니다. 슈워츠는 “이 새로운 사이트에 대해 들었는데, 슈퍼 검색 엔진이라고 잘못 생각했습니다.”라고 말했습니다.
ChatGPT와 같은 프로그램과 기타 대규모 언어 모델은 실제로 인터넷에서 가져온 수십억 개의 예시를 수집한 통계 모델을 기반으로 어떤 텍스트 조각이 다른 시퀀스를 따라야 하는지 분석하여 사실적인 응답을 생성합니다.
대다수 사람은 이 모델이 어떤 방식으로 작동하는지에 대한 이해가 부족하다. 여러 차례 설명해도 똑같은 불만을 듣게 된다. 이런 부분이 새로운 기술에 대한 설명에서 가장 어려운 점 아닐지.
The Greatest Guide
McCANN
생성 인공지능을 활용하여 맞춤형 간판을 만들었다는 사례. (실제 효과로 제시된 지표에 대해서는 얼마나 믿어야할지는 모르겠지만..). 링크 영상 참고.
세계 최대 베이커리 회사인 빔보는 75년 동안 문어, 메뚜기 등 특이한 재료를 사용한 독특한 레시피로 햄버거와 핫도그를 혁신하는 멕시코의 수천 개 인디 푸드 벤더에게 빵을 공급해 왔습니다. ‘위대한 가이드’를 통해 8,400명 이상의 소규모 비즈니스 사업가들이 매핑 기술과 업계 최초의 AI 기반 브랜딩 도구 세트를 통해 거대 패스트푸드 기업들과 경쟁에서 돋보일 수 있도록 지원했습니다. 크리에이티브 프로세스에는 공급업체로부터 광범위한 데이터를 수집한 다음 음식의 창의성과 멕시코 거리 간판의 풍부한 전통적 시각적 유산을 반영한 매핑 및 생성 AI 간판에 적용하는 작업이 포함되었습니다.
이 캠페인을 통해 42,000개 이상의 독창적인 간판이 생성되었으며, 캠페인에 참여한 지역의 매출은 23% 증가했습니다. 또한 미식가와 관광객에게 멕시코를 방문해야 할 이유를 8,000개 이상 더 제공했습니다. 이 캠페인은 맥칸 멕시코, FCB 멕시코, 미디어브랜즈로 구성된 빔보 멕시코의 맞춤형 IPG 유닛인 벡터 B와 수상 경력에 빛나는 “블랙 엘리베이션 맵”을 제작한 데이터 기반 크리에이티브 에이전시인 맥칸 월드그룹 에이전시 퍼포먼스 아트(Performance Art)가 함께 기획했습니다.
AI is killing the old web, and the new web struggles to be born
The Verge
“AI 편집자”를 찾는 구인 공고에는 “주당 200~250건의 기사 생산”을 기대하고 있습니다. ChatGPT는 전체 스팸 사이트를 생성하는 데 사용되고 있습니다. Etsy는 “AI가 생성한 정크”로 넘쳐납니다. 챗봇은 잘못된 정보 오보에서 서로를 인용합니다. LinkedIn은 지친 사용자를 자극하기 위해 AI를 사용하고 있습니다. Snapchat과 Instagram은 친구가 말을 걸지 않을 때 봇이 말을 걸어주기를 희망합니다. 레디터들은 블랙아웃을 준비하고 있습니다. 스택 오버플로 모드가 파업 중입니다. 인터넷 아카이브는 데이터 스크레이퍼와 싸우고 있으며, “인공지능이 위키백과를 찢어놓고 있다”고 합니다. 오래된 웹은 죽어가고 있고 새로운 웹은 탄생을 위해 고군분투하고 있습니다.
생성 인공지능의 여러가지 문제를 이야기하지만 개인적으로는 기존에 만들어놓았던 웹이라는 콘텐츠 유통 체계가 완전히 새로운 방식으로 바뀌게 될 것이라는 점이다. 누가 정보를 만들고 어떻게 접근하며 누가 돈을 받게 될지에 관한 싸움이다.
기존의 웹과 인공지능이 새롭게 바꿀 방식 중 어떤게 더 낫다고 이야기하기는 어렵다. 하지만 웹을 둘러싼 오랜 변화 중 가장 최근의 이야기이며, 지금 결정에 따라 미래의 웹이 어떻게 바뀔지 결정될 것이다.
머신러닝 분야에서 “The Bitter Lesson”이라는 유명한 에세이가 있는데, 수십 년에 걸친 연구를 통해 AI 시스템을 개선하는 가장 좋은 방법은 지능을 설계하는 것이 아니라 단순히 문제에 더 많은 컴퓨터 성능과 데이터를 투입하는 것임을 증명하고 있습니다. 이 교훈은 기계의 규모가 인간의 큐레이션을 능가한다는 것을 보여주기 때문에 씁쓸합니다. 웹에서도 마찬가지일 수 있습니다.
Metaphors for AI, and why I don’t like them
Boaz Barak (Blog)
인공지능을 대중적으로 설명하는 과정에서 은유를 종종 사용한다. 은유는 강력한 설명의 방식이지만, 인공지능을 설명하는 과정에서 많은 오해를 발생시킨다는 글이다. 따라서 Boaz Barak 교수는 은유를 과도하게 해석하지 않도록 주의할 필요가 있다고 주장한다. 단일 은유로는 인공지능의 모든 측면을 포착하기 어렵기 때문이다. 몇 가지 널리 알려진 사례를 기반으로 해당 은유가 가지는 문제점에 관해 설명한다. 여기에서는 몇 가지 사례만 인용해놓는다. 이 조차도 일부 인용이라 오해가 있을 수 있으니 링크를 직접 읽어볼 필요가 있다.
- 확률적 앵무새
대규모 언어 모델이 ‘앵무새처럼 따라하기’를 극대화하도록, 즉 교차 엔트로피 손실을 최소화하도록 학습된 것은 사실이지만, 이 손실 함수가 모든 기능을 포착하지는 못합니다. 예를 들어, GPT-3 논문에 따르면(표 D.1의 숫자를 그림 3.1의 공식에 대입하면) 13B 매개변수 모델의 손실은 1.97이고 175B 모델의 손실은 1.73입니다. 이는 175B 모델이 13B 모델보다 약간 더 나은 “앵무새”에 불과하다는 것을 의미합니다(대략 14%가 아닌 17.7%의 확률로 다음 토큰을 추측). 그러나 많은 작업에서 175B 모델은 13B 모델보다 질적으로 우수하여 거의 완벽에 가까운 성능을 달성하는 반면 13B 모델은 무작위 추측을 간신히 능가합니다. 마찬가지로, 검증 손실의 (추정되는) 작은 차이에도 불구하고 GPT4는 GPT3보다 질적으로 더 강력합니다. 이러한 새로운 기능이 바로 LLM의 본질적인 속성이며, 확률적 앵무새 비유가 오해의 소지가 있는 이유이기도 합니다.
- 웹의 손실압축
치앙은 이것이 ChatGPT의 본질적인 사실이며, 기본적으로 웹을 제한된 공간에 저장하려는 경우에만 유용할 수 있는 Google의 일부 저하된 버전이라고 생각하는 것 같습니다. 그의 말에 따르면, “우리는 인터넷에 대한 액세스를 잃지 않습니다. 원본이 있는데 흐릿한 JPEG가 무슨 소용이 있을까요?”라고 반문했습니다. 하지만 치앙이 이 글을 썼을 때 이미 ChatGPT의 사용자 수는 1억 명에 달했으니, 분명 많은 사람들이 이 ‘흐릿한 jpg’의 용도를 찾았을 것입니다. 실제로 아래에서 설명하겠지만, 치앙 자신도 새로운 은유로 옮겨간 것으로 보입니다.
널리 알려진 은유 외 다른 은유도 정리해놓은 글이니 참고