Welcome to STATE OF AI REPORT 2024.
Air Street

테크니컬한 내용 위주라 그냥 전체 요약 내용만

2024년 보고서의 주요 내용:

• 최첨단 연구소 성능의 수렴: 최첨단 연구소의 성능이 수렴하면서 독점 모델의 우위가 사라지고 있으며, GPT-4와 다른 모델 간의 격차가 좁혀지고 있습니다. OpenAI의 o1은 연구소를 다시 최상위로 올려놓았지만, 그 위치가 얼마나 지속될지는 불확실합니다.
• 계획 및 추론의 우선순위: LLM(대규모 언어 모델) 연구에서 계획 및 추론이 중요한 과제로 떠올랐습니다. 기업들은 강화 학습, 진화 알고리즘, 자기 개선(Self-improvement)과 LLM을 결합하여 미래의 자율 에이전트 애플리케이션을 개발하는 방법을 모색하고 있습니다.
• 기초 모델의 다분야 확장: 기초 모델(Foundation Models)은 언어를 넘어 수학, 생물학, 유전체학, 물리학 및 신경과학 등 다양한 분야에서 다중 모달(multimodal) 연구를 지원하는 능력을 입증하고 있습니다.
• 미국 제재의 제한적 영향: 미국의 제재는 중국 연구소가 강력한 (V)LLM(초거대 언어 모델)을 생산하는 데 제한적인 영향을 미쳤습니다. 재고, 승인된 하드웨어, 밀수 및 클라우드 액세스의 조합으로 인해 중국 연구소는 고성능 모델을 구축할 수 있었습니다. 그러나 중국의 반도체 산업 육성 노력은 여전히 혼란스러운 상태입니다.
• AI 기업의 기업 가치 상승: AI 기업의 기업 가치는 9조 달러에 도달했으며, 상장 기업은 AI 노출로 인해 강세장을 경험하고 있습니다. 비상장 AI 기업에 대한 투자는 증가했지만, 미국 내 대규모 GenAI(생성형 AI) 투자 라운드에도 불구하고 그 규모는 상대적으로 적었습니다.
• 수익을 창출하는 AI 기업의 등장: 기초 모델 개발자 및 비디오 및 오디오 생성에 집중하는 스타트업 등 일부 AI 기업은 본격적으로 수익을 창출하기 시작했습니다. 그러나 기업들이 시장 점유율을 확보하기 위해 모델 가격을 낮추는 과정에서 장기적인 지속 가능성에 대한 의문이 제기되고 있습니다.
• 의사 인수(pseudo-acquisition)의 등장: 일부 AI 기업은 최첨단 기술을 유지하는 데 비용이 많이 들기 때문에, 지속 가능한 비즈니스 모델을 찾지 못해 의사 인수를 통해 사업을 정리하는 방안을 모색하고 있습니다.
• 실존적 위험 담론의 완화: OpenAI의 쿠데타 시도 실패 이후, AI의 실존적 위험에 대한 논의는 다소 완화되었습니다. 그러나 연구자들은 여전히 모델의 잠재적 취약점과 오용 가능성에 대한 연구를 심화하고 있으며, 잠재적 수정 및 안전장치를 제안하고 있습니다.

Microsoft throws in the towel on HoloLens 2
The Register

광학적 문제와 틈새시장. 마이크로소프트는 손을 떼고 메타와 애플만이 진지하게 투자하는 유일한 회사로 남았다.

Microsoft는 HoloLens 2 혼합현실 헤드셋 생산을 중단했으며 하드웨어 교체는 없을 것이라고 The Register에서 확인했습니다. 회사 대변인은 “Microsoft는 더 이상 Microsoft HoloLens 2를 생산하지 않으며, 고객과 파트너를 위해 구매할 마지막 시기를 알렸습니다. 보안 업데이트를 포함한 HoloLens 2 지원은 2027년 12월 31일에 종료됩니다.

North Carolina Musician Charged With Music Streaming Fraud Aided By Artificial Intelligence
U.S. DOJ

미국에서는 인공지능을 활용해 수십만 개의 트랙을 생성하고 봇을 사용하여 재생을 생성하여 스트리밍 플랫폼으로부터 1천만 달러의 부정한 대금을 챙긴 인물이 기소되었다.

뉴욕 남부 지방 검사인 데미안 윌리엄스와 연방수사국(FBI) 뉴욕 현장 사무소의 대행 부국장인 크리스티 M. 커티스는 인공지능으로 수십만 곡을 만들고 “봇”이라는 자동화 프로그램을 사용하여 인공지능으로 생성된 곡을 수십억 번 스트리밍하는 계획과 관련하여 마이클 스미스를 기소한 3건의 형사 기소장을 공개한다고 발표했습니다. 스미스는 자신의 계획을 통해 1,000만 달러 이상의 로열티를 사기로 획득했습니다. 스미스는 오늘 체포되어 노스캐롤라이나 주 연방 지방법원 판사 앞에 서게 됩니다.

Why A.I. Isn’t Going to Make Art
New Yorker

예술의 정의가 예술가마다 다를 수 있기에 인공지능이 예술을 만들지 못하는 이유에 대해 누군가는 공감하고 누군가는 공감하지 못할 것 같다. 카메라는 의도가 없지만 카메라로 무언가를 만들어내는 사람들이 많지 않은가?

예술은 정의하기 악명높게 어렵고, 좋은 예술과 나쁜 예술의 차이도 마찬가지입니다. 하지만 제가 일반화를 해보자면: 예술은 많은 선택의 결과물입니다. 이는 소설 쓰기를 예로 들면 가장 쉽게 설명할 수 있습니다. 소설을 쓸 때, 여러분은 – 의식적으로든 무의식적으로든 – 타이핑하는 거의 모든 단어에 대해 선택을 합니다. 단순화해서 말하자면, 만 단어짜리 단편 소설은 대략 만 개의 선택을 필요로 한다고 상상할 수 있습니다. 생성 AI 프로그램에 프롬프트를 줄 때, 여러분은 아주 적은 선택만을 하는 것입니다; 백 단어짜리 프롬프트를 제공한다면, 여러분은 대략 백 개의 선택만을 한 것입니다.

[……] 언어는 정의상 의사소통 체계이며, 소통하려는 의도를 필요로 합니다. 여러분의 휴대폰 자동 완성 기능이 좋은 제안을 하든 나쁜 제안을 하든, 어느 경우에도 그것은 여러분이나 여러분이 문자를 보내는 상대방에게 뭔가를 말하려고 하는 것이 아닙니다. ChatGPT가 일관된 문장을 생성할 수 있다는 사실은 우리로 하여금 그것이 여러분의 휴대폰 자동 완성과는 다른 방식으로 언어를 이해한다고 상상하게 만들지만, 그것은 소통하려는 의도가 전혀 없습니다

The iOS Continental Drift Widens
Daring Fireball

오랜만에 보는 존 그루버의 글. 다른 글에서와 비슷하게 유럽의 플랫폼 규제 법안이 가져오는 효과는 의도와 다르게 될 것이라는 점을 이야기하고 있다. 브라우저 선택화면, 필수앱 삭제, 애플 인텔리전스와 화면공유 기능에 있어서 정책당국 의도와는 전혀 다른 효과가 나올 것이라 이야기한다. 예를 들면, 브라우저 선택화면으로 인해 가장 이익을 얻는 것은 크롬이 될 것이라든가, 기술적 이해가 높지 않은 이용자는 오히려 기존 잘 쓰던 브라우저 변경으로 인해 불편함을 겪게 될 것이라는 것이다. 하지만 가장 큰 효과는 아래 이야기하는 것처럼 유럽시장만 서비스 이용에서 제외될 것이라는 전망이다.

EC의 분명한 기대는 유럽 연합이 워낙 규모가 크고 전 세계에 필수적인 존재이기 때문에 애플이 DMA의 다른 대상인 ‘게이트키퍼’들과 함께 EC의 뜻에 따라 앞으로 DMA를 염두에 두고 제품과 서비스를 설계할 것이라는 것입니다. 스택의 모든 계층에서 통합보다 모듈화. EU 내부 시장 담당 위원인 티에리 브르통은 7월에 이렇게 말했습니다: “Apple의 새로운 슬로건은 ‘다르게 행동하라’가 되어야 합니다.”

하지만 EU는 그다지 크지도, 중요하지도 않습니다. 유럽 위원회는 거창한 망상에 사로잡혀 있습니다. 올해 애플 인텔리전스와 아이폰 화면 공유에서 일어난 일은 애플이 iOS와 통합하는 모든 새로운 제품이나 서비스에서 일어날 것으로 예상되는 일입니다: 애플은 EU에 늦게, 또는 아예 들어오지 않을 것입니다. 그리고 Apple이 만드는 모든 새로운 제품과 서비스는 iOS와 통합되므로 Apple의 거의 모든 새로운 제품이 EU에 늦게 출시되거나 아예 출시되지 않을 것입니다.

의도한 바는 아니지만 이것이 바로 DMA의 실제 효과입니다.

La Baye Aréa, French TV Series – Opening credits