Welcome to STATE OF AI REPORT 2024.
Air Street

테크니컬한 내용 위주라 그냥 전체 요약 내용만

2024년 보고서의 주요 내용:

• 최첨단 연구소 성능의 수렴: 최첨단 연구소의 성능이 수렴하면서 독점 모델의 우위가 사라지고 있으며, GPT-4와 다른 모델 간의 격차가 좁혀지고 있습니다. OpenAI의 o1은 연구소를 다시 최상위로 올려놓았지만, 그 위치가 얼마나 지속될지는 불확실합니다.
• 계획 및 추론의 우선순위: LLM(대규모 언어 모델) 연구에서 계획 및 추론이 중요한 과제로 떠올랐습니다. 기업들은 강화 학습, 진화 알고리즘, 자기 개선(Self-improvement)과 LLM을 결합하여 미래의 자율 에이전트 애플리케이션을 개발하는 방법을 모색하고 있습니다.
• 기초 모델의 다분야 확장: 기초 모델(Foundation Models)은 언어를 넘어 수학, 생물학, 유전체학, 물리학 및 신경과학 등 다양한 분야에서 다중 모달(multimodal) 연구를 지원하는 능력을 입증하고 있습니다.
• 미국 제재의 제한적 영향: 미국의 제재는 중국 연구소가 강력한 (V)LLM(초거대 언어 모델)을 생산하는 데 제한적인 영향을 미쳤습니다. 재고, 승인된 하드웨어, 밀수 및 클라우드 액세스의 조합으로 인해 중국 연구소는 고성능 모델을 구축할 수 있었습니다. 그러나 중국의 반도체 산업 육성 노력은 여전히 혼란스러운 상태입니다.
• AI 기업의 기업 가치 상승: AI 기업의 기업 가치는 9조 달러에 도달했으며, 상장 기업은 AI 노출로 인해 강세장을 경험하고 있습니다. 비상장 AI 기업에 대한 투자는 증가했지만, 미국 내 대규모 GenAI(생성형 AI) 투자 라운드에도 불구하고 그 규모는 상대적으로 적었습니다.
• 수익을 창출하는 AI 기업의 등장: 기초 모델 개발자 및 비디오 및 오디오 생성에 집중하는 스타트업 등 일부 AI 기업은 본격적으로 수익을 창출하기 시작했습니다. 그러나 기업들이 시장 점유율을 확보하기 위해 모델 가격을 낮추는 과정에서 장기적인 지속 가능성에 대한 의문이 제기되고 있습니다.
• 의사 인수(pseudo-acquisition)의 등장: 일부 AI 기업은 최첨단 기술을 유지하는 데 비용이 많이 들기 때문에, 지속 가능한 비즈니스 모델을 찾지 못해 의사 인수를 통해 사업을 정리하는 방안을 모색하고 있습니다.
• 실존적 위험 담론의 완화: OpenAI의 쿠데타 시도 실패 이후, AI의 실존적 위험에 대한 논의는 다소 완화되었습니다. 그러나 연구자들은 여전히 모델의 잠재적 취약점과 오용 가능성에 대한 연구를 심화하고 있으며, 잠재적 수정 및 안전장치를 제안하고 있습니다.

The future of European competitiveness

최근에 플랫폼 규제 관련 내용을 보다보니 어쩌다 이런 보고서까지 보게 되었는데… 유럽 자체적으로도 경쟁력 약화에 대해 인지하고 이를 이야기하는 목소리도 있다는 것이다. 내용은 길어서 링크만 남기고 아래는 GPT 요약

1. 혁신 격차 해소: 유럽은 미국과 중국에 비해 기술 및 디지털 혁신에서 뒤처져 있습니다. 특히 AI, 클라우드 컴퓨팅, 양자 컴퓨팅 같은 첨단 기술 분야에서의 투자와 기술 개발이 부족합니다. 이를 해결하기 위해 유럽 내에서 혁신을 촉진하고, 기업이 새로운 기술을 상용화할 수 있는 생태계를 조성하는 것이 필요합니다. 이는 새로운 고용과 경제 성장을 이끌어낼 것입니다.
2. 탈탄소화와 경쟁력 계획: 에너지 비용이 높고 자원 의존성이 큰 유럽은 탄소 중립을 달성하기 위한 일관된 전략이 필요합니다. 청정 에너지 전환을 통해 에너지 비용을 낮추고, 청정 기술 분야에서 글로벌 리더로 자리매김하기 위한 지원이 요구됩니다. 이를 위해 EU 내 에너지 및 자원 시장의 통합이 중요한 요소로 지목됩니다.
3. 안보 강화 및 의존성 감소: 보고서는 글로벌 공급망과 무역에 대한 의존이 유럽의 안보에 위협이 될 수 있다고 경고합니다. 특히 핵심 원자재와 디지털 기술 부문에서 자급자족을 강화하고, 특정 국가 의존을 줄이기 위한 외교 경제 정책이 필요하다고 강조합니다.
4. 투자와 재정 자원 마련: 이러한 변화를 지원하기 위해서는 대규모 투자가 필요하며, 이는 공공 부문의 지원 없이는 어려울 수 있습니다. 따라서 유럽 내 자본 시장을 통합해 개인과 기업의 저축이 생산적인 투자로 이어지도록 유도하고, 공동 자금을 조성해 연구 및 혁신을 지원해야 한다고 제안합니다.
5. EU 거버넌스 개혁: 유럽 연합의 결정 과정이 지나치게 느리고 분산되어 있다는 문제를 해결하기 위해 EU의 통합적인 거버넌스 구조를 강화하고, 규제 부담을 줄이는 것이 필요합니다. 이를 통해 정책의 일관성을 높이고 공동 목표를 향한 효율적인 대응을 가능하게 해야 합니다.

유튜브 영상과 관심 가는 내용의 기계 요약본

서게이 브린은 AI 기술이 구글의 핵심 분야인 검색을 포함하여 다양한 일상생활에서 큰 변화를 가져올 것이라고 언급했습니다. 그는 특히 AI가 사람들의 작업 방식에 미치는 영향을 강조하며, 이제는 단순히 코드를 작성하기보다는 AI에게 요청하여 코드를 생성하고 문제를 해결하는 시대가 왔다고 말했습니다. 예를 들어, 브린은 구글의 AI를 이용해 스도쿠 문제를 자동으로 생성하고 해결하는 프로그램을 만들었는데, 이런 경험을 통해 AI가 매우 복잡한 작업도 스스로 해결할 수 있는 능력을 가지고 있음을 체감했다고 밝혔습니다.

또한, 그는 현재 AI 모델들이 특정 문제를 해결하기 위해 개별적으로 설계되었지만, 앞으로는 여러 기능을 통합한 모델, 즉 “통합된 아키텍처”를 가진 AI가 등장할 가능성이 크다고 내다보았습니다. 그는 일부 전문가들이 이 통합된 모델을 “신의 모델(God model)”이라고 표현하는데, 이것이 모든 것을 해결할 수 있는 최종 AI 모델이 될 것이라는 기대와 과장이 있다고 덧붙였습니다. 그러나 브린은 현재로서는 특정 문제에 특화된 소규모 모델들이 각자 협력하여 최적의 결과를 내는 방식이 더 현실적이라고 설명했습니다.

브린은 AI의 놀라운 응용 분야 중 하나로 생물학을 예로 들었습니다. 특히, 구글의 알파폴드(AlphaFold)는 단백질 구조를 예측하는 데 뛰어난 성과를 보여 주며 생명과학 연구에 혁신을 가져왔습니다. 브린은 이처럼 AI가 기존 기술로는 접근하기 어려웠던 문제를 해결하며, 과학 및 연구에 커다란 기여를 할 수 있다고 설명했습니다. 또 다른 분야로는 로봇공학을 언급했으며, AI가 로봇의 움직임과 인식을 더욱 정교하게 만들어 주었지만, 아직 일상에서 활용되기 위해서는 더 많은 개선이 필요하다고 보았습니다. 특히 과거 구글이 여러 로봇 회사들을 인수하고 발전시키려 했지만 당시의 AI 기술로는 기대한 수준의 성과를 내지 못했다고 회고했습니다.

AI의 발전이 인간-컴퓨터 상호작용을 어떻게 변화시킬지에 대한 전망도 흥미로웠습니다. 브린은 AI가 실시간 영상 및 음성 인식을 통해 사용자의 주변 환경을 파악하고 그에 따라 상호작용할 수 있는 단계에 도달했다고 언급했습니다. 그는 구글이 개발 중인 “Astra”라는 모델을 예로 들어, 이 모델이 실시간으로 사용자와 소통하면서 주변 상황을 이해하고 반응하는 기능을 구현하고 있다고 설명했습니다. 이는 AI가 단순히 정적인 응답을 넘어, 실제 환경에서 사람과 상호작용할 수 있는 새로운 가능성을 열어줄 것으로 기대됩니다.

AI의 발전 속도에 대해서도 그는 놀라움을 표현했습니다. 브린은 불과 몇 년 전만 해도 언어 모델을 개발하기 위한 신경망 기술이 주목받지 못했지만, 이제는 기술과 데이터의 발전 덕분에 놀라운 성과를 내고 있다고 강조했습니다. 그는 최근 AI 개발에 있어 구글이 경쟁자들보다 한 걸음 앞서 있는 점을 언급하면서, 치열한 경쟁이 구글 내부에도 큰 자극제가 되고 있음을 인정했습니다. 경쟁이 AI 분야에서 혁신을 촉진시키며, 결과적으로 인간에게 더 큰 혜택을 가져다줄 수 있다는 긍정적인 견해를 밝혔습니다.

마지막으로 브린은 AI의 가치를 대중과 공유하는 것이 중요하다고 말했습니다. AI가 완벽하지 않고 때때로 실수를 범하더라도, 이를 통해 사람들이 새로운 가능성을 발견하고 실험할 수 있는 기회를 주는 것이 필요하다고 강조했습니다. 그는 “마법 같은 능력”을 가진 AI가 세상에 제공할 수 있는 혁신적 잠재력을 지지하며, 대중이 AI와 함께 성장하고 발전해 나가는 것이야말로 미래 AI 기술의 본질적인 목표라고 생각한다고 덧붙였습니다.

McDonald’s touchscreen kiosks were feared as job killers. Instead, something surprising happened
CNN

기술이 도입되면 인간이 대체될 것이라고 생각했지만 그렇게 단순한 결과를 가져오지는 않았다. 생각보다는 복잡한 결과로 이어졌다는 점을 이야기한다.

일부 McDonald’s 프랜차이즈(미국에서 McDonald’s의 95%를 소유하고 운영)는 현재 현금을 받고 거스름돈을 받을 수 있는 키오스크를 출시하고 있습니다 . 하지만 이러한 매장에서도 McDonald’s는 계산원을 다른 역할로 재배치하고 있으며, 여기에는 고객이 키오스크를 사용하고 문제를 해결하는 데 도움이 되는 새로운 “고객 경험 책임자” 직무가 포함됩니다.

“이론적으로 키오스크는 노동력을 절감하는 데 도움이 되어야 하지만, 실제로 레스토랑은 모바일 주문 및 배달로 인해 복잡성이 더해졌고, 키오스크에서 절감된 노동력은 종종 이러한 노력에 재할당됩니다.” 데이터 분석 회사 Placer.ai에서 레스토랑 및 소매 산업을 다루는 분석가인 RJ Hottovy의 말입니다. 키오스크는 “레스토랑 안에 레스토랑을 만들었습니다.”

AI is not our future.
Procreate

진짜인지 믿기 어려운 이야기. 베네딕트 에반스는 “Procreate 팀은 너무 어려서 사람들이 포토샵이나 일러스트레이터를 사용하는 것이 창의적이지 않다고 말했던 때를 기억하지 못할 것 같습니다”라고 코멘트 하기도 했다. 이 이야기를 들으니 엑셀 함수 사용하지 말라던 이야기가 생각난다

창의성은 만들어지는 것이지, 생성되는 것이 아닙니다.
생성형 AI는 사물에서 인간성을 앗아가고 있습니다. 도용을 기반으로 구축된 이 기술은 우리를 황폐한 미래로 이끌고 있습니다. 우리는 기계 학습이 많은 장점을 가진 매력적인 기술이라고 생각하지만, 생성형 AI가 가고 있는 길은 우리에게 옳지 않습니다.
우리는 인간을 위해 여기 있습니다. 우리는 우리의 가장 귀중한 보석인 인간의 창의성에 도덕적 위협이 되는 기술을 쫓지 않습니다. 이러한 기술적 급류 속에서, 이는 우리를 예외적으로 만들거나 뒤처질 위험이 있어 보일 수 있습니다. 하지만 우리는 이 덜 걸어본 길이 우리 커뮤니티에게 더 흥미롭고 결실 있는 길이라고 봅니다.

Just four companies are hoarding tens of billions of dollars worth of Nvidia GPU chips
Sherwood

보도를 확인해 준 것은 아니지만 흥미로운 이야기. The Information에 따르면 벤처 캐피털 회사인 Andreesen Horowitz는 값비싼 GPU 20,000개 이상을 비축해 AI 스타트업에 지분을 대가로 임대해주고 있다고 한다 .

Dutch DPA imposes a fine of 290 million euro on Uber because of transfers of drivers’ data to the US

네덜란드 데이터 프라이버시 규제 기관이 우버(Uber)에 2억 9천만 유로(약 4,100억 원)의 벌금을 부과했다. 이는 우버가 일부 운전자 데이터를 미국 서버에 저장했기 때문이다.

네덜란드 DPA는 Uber가 유럽 운전자의 민감한 정보를 수집하여 미국 서버에 보관했다는 사실을 발견했습니다. 계정 세부 정보와 택시 면허증에 관한 것이지만, 위치 데이터, 사진, 결제 세부 정보, 신분증, 어떤 경우에는 운전자의 범죄 및 의료 데이터도 포함됩니다.

2년 이상 동안 Uber는 전송 도구를 사용하지 않고 해당 데이터를 미국에 있는 Uber 본사로 전송했습니다 . 이로 인해 개인 데이터 보호가 충분하지 않았습니다. EU 사법 재판소는 2020년에 EU-US Privacy Shield를 무효화했습니다. 

법원에 따르면, 표준 계약 조항은 여전히 ​​EU 외부 국가로 데이터를 전송하는 데 유효한 근거를 제공할 수 있지만, 이는 실무적으로 동일한 수준의 보호를 보장할 수 있는 경우에만 가능합니다. 

네덜란드 DPA에 따르면 Uber는 2021년 8월부터 표준 계약 조항을 더 이상 사용하지 않았기 때문에 EU 운전자의 데이터가 충분히 보호되지 않았습니다. 작년 말부터 Uber는 Privacy Shield의 후속 조항을 사용합니다.

클라우드 인프라 기반으로 글로벌 서비스를 하는 IT기업이 GDPR 규정을 준수한다는게 쉬운 일은 아닌 것 같다. 참고로 Privacy Shield의 경우 EU 시민들의 개인정보를 미국으로 전송할 때 적절한 보호 수준을 보장하는 것이 목적이었으나 2020년 유럽사법재판소에서 이를 무효화한 이후에 새로운 방식을 재검토하고 대안을 모색해야하는 상황으로 안다.

North Carolina Musician Charged With Music Streaming Fraud Aided By Artificial Intelligence
U.S. DOJ

미국에서는 인공지능을 활용해 수십만 개의 트랙을 생성하고 봇을 사용하여 재생을 생성하여 스트리밍 플랫폼으로부터 1천만 달러의 부정한 대금을 챙긴 인물이 기소되었다.

뉴욕 남부 지방 검사인 데미안 윌리엄스와 연방수사국(FBI) 뉴욕 현장 사무소의 대행 부국장인 크리스티 M. 커티스는 인공지능으로 수십만 곡을 만들고 “봇”이라는 자동화 프로그램을 사용하여 인공지능으로 생성된 곡을 수십억 번 스트리밍하는 계획과 관련하여 마이클 스미스를 기소한 3건의 형사 기소장을 공개한다고 발표했습니다. 스미스는 자신의 계획을 통해 1,000만 달러 이상의 로열티를 사기로 획득했습니다. 스미스는 오늘 체포되어 노스캐롤라이나 주 연방 지방법원 판사 앞에 서게 됩니다.

La Baye Aréa, French TV Series – Opening credits

The iOS Continental Drift Widens
Daring Fireball

오랜만에 보는 존 그루버의 글. 다른 글에서와 비슷하게 유럽의 플랫폼 규제 법안이 가져오는 효과는 의도와 다르게 될 것이라는 점을 이야기하고 있다. 브라우저 선택화면, 필수앱 삭제, 애플 인텔리전스와 화면공유 기능에 있어서 정책당국 의도와는 전혀 다른 효과가 나올 것이라 이야기한다. 예를 들면, 브라우저 선택화면으로 인해 가장 이익을 얻는 것은 크롬이 될 것이라든가, 기술적 이해가 높지 않은 이용자는 오히려 기존 잘 쓰던 브라우저 변경으로 인해 불편함을 겪게 될 것이라는 것이다. 하지만 가장 큰 효과는 아래 이야기하는 것처럼 유럽시장만 서비스 이용에서 제외될 것이라는 전망이다.

EC의 분명한 기대는 유럽 연합이 워낙 규모가 크고 전 세계에 필수적인 존재이기 때문에 애플이 DMA의 다른 대상인 ‘게이트키퍼’들과 함께 EC의 뜻에 따라 앞으로 DMA를 염두에 두고 제품과 서비스를 설계할 것이라는 것입니다. 스택의 모든 계층에서 통합보다 모듈화. EU 내부 시장 담당 위원인 티에리 브르통은 7월에 이렇게 말했습니다: “Apple의 새로운 슬로건은 ‘다르게 행동하라’가 되어야 합니다.”

하지만 EU는 그다지 크지도, 중요하지도 않습니다. 유럽 위원회는 거창한 망상에 사로잡혀 있습니다. 올해 애플 인텔리전스와 아이폰 화면 공유에서 일어난 일은 애플이 iOS와 통합하는 모든 새로운 제품이나 서비스에서 일어날 것으로 예상되는 일입니다: 애플은 EU에 늦게, 또는 아예 들어오지 않을 것입니다. 그리고 Apple이 만드는 모든 새로운 제품과 서비스는 iOS와 통합되므로 Apple의 거의 모든 새로운 제품이 EU에 늦게 출시되거나 아예 출시되지 않을 것입니다.

의도한 바는 아니지만 이것이 바로 DMA의 실제 효과입니다.