President’s Lecture Series: Sundar Pichai

구글 순다 피차이의 카네기 멜론 강연. 인공지능의 혁신적 가능성을 이야기하며 지속가능성을 위한 노력이 필요함을 이야기한다. 인공지능 잠재력에 관해 이야기하는 부분에서 빅데이터 이야기때부터 많이 보이던 그래프를 확인할 수 있는데, 인공지능 모델 사용 비용의 급격한 하락은 더 많은 사람이 인공지능을 활용할 수 있게 한다고 말하며, 공기처럼 저렴한 지능(intelligence just like air, too cheap to meter)이 될 수 있음을 말한다.

이미 비용이 낮아지는 것을 목격하고 있습니다. 지난 18개월 동안 주력 모델의 토큰당 비용을 살펴보면 100만 토큰당 4달러였던 것이 지금은 13센트에 불과하며, 이러한 추세는 계속될 것입니다. 공기와 같은 인텔리전스를 계량화할 수 없을 정도로 저렴하게 사용할 수 있게 될 것이며, 이는 차트처럼 보일 수도 있지만 제게는 앞으로 다가올 흥미로운 미래입니다.

We’re Entering Uncharted Territory for Math
The Atlantic

순수 수학에서 LLM이 어떤 의미가 있을지에 관한 글. 수학자 테런스 타오(Terence Tao) 인터뷰. GPT4 o1 모델을 보통이지만 완전히 무능하지 않은 대학원생에 비교한 말이 화제가 된 바 있다. 하지만 의미가 곡해된 부분이 있다며 아래와 같이 이야기한다.

제가 해결할 수 있는 문제를 주고 모델을 안내하려고 했습니다. 먼저 힌트를 주었고, 모델은 힌트를 무시하고 다른 작업을 했는데, 작동하지 않았습니다. 제가 이것을 설명하자, 모델은 사과하고 “좋아요, 당신 방식대로 할게요.”라고 말했습니다. 그런 다음 제 지시를 상당히 잘 수행했지만, 다시 막혔고, 저는 다시 수정해야 했습니다. 모델은 가장 영리한 단계를 결코 알아내지 못했습니다. 그것은 모든 일상적인 일을 할 수 있었지만, 매우 상상력이 부족했습니다.

대학원생은 과제를 완전히 해결하지 못하더라도 학습하고 수정할 잠재력이 있다고 보지만 o1은 지속적인 학습과 다르다고 말한다.

그렇다면 어디에 이를 활용할 수 있을까? 이와 관련해 인터페이스로서 LLM에 대한 언급을 한다.

증명 지원 도구를 사용하면 함께 일하는 사람을 신뢰할 필요가 없습니다. 이 프로그램이 100% 보장을 제공하기 때문입니다. 그러면 지금은 실제로 존재하지 않는 공장 생산 유형의 산업 규모 수학을 할 수 있습니다. 한 사람은 현대 공급망과 같이 특정 유형의 결과만 증명하는 데 집중합니다.
문제는 이러한 프로그램이 매우 까다롭다는 것입니다. 전문 언어로 주장을 작성해야 합니다. 그냥 영어로 작성할 수는 없습니다. AI는 인간 언어에서 프로그램으로 일부 번역을 할 수 있습니다. 한 언어를 다른 언어로 번역하는 것은 거의 대규모 언어 모델이 하도록 설계된 것과 정확히 같습니다. 꿈은 챗봇과 대화를 나누며 증명을 설명하고, 챗봇이 진행하면서 증명 시스템 언어로 변환하는 것입니다.
Wong: 그러니까 챗봇은 지식이나 아이디어의 원천이 아니라 인터페이스 방식이라는 거죠. Tao: 네, 정말 유용한 접착제가 될 수 있습니다.

Enterprise Philosophy and The First Wave of AI
Stratechery

AI가 새로운 컴퓨팅 패러다임으로 기업 생산성을 높이고 인력을 대체하는 방식으로 자리 잡고 있다고 분석하는 글. 벤 톰슨이 과거에 작성했던 내용이지만 인상적 이야기.

Google의 관점에서 컴퓨터는 여러분을 대신하여 일을 처리함으로써 여러분이 일을 처리하고 시간을 절약할 수 있도록 도와줍니다. Duplex는 가장 인상적인 사례였습니다. 컴퓨터가 여러분을 대신하여 전화 통화를 하는 것이었지만, 일반적인 개념은 Google의 다른 많은 데모, 특히 AI를 기반으로 하는 데모에도 적용되었습니다. Google Photos는 사진을 분류하고 태그를 지정할 뿐만 아니라 이제 특정 편집을 제안합니다. Google News는 여러분을 대신하여 뉴스를 찾아주고, Maps는 여러분의 동네에 있는 새로운 레스토랑과 상점을 찾아줍니다. 

[…] 기대하는 바는 컴퓨터가 당신을 대신해서 일을 해준다는 것이 아니라, 컴퓨터가 당신이 더 잘, 더 효율적으로 일을 할 수 있도록 해준다는 것입니다. 그리고 이 철학과 함께 책임에 대한 다른 견해가 생겨납니다. 피차이는 Google의 기조연설 서두에서 “우리는 이것을 제대로 해야 한다는 깊은 책임감을 느낍니다”라고 인정했지만, 그 진술에는 Google의 전반적인 중심성과 관리자들의 직접적인 책임이 내재되어 있습니다. 반면 나델라는 책임이 기술 산업 전체에 있으며, 개인적으로 그것을 활용하려는 우리 모두에게 있다고 주장합니다

Charting Your AI Native Journey
Tessl

변화와 신뢰라는 두 가지 축을 중심으로 인공지능을 구분하는 사고 모형

(1) 높은 채택성 (Bottom Left)
기존 워크플로에 통합되며 신뢰도가 낮아 쉽게 도입 가능.
예시: GitHub CoPilot(코드 완성), Glean(엔터프라이즈 검색), Fathom(노트 작성).
특징: 간단히 검증 가능한 작업으로 생산성을 향상.

(2) 높은 자율성 (Top Left)
기존 워크플로에 통합되지만 높은 신뢰가 필요.
예시: Intercom의 Fin(고객 지원 AI), Robotaxis(자율주행 택시).
특징: 자동화된 작업을 수행하며 인간의 개입을 최소화.

(3) 변화 기회 (Bottom Right)
새로운 워크플로를 요구하며 낮은 신뢰가 필요.
예시: Synthesia(AI 아바타 영상 제작), Perplexity(챗 기반 검색).
특징: 기존 산업을 흔들 수 있는 혁신적 잠재력을 가짐.

(4) AI 네이티브 미래 (Top Right)
새로운 워크플로를 요구하며 높은 신뢰를 요함.
예시: AI 변호사, 자율 소프트웨어 개발(Tessl).
특징: 완전히 새로운 패러다임으로 전환하는 미래적 비전.

The 27-Year-Old Billionaire Whose Army Does AI’s Dirty Work
WSJ

Scale AI에 관한 WSJ 기사. 인공지능 학습을 위한 데이터를 제공하는 기업으로 주목받고 있으며 많은 투자를 받았다. 하지만 꽤나 많은 투자를 받았기 때문에 투자 받은 만큼 헤자가 있고 가치 있는 기업이 될 수 있을까.

알렉산드르 왕은 현대 AI 붐을 뒷받침하는 지루한 작업을 수행하는 10만 명이 넘는 계약직 직원으로 이루어진 방대한 군대를 구축하여 세계에서 가장 어린 자수성가한 억만장자 중 한 명이 되었습니다. 전 세계 도시에서 컴퓨터 앞에 앉아 있는 그의 스타트업 Scale AI의 직원들은 스토리를 타이핑하고, 이미지를 라벨링하며, 챗봇이 인간의 말투를 더 잘 이해할 수 있도록 하는 문장을 작성합니다. 데이터 라벨링이라고 불리는 이 작업은 하이쿠를 쓰고 뉴스 기사를 요약하는 것부터 코사어나 우르두어와 같은 언어로 이야기를 쓰는 것까지 다양합니다.

Boomer Apple
Stratechery

서비스 수익과 이익은 실제로 하드웨어 판매에서 비롯된 것이라고 볼 수 있다. 즉, 하드웨어가 없으면 서비스도 존재할 수 없다. 하지만 애플은 3년 연속 아이폰 실질 가격을 낮춤으로써 서비스 사업의 성장을 위해 하드웨어의 접근성을 높였고, 이는 애플이 과거처럼 제품 가격을 쉽게 올릴 수 있는 힘이 약해졌다는 것을 의미한다고 말한다. 즉, 장기적인 성장 전략은 서비스에 더 초점을 맞추고 있다고 분석한다.

스넬은 애플에 “어디서 왔는지 기억하라”고 촉구하며 글을 마무리합니다. 하드웨어가 모든 것을 작동하게 하는 것입니다. 저는 스넬의 주장에 공감합니다. 통합 하드웨어 회사인 애플은 제가 존경하는 존재이자 어제 제가 잘못 예측한 것에서 알 수 있듯이 여전히 제 마음속에 크게 자리 잡고 있기 때문입니다. 게다가 서비스 수익과 이익은 하드웨어 수익과 이익에 대한 회계적 구분일 뿐이라고 주장할 수 있습니다(그리고 그래야 합니다). 왜냐하면 후자가 전자를 잠금 해제하기 때문입니다.

하지만 제가 iPhone을 특별히 분류한 이유는 바로 그것입니다. 저는 Snell이 말하는 보이지 않는 선은 이미 넘어섰다고 생각합니다. 네, 다음 분기 iPhone 숫자는 계절성 덕분에 다시 급증할 것이지만, 이제 Apple은 3년 연속으로 더 안정적으로 성장하는 서비스 사업을 선호하거나(실제 가격을 낮춰 iPhone의 접근 가능한 시장을 늘림으로써) 중년기에 제품 매출을 끌어올린 가격 책정력이 없다는 것을 인정했습니다.