This AI Pioneer Thinks AI Is Dumber Than a Cat
WSJ

뉴욕대학 교수이자 메타 수석 AI과학자인 얀 르쿤은 대표적인 인공지능 회의론자. 인간과 같은 지능을 가지게 될 것이라는 우려에 대해 고양이에 비유하여 인공지능을 설명한다. 그의 입장은 얼마나 더 많은 데이터나 인프라를 투자하는지가 아닌 새로운 모델이 필요하다는 것. 이미지를 통해 학습하는 방식에 기대를 하고 있다는 이야기도 얼핏 나온다. 결국 지금 방식의 모델은 사람들이 걱정하는 수준에 다다를 수 없다고 본다

LeCun는 이러한 논의가 시기상조일 가능성이 크다고 말한다. 지난 5월, 떠나는 오픈AI 연구원이 초지능 AI를 제어하는 방법을 배우는 것이 필요하다고 언급했을 때, LeCun은 즉각 반응했다. 그는 X(구 트위터)에서 “우리보다 훨씬 더 똑똑한 AI 시스템을 긴급히 제어하는 방법을 알아내기 전에, 집 고양이보다 더 똑똑한 시스템을 설계할 수 있는 최소한의 단서라도 필요하다고 생각한다”고 답했다.

LeCun은 고양이 비유를 좋아한다. 그는 고양이가 물리적 세계에 대한 정신 모델, 지속적인 기억, 일정 수준의 추론 능력, 계획 수립 능력을 가지고 있다고 말한다. 그러나 메타를 포함해 오늘날의 최첨단 AI에는 이러한 특성이 전혀 존재하지 않는다.

We’re Entering Uncharted Territory for Math
The Atlantic

순수 수학에서 LLM이 어떤 의미가 있을지에 관한 글. 수학자 테런스 타오(Terence Tao) 인터뷰. GPT4 o1 모델을 보통이지만 완전히 무능하지 않은 대학원생에 비교한 말이 화제가 된 바 있다. 하지만 의미가 곡해된 부분이 있다며 아래와 같이 이야기한다.

제가 해결할 수 있는 문제를 주고 모델을 안내하려고 했습니다. 먼저 힌트를 주었고, 모델은 힌트를 무시하고 다른 작업을 했는데, 작동하지 않았습니다. 제가 이것을 설명하자, 모델은 사과하고 “좋아요, 당신 방식대로 할게요.”라고 말했습니다. 그런 다음 제 지시를 상당히 잘 수행했지만, 다시 막혔고, 저는 다시 수정해야 했습니다. 모델은 가장 영리한 단계를 결코 알아내지 못했습니다. 그것은 모든 일상적인 일을 할 수 있었지만, 매우 상상력이 부족했습니다.

대학원생은 과제를 완전히 해결하지 못하더라도 학습하고 수정할 잠재력이 있다고 보지만 o1은 지속적인 학습과 다르다고 말한다.

그렇다면 어디에 이를 활용할 수 있을까? 이와 관련해 인터페이스로서 LLM에 대한 언급을 한다.

증명 지원 도구를 사용하면 함께 일하는 사람을 신뢰할 필요가 없습니다. 이 프로그램이 100% 보장을 제공하기 때문입니다. 그러면 지금은 실제로 존재하지 않는 공장 생산 유형의 산업 규모 수학을 할 수 있습니다. 한 사람은 현대 공급망과 같이 특정 유형의 결과만 증명하는 데 집중합니다.
문제는 이러한 프로그램이 매우 까다롭다는 것입니다. 전문 언어로 주장을 작성해야 합니다. 그냥 영어로 작성할 수는 없습니다. AI는 인간 언어에서 프로그램으로 일부 번역을 할 수 있습니다. 한 언어를 다른 언어로 번역하는 것은 거의 대규모 언어 모델이 하도록 설계된 것과 정확히 같습니다. 꿈은 챗봇과 대화를 나누며 증명을 설명하고, 챗봇이 진행하면서 증명 시스템 언어로 변환하는 것입니다.
Wong: 그러니까 챗봇은 지식이나 아이디어의 원천이 아니라 인터페이스 방식이라는 거죠. Tao: 네, 정말 유용한 접착제가 될 수 있습니다.

Microsoft throws in the towel on HoloLens 2
The Register

광학적 문제와 틈새시장. 마이크로소프트는 손을 떼고 메타와 애플만이 진지하게 투자하는 유일한 회사로 남았다.

Microsoft는 HoloLens 2 혼합현실 헤드셋 생산을 중단했으며 하드웨어 교체는 없을 것이라고 The Register에서 확인했습니다. 회사 대변인은 “Microsoft는 더 이상 Microsoft HoloLens 2를 생산하지 않으며, 고객과 파트너를 위해 구매할 마지막 시기를 알렸습니다. 보안 업데이트를 포함한 HoloLens 2 지원은 2027년 12월 31일에 종료됩니다.

아마존 AI 크리에이티브 스튜디오는 소규모 비즈니스가 제품 사진을 동영상으로 전환하는 빠르고 쉬운 방법을 제공한다. 동영상 생성기의 실질적인 활용 사례

President’s Lecture Series: Sundar Pichai

구글 순다 피차이의 카네기 멜론 강연. 인공지능의 혁신적 가능성을 이야기하며 지속가능성을 위한 노력이 필요함을 이야기한다. 인공지능 잠재력에 관해 이야기하는 부분에서 빅데이터 이야기때부터 많이 보이던 그래프를 확인할 수 있는데, 인공지능 모델 사용 비용의 급격한 하락은 더 많은 사람이 인공지능을 활용할 수 있게 한다고 말하며, 공기처럼 저렴한 지능(intelligence just like air, too cheap to meter)이 될 수 있음을 말한다.

이미 비용이 낮아지는 것을 목격하고 있습니다. 지난 18개월 동안 주력 모델의 토큰당 비용을 살펴보면 100만 토큰당 4달러였던 것이 지금은 13센트에 불과하며, 이러한 추세는 계속될 것입니다. 공기와 같은 인텔리전스를 계량화할 수 없을 정도로 저렴하게 사용할 수 있게 될 것이며, 이는 차트처럼 보일 수도 있지만 제게는 앞으로 다가올 흥미로운 미래입니다.