President’s Lecture Series: Sundar Pichai
구글 순다 피차이의 카네기 멜론 강연. 인공지능의 혁신적 가능성을 이야기하며 지속가능성을 위한 노력이 필요함을 이야기한다. 인공지능 잠재력에 관해 이야기하는 부분에서 빅데이터 이야기때부터 많이 보이던 그래프를 확인할 수 있는데, 인공지능 모델 사용 비용의 급격한 하락은 더 많은 사람이 인공지능을 활용할 수 있게 한다고 말하며, 공기처럼 저렴한 지능(intelligence just like air, too cheap to meter)이 될 수 있음을 말한다.
이미 비용이 낮아지는 것을 목격하고 있습니다. 지난 18개월 동안 주력 모델의 토큰당 비용을 살펴보면 100만 토큰당 4달러였던 것이 지금은 13센트에 불과하며, 이러한 추세는 계속될 것입니다. 공기와 같은 인텔리전스를 계량화할 수 없을 정도로 저렴하게 사용할 수 있게 될 것이며, 이는 차트처럼 보일 수도 있지만 제게는 앞으로 다가올 흥미로운 미래입니다.
NotebookLM now lets you listen to a conversation about your sources
Google Labs
연구 및 노트작성을 도와주는 구글의 도구인 Notebook LM. 흥미로운 기능을 소개했는데, 논문을 올려놓으면 그 내용을 바탕으로 자동으로 팟캐스트를 만들어주는 점이다.
오늘은 문서를 매력적인 오디오 토론으로 전환하는 새로운 방법인 Audio Overview를 소개합니다. 한 번의 클릭으로 두 명의 AI 호스트가 귀하의 소스를 기반으로 활기찬 “심층 분석” 토론을 시작합니다. 그들은 귀하의 자료를 요약하고, 주제 간의 연결을 만들고, 서로 농담을 주고받습니다. 대화를 다운로드하여 이동 중에도 사용할 수 있습니다.
이것이 무엇을 의미하는걸까? 기능을 보여주기 위한 서비스일수 있지만 실제 활용에서는 효과가 있을까? 재미있는 부분이 있을 것 같다.
Durably reducing conspiracy beliefs through dialogues with AI
Costello et al. / Science
챗봇을 활용해 음모론에 대한 믿음을 상당부분 낮출 수 있고, 일정기간 지속되는 효과가 나타났다는 연구결과
구조화된 초록
소개
근거 없는 음모론에 대한 광범위한 믿음은 대중의 주요 관심사이며 학계 연구의 초점입니다. 이러한 음모론은 종종 믿기 어려운 경우가 많음에도 불구하고 널리 믿어지고 있습니다. 저명한 심리학 이론에 따르면 많은 사람들이 근본적인 심리적 ‘욕구’ 또는 동기를 충족시키기 위해 음모론을 받아들이고 싶어하기 때문에 신자들은 사실과 반증에 근거하여 이러한 근거 없고 믿을 수 없는 믿음을 버리도록 설득할 수 없다고 합니다. 이 글에서는 이러한 통념에 의문을 제기하고 충분히 설득력 있는 증거를 통해 사람들을 음모의 ‘토끼굴’에서 빠져나오게 할 수 있는지에 대해 알아봅니다.
근거
저희는 사실에 입각한 교정 정보에 기반한 개입은 충분한 깊이와 개인화가 부족하기 때문에 효과가 없을 수 있다는 가설을 세웠습니다. 이 가설을 테스트하기 위해 방대한 양의 정보에 접근하고 맞춤형 주장을 생성할 수 있는 인공지능(AI)의 한 형태인 대규모 언어 모델(LLM)의 발전된 기능을 활용했습니다. 따라서 LLM은 각 개인이 자신의 음모적 신념을 뒷받침하는 특정 증거를 직접 반박할 수 있습니다.
이를 위해 저희는 연구 대상과 AI 간의 실시간 맞춤형 상호작용을 통해 행동과학 연구를 수행하는 파이프라인을 개발했습니다. 두 차례의 실험을 통해 2190명의 미국인이 자신이 믿는 음모론과 그 음모론을 뒷받침한다고 생각하는 증거를 직접 말로 표현했습니다. 그런 다음 참가자들이 음모론에 대한 믿음을 줄이도록 유도하면서(또는 대조 조건으로 관련 없는 주제에 대해 AI와 대화하도록 유도하면서) 이 구체적인 증거에 응답하도록 유도하는 LLM GPT-4 Turbo와 세 차례 대화를 진행했습니다.
결과
이 치료는 참가자들이 선택한 음모론에 대한 믿음을 평균 20% 감소시켰습니다. 이 효과는 최소 2개월 동안 감소하지 않고 지속되었으며, 존 F. 케네디 암살, 외계인, 일루미나티와 관련된 고전적인 음모부터 코로나19 및 2020년 미국 대선과 같은 시사적인 사건과 관련된 음모에 이르기까지 광범위한 음모론에 걸쳐 일관되게 관찰되었으며, 음모론적 믿음이 자신의 정체성에 깊이 자리 잡고 있는 참가자들에게도 나타났습니다. 주목할 만한 점은 AI가 실제 음모에 대한 믿음을 감소시키지 않았다는 점입니다. 또한, 전문 팩트 체커가 AI가 제기한 128개의 주장 샘플을 평가한 결과 99.2%가 사실이고 0.8%는 오해의 소지가 있으며 거짓은 없었습니다. 또한, 이러한 반박은 관련 없는 음모에 대한 믿음을 감소시켜 음모론적 세계관이 전반적으로 감소하고 다른 음모론 신봉자들을 반박하려는 의도가 증가했음을 나타냅니다.
결론
사실에 근거하지 않는 것처럼 보이는 음모론적 신념을 강하게 믿는 사람들도 설득력 있는 증거를 제시하면 마음을 바꿀 수 있습니다. 이론적 관점에서 볼 때 이는 인간의 추론에 대해 놀랍도록 낙관적인 그림을 그려줍니다: 음모론적 토끼굴에는 실제로 출구가 있을 수 있습니다. 심리적 욕구와 동기는 본질적으로 음모론자들이 증거에 눈을 멀게 하는 것이 아니라, 적절한 증거가 필요할 뿐입니다. 실제로 LLM의 설득력을 입증함으로써, 이번 연구 결과는 책임감 있게 활용될 경우 생성적 AI의 잠재적인 긍정적 영향과 이 기술이 무책임하게 사용될 기회를 최소화하는 것이 얼마나 중요한지를 강조합니다.
Google outlines plans to help you sort real images from fake
The Verge
특별히 할 말은 없지만 기억을 위해 남긴다
Google에서 사용하는 시스템은 AI 생성 이미지를 처리하려는 가장 큰 그룹 중 하나인 Coalition for Content Provenance and Authenticity( C2PA )의 일부입니다. C2PA의 인증은 이미지가 어디에서 유래되었는지에 대한 정보를 포함하고 하드웨어와 소프트웨어 모두에서 작동하여 디지털 흔적을 만드는 기술 표준입니다. Amazon, Microsoft, Adobe, Arm, OpenAI, Intel, Truepic, Google은 모두 C2PA 인증을 지원했지만 채택이 느렸습니다. Google이 검색 결과에 통합되는 것은 이 이니셔티브에 대한 첫 번째 큰 테스트가 될 것입니다.
Boomer Apple
Stratechery
서비스 수익과 이익은 실제로 하드웨어 판매에서 비롯된 것이라고 볼 수 있다. 즉, 하드웨어가 없으면 서비스도 존재할 수 없다. 하지만 애플은 3년 연속 아이폰 실질 가격을 낮춤으로써 서비스 사업의 성장을 위해 하드웨어의 접근성을 높였고, 이는 애플이 과거처럼 제품 가격을 쉽게 올릴 수 있는 힘이 약해졌다는 것을 의미한다고 말한다. 즉, 장기적인 성장 전략은 서비스에 더 초점을 맞추고 있다고 분석한다.
스넬은 애플에 “어디서 왔는지 기억하라”고 촉구하며 글을 마무리합니다. 하드웨어가 모든 것을 작동하게 하는 것입니다. 저는 스넬의 주장에 공감합니다. 통합 하드웨어 회사인 애플은 제가 존경하는 존재이자 어제 제가 잘못 예측한 것에서 알 수 있듯이 여전히 제 마음속에 크게 자리 잡고 있기 때문입니다. 게다가 서비스 수익과 이익은 하드웨어 수익과 이익에 대한 회계적 구분일 뿐이라고 주장할 수 있습니다(그리고 그래야 합니다). 왜냐하면 후자가 전자를 잠금 해제하기 때문입니다.
하지만 제가 iPhone을 특별히 분류한 이유는 바로 그것입니다. 저는 Snell이 말하는 보이지 않는 선은 이미 넘어섰다고 생각합니다. 네, 다음 분기 iPhone 숫자는 계절성 덕분에 다시 급증할 것이지만, 이제 Apple은 3년 연속으로 더 안정적으로 성장하는 서비스 사업을 선호하거나(실제 가격을 낮춰 iPhone의 접근 가능한 시장을 늘림으로써) 중년기에 제품 매출을 끌어올린 가격 책정력이 없다는 것을 인정했습니다.
The affiliate revenue market for publishers has changed a lot
Baekdal
제휴 링크가 포함된 이커머스 플랫폼을 도입하겠다는 가디언의 발표에 이어, 스팸성 제품 추천에 대한 구글의 단속으로 인해 이러한 제품리뷰 콘텐츠에 대한 제휴 수익이 과거보다 훨씬 더 어려워졌다고 말한다.
오늘날 우리는 Google이 많은 게시자를 검색 순위에서 적극적으로 낮추고 있는 상황에 직면해 있습니다. 그 이유는 게시자의 기사가 가치가 너무 낮아 스팸처럼 보이기 때문입니다. 우리는 수십만 개의 ‘제품 리뷰’를 보는데, 이는 어떤 사람이 Amazon에서 베스트셀러 목록을 검색하고, 몇 가지 제품을 골라내고, 매우 짧은 일반적인 설명을 추가한 다음 제휴 링크를 첨부한 것에 불과합니다.
조금 재미있는 이야기라고 한다면 경쟁자가 누구인지에 관한 것이다
[…] 밥솥을 사려고 한다면, “리뷰”가 Amazon 제휴 링크 옆에 100단어에 불과한 무작위 웹 페이지를 찾기 위해 Google 검색을 할 것인가요? … 아니면 YouTube로 가서 그들이 바로 당신 앞에서 밥솥을 테스트하는 영상을 볼 것인가요?
다시 말해, 유용한 제품 추천을 제공하는 퍼블리셔에 대한 신뢰는 기본적으로 0으로 떨어졌으며, YouTube와 일부 퍼블리셔에서 보는 것처럼 실제로 테스트를 거쳐 노력을 기울였다는 것을 사람들에게 보여주지 않는 한, 이러한 형태의 게시는 가치 있는 것으로 여겨지지 않습니다.
The future of European competitiveness
최근에 플랫폼 규제 관련 내용을 보다보니 어쩌다 이런 보고서까지 보게 되었는데… 유럽 자체적으로도 경쟁력 약화에 대해 인지하고 이를 이야기하는 목소리도 있다는 것이다. 내용은 길어서 링크만 남기고 아래는 GPT 요약
- 혁신 격차 해소: 유럽은 미국과 중국에 비해 기술 및 디지털 혁신에서 뒤처져 있습니다. 특히 AI, 클라우드 컴퓨팅, 양자 컴퓨팅 같은 첨단 기술 분야에서의 투자와 기술 개발이 부족합니다. 이를 해결하기 위해 유럽 내에서 혁신을 촉진하고, 기업이 새로운 기술을 상용화할 수 있는 생태계를 조성하는 것이 필요합니다. 이는 새로운 고용과 경제 성장을 이끌어낼 것입니다.
- 탈탄소화와 경쟁력 계획: 에너지 비용이 높고 자원 의존성이 큰 유럽은 탄소 중립을 달성하기 위한 일관된 전략이 필요합니다. 청정 에너지 전환을 통해 에너지 비용을 낮추고, 청정 기술 분야에서 글로벌 리더로 자리매김하기 위한 지원이 요구됩니다. 이를 위해 EU 내 에너지 및 자원 시장의 통합이 중요한 요소로 지목됩니다.
- 안보 강화 및 의존성 감소: 보고서는 글로벌 공급망과 무역에 대한 의존이 유럽의 안보에 위협이 될 수 있다고 경고합니다. 특히 핵심 원자재와 디지털 기술 부문에서 자급자족을 강화하고, 특정 국가 의존을 줄이기 위한 외교 경제 정책이 필요하다고 강조합니다.
- 투자와 재정 자원 마련: 이러한 변화를 지원하기 위해서는 대규모 투자가 필요하며, 이는 공공 부문의 지원 없이는 어려울 수 있습니다. 따라서 유럽 내 자본 시장을 통합해 개인과 기업의 저축이 생산적인 투자로 이어지도록 유도하고, 공동 자금을 조성해 연구 및 혁신을 지원해야 한다고 제안합니다.
- EU 거버넌스 개혁: 유럽 연합의 결정 과정이 지나치게 느리고 분산되어 있다는 문제를 해결하기 위해 EU의 통합적인 거버넌스 구조를 강화하고, 규제 부담을 줄이는 것이 필요합니다. 이를 통해 정책의 일관성을 높이고 공동 목표를 향한 효율적인 대응을 가능하게 해야 합니다.
옵트아웃 옵션이 제공되지 않았다는 부분을 지적하는데, 이와 관련해서 호주 상원위원은 유럽과 같은 강한 규제가 없었기 때문이라 답했다.
슈브리지 상원의원은 ABC와의 인터뷰에서 정부가 청소년들이 겪는 온라인 피해에 대해 우려한다면, 개인정보 보호법을 정비하는 것이 가장 중요한 우선순위가 되어야 한다고 말했습니다.
“유럽에서는 사람들의 프라이버시가 보호되지만 호주에서는 보호되지 않는 데는 이유가 있습니다. 유럽 의원들이 엄격한 프라이버시 법률을 만들었기 때문입니다. Meta는 오늘 호주에 이와 동일한 법률이 있다면 호주인의 데이터도 보호되었을 것이라고 분명히 밝혔습니다.”라고 그는 말했습니다.
Welcome to STATE OF AI REPORT 2024.
Air Street
테크니컬한 내용 위주라 그냥 전체 요약 내용만
2024년 보고서의 주요 내용:
- 최첨단 연구소 성능의 수렴: 최첨단 연구소의 성능이 수렴하면서 독점 모델의 우위가 사라지고 있으며, GPT-4와 다른 모델 간의 격차가 좁혀지고 있습니다. OpenAI의 o1은 연구소를 다시 최상위로 올려놓았지만, 그 위치가 얼마나 지속될지는 불확실합니다.
- 계획 및 추론의 우선순위: LLM(대규모 언어 모델) 연구에서 계획 및 추론이 중요한 과제로 떠올랐습니다. 기업들은 강화 학습, 진화 알고리즘, 자기 개선(Self-improvement)과 LLM을 결합하여 미래의 자율 에이전트 애플리케이션을 개발하는 방법을 모색하고 있습니다.
- 기초 모델의 다분야 확장: 기초 모델(Foundation Models)은 언어를 넘어 수학, 생물학, 유전체학, 물리학 및 신경과학 등 다양한 분야에서 다중 모달(multimodal) 연구를 지원하는 능력을 입증하고 있습니다.
- 미국 제재의 제한적 영향: 미국의 제재는 중국 연구소가 강력한 (V)LLM(초거대 언어 모델)을 생산하는 데 제한적인 영향을 미쳤습니다. 재고, 승인된 하드웨어, 밀수 및 클라우드 액세스의 조합으로 인해 중국 연구소는 고성능 모델을 구축할 수 있었습니다. 그러나 중국의 반도체 산업 육성 노력은 여전히 혼란스러운 상태입니다.
- AI 기업의 기업 가치 상승: AI 기업의 기업 가치는 9조 달러에 도달했으며, 상장 기업은 AI 노출로 인해 강세장을 경험하고 있습니다. 비상장 AI 기업에 대한 투자는 증가했지만, 미국 내 대규모 GenAI(생성형 AI) 투자 라운드에도 불구하고 그 규모는 상대적으로 적었습니다.
- 수익을 창출하는 AI 기업의 등장: 기초 모델 개발자 및 비디오 및 오디오 생성에 집중하는 스타트업 등 일부 AI 기업은 본격적으로 수익을 창출하기 시작했습니다. 그러나 기업들이 시장 점유율을 확보하기 위해 모델 가격을 낮추는 과정에서 장기적인 지속 가능성에 대한 의문이 제기되고 있습니다.
- 의사 인수(pseudo-acquisition)의 등장: 일부 AI 기업은 최첨단 기술을 유지하는 데 비용이 많이 들기 때문에, 지속 가능한 비즈니스 모델을 찾지 못해 의사 인수를 통해 사업을 정리하는 방안을 모색하고 있습니다.
- 실존적 위험 담론의 완화: OpenAI의 쿠데타 시도 실패 이후, AI의 실존적 위험에 대한 논의는 다소 완화되었습니다. 그러나 연구자들은 여전히 모델의 잠재적 취약점과 오용 가능성에 대한 연구를 심화하고 있으며, 잠재적 수정 및 안전장치를 제안하고 있습니다.
Reuters, CNN Become Latest Outlets to Make You Pay for Digital News
WSJ
죄수의 딜레마 같은 상황이 떠오르는 이유는 왜일까?
독자들에게 요금을 부과하면서 Reuters는 광고 지원 사업 모델이 어려움을 겪으면서 다른 많은 출판사들이 추구하는 길을 따르고 있습니다. 화요일에 CNN은 사용자에게 CNN.com에 무제한으로 접속하기 위해 월 3.99달러의 요금을 지불하도록 요청하기 시작했다고 밝혔습니다. 이는 특정 수의 무료 기사를 읽은 후에 시작되는 소위 구독형 페이월입니다. [……] 월스트리트 저널과 뉴욕 타임스와 같은 기존 뉴스 출판사에서는 유료 구독 모델이 성공했지만, 신규 기업은 이미 경쟁이 치열한 뉴스 및 엔터테인먼트 구독 시장에서 어려움을 겪을 수 있습니다. 또한 웹 트래픽이 침식되어 도달 범위가 줄어들고 광고주에게 어필력이 떨어질 위험도 있습니다.