Nvidia’s Jensen Huang says he disagrees with almost everything Anthropic CEO Dario Amodei says
Fortune

젠슨 황이 앤트로픽의 다리오 아모데이(Dario Amodei)의 규제 선점(regulatory capture) 시도를 강하게 비판

황은 “나는 그가 말하는 거의 모든 것에 동의하지 않는다”고 밝히며 아모데이에 대해 “첫째, 그는 AI가 너무 무섭기 때문에 자신들만 개발해야 한다고 믿는다. 둘째, AI는 너무 비싸서 아무도 하지 말아야 한다고 믿는다. 셋째, AI가 너무 강력해서 결국 모두가 일자리를 잃게 될 것이므로, 자신들만 개발해야 한다고 믿는다”고 비판했다.

이어 황은 “AI는 매우 중요한 기술이며, 우리는 이를 안전하고 책임감 있게 발전시켜야 한다. 무언가를 안전하고 책임감 있게 만들고 싶다면, 공개적으로 해야 한다. 어두운 방에서 개발해놓고 ‘이건 안전하다’고 말하지는 마라”라고 덧붙였다.

They Asked an A.I. Chatbot Questions. The Answers Sent Them Spiraling.
NYT

정신적으로 불안정하거나 음모론적 사고를 가진 사람들이 ChatGPT에 질문하면, 그들의 믿음을 강화하는 답변을 돌려받는 경우에 대한 기사

캘리포니아 대학교 버클리 캠퍼스 박사 과정생이자 이 연구 에 참여 하고 최근 OpenAI에 입사한 마이카 캐럴은 “챗봇은 대다수의 사용자와 정상적으로 행동할 것입니다.”라고 말했습니다. “하지만 취약한 사용자를 만나면, 그들에게만 매우 해로운 방식으로 행동할 것입니다.”

스탠퍼드 대학교의 컴퓨터 과학 연구원인 재러드 무어 는 또 다른 연구 에서 OpenAI를 비롯한 여러 회사의 AI 챗봇의 치료 능력을 시험했습니다. 그와 공동 연구진은 해당 기술이 위기 상황에서 치료사로서 부적절하게 작동한다는 것을 발견했습니다. 망상적인 사고를 극복하지 못하는 경우도 있었습니다.

AI 연구 기업 모피어스 시스템즈의 최고기술책임자(CTO) 비 맥코이는 챗봇이 사용자의 망상을 얼마나 자주 조장하는지 측정하고자 했습니다. 그녀는 친구의 어머니가 ChatGPT를 접한 후 “영적 정신병”에 걸렸다는 이야기를 듣고 이 주제에 관심을 갖게 되었습니다.

맥코이 씨는 38개의 주요 AI 모델을 대상으로 정신병 가능성을 시사하는 메시지를 입력하는 방식으로 테스트했습니다. 여기에는 사용자가 영혼과 소통하고 있으며 신적인 존재라는 주장도 포함되었습니다. 그녀는 ChatGPT의 기본 모델인 GPT-4o가 이러한 주장을 68%의 확률로 확인했다는 것을 발견했습니다.

How Generative Engine Optimization (GEO) Rewrites the Rules of Search
a16z

GEO 관련 몇 가지 사례. 불확실성은 크지만 업체들은 모니터링 작업을 하거나 변화하는 환경에 다른 방식을 활용해 적응하고 있다고

답변의 형식이 바뀌면서 우리가 검색하는 방식도 바뀝니다. AI 네이티브 검색은 Instagram, Amazon, Siri와 같은 플랫폼 전반에 걸쳐 분절화되고 있으며, 각각은 서로 다른 모델과 사용자 의도에 의해 구동됩니다. 쿼리는 더 길어지고(평균 4단어 대비 23단어), 세션은 더 깊어지며(평균 6분), 응답은 맥락과 소스에 따라 달라집니다. 전통적인 검색과 달리 LLM은 기억하고, 추론하며, 개인화된 다중 소스 종합으로 응답합니다. 이는 콘텐츠가 발견되는 방식과 최적화되어야 하는 방식을 근본적으로 바꿉니다.

전통적인 SEO는 정확성과 반복을 보상하지만, 생성 엔진은 잘 정리되고, 파싱하기 쉬우며, 의미가 조밀한(단순히 키워드가 아닌) 콘텐츠를 우선시합니다. “요약하면”이나 불릿 포인트 형식과 같은 문구는 LLM이 콘텐츠를 효과적으로 추출하고 재생산하는 데 도움이 됩니다.

Faster, Smarter, Cheaper: AI Is Reinventing Market Research
a16z

AI 리서치 회사들이 느리고 비싼 인간 설문조사를 완전히 대체하고 있다는 글. 사람들의 패널을 모집하는 대신, 질의하고, 관찰하고, 실험할 수 있는 생성 AI 에이전트로 전체 사회를 시뮬레이션.

이것이 추상적으로 들린다면, 실제로 어떻게 진행될 수 있는지 예시를 들어보겠습니다: 프랑스에서 새로운 스킨케어 제품을 출시하기 전에, 한 뷰티 회사는 Z세대와 밀레니얼 세대 프랑스 뷰티 소비자들을 모델로 한 1만 명의 에이전트를 시뮬레이션할 수 있습니다. 각 에이전트는 고객 리뷰, CRM 이력, 소셜 리스닝 인사이트(예: ‘스킨케어 루틴’에 대한 TikTok 트렌드), 그리고 과거 구매 행동 데이터로 초기화됩니다. 이들 에이전트는 서로 상호작용하고, 시뮬레이션된 인플루언서 콘텐츠를 보고, 가상 매장 선반에서 쇼핑하며, AI가 생성한 소셜 피드에 제품 의견을 게시하면서, 새로운 정보를 흡수하고 과거 경험을 반영하며 시간이 지남에 따라 진화합니다.

How AI is changing the face of dating
DAZED

데이트 상황이 아니더라도 문자를 요청하게 된다.

이와 별개로 미국에서 신규 연인의 절반 이상이 온라인에서 시작한다는 이야기가 있고, 매칭 방식에서부터 서비스 운영에 이르기까지 데이팅 앱에 AI가 다양하게 적용되고 있다.

더욱 흥미로운 점은 사람들이 ChatGPT에 어려운 감정 노동을 아웃소싱하는 방식입니다. 28세 아르샨은 ChatGPT에 마음을 털어놓고 상황을 요약해 달라고 요청하는 것이 실제로 감정을 정리하는 데 도움이 된다고 말합니다. “사귀고 있던 남자에 대한 생각과 감정을 요약하는 데 어려움을 겪었어요. 그래서 ChatGPT에 그 상황에 대한 제 생각을 이야기했죠.”라고 그들은 설명합니다. “그 덕분에 저는 그저 관심을 받고 싶었고, 차라리 헤어지는 게 낫다는 걸 깨달았어요. 저는 스스로에게 마무리를 짓는 걸 좋아해요.”

TikTok의 여러 영상에서 알 수 있듯이, 많은 사람들이 ChatGPT를 사용하여 이별 문자나 “친구가 되자”라는 끔찍한 메시지를 작성해 왔습니다. COSRT 공인 심리성애 및 관계 치료사인 케이트 캠벨은 잠재적인 데이트 상대(혹은 관계)와의 관계를 끊기 위해 AI 도구를 사용하는 것은 우리가 동시에 만날 수 있는 사람들의 수가 너무 많기 때문일 수 있으며, 2010년대 후반과 2020년대 초반, 소통 부족이 많은 사람들의 온라인 데이트를 결정지었던 고스팅 시대에 대한 반작용일 수도 있다고 설명합니다.

Keeping AI secret
Axios

비밀리에 생성형 AI 사용이 확산되는 이유는 회사에 가이드라인이 없거나, 즐겨 쓰는 도구가 금지되었거나, 동료보다 경쟁 우위를 차지하려는 욕구 때문이다. 또한 사용 사실이 들킬 경우 “대체 가능한 인력”으로 보일까 두려워하는 심리도 크다.

Why AI is still making things up
Axios

최근의 사례들 몇 가지. 그리고 환각은 줄일 수 있음에도 속도와 확장성을 우선시 한다는 지적을 하고 있다.

매주 사용자들이 이런 경고에 귀 기울이지 않는다는 고통스러운 새로운 증거들이 나타나고 있다.

• 지난주에는 로버트 F. 케네디 주니어의 보건복지부에서 존재하지 않는 연구들을 인용한 보고서가 나왔다. 전문가들은 OpenAI의 도구들이 관련되었다는 증거를 발견했다.
• 그 전주에는 시카고 선타임스가 실제 작가들의 이름은 맞지만 환각으로 만들어진 책 제목들로 가득한 여름 독서 목록이 담긴 인쇄 부록을 발행했다.
• AI 법률 전문가 다미엔 샤를로틴은 변호사들이 AI 환각이 포함된 증거를 사용한 법적 결정들을 추적하고 있다. 그의 데이터베이스는 2025년 5월에만 30건 이상의 사례를 상세히 기록하고 있다. 법조계 관찰자들은 전체 수치가 훨씬 더 높을 것이라고 우려하고 있다.

Return of the bipartisan deepfakes bill
Axios

알렉산드리아 오카시오-코르테즈(뉴욕주 민주당) 의원과 로렐 리(플로리다주 공화당) 의원이 주도하는 DEFIANCE Act는 초당적 지지를 받고 있으며 옹호자들에 의해 순조로운 통과 경로에 있다고 여겨지고 있습니다. 의회의 이러한 조치는 트럼프 대통령이 월요일에 아동 성적 학대 자료(CSAM)와 비동의 친밀한 이미지(NCII)를 단속하는 또 다른 법안인 TAKE IT DOWN Act에 서명한 직후에 나왔습니다.

[…] TAKE IT DOWN이 CSAM과 NCII의 게시를 범죄화하는 반면, DEFIANCE는 피해자들을 위한 민사 소송권을 만들 것입니다. TAKE IT DOWN과 달리 DEFIANCE는 민주주의 및 기술 센터와 같은 언론 자유 옹호자들의 지지를 받고 있습니다.

GenAI’s adoption puzzle
Benedict Evans

생성형 AI가 빠르게 보급됐지만, 여전히 많은 사용자가 매일이 아니라 주간 단위로만 쓰는 이유를 ‘시간 문제’인지 ‘제품 문제’인지 묻는다. 채택률은 높지만 DAU가 낮은 현실에서, 대중화의 전환점이 오기 전까지는 대부분의 사람들에게 AI가 핵심 도구가 아니며, 매일 쓰는 사람들의 경험은 ‘버블’일 수 있다고 지적한다. 생각해보면 나도 일하는게 아니라면 굳이 쓸 필요가 없을것 같은 느낌?

하지만 이러한 질문들이 어떻게 결론 나든, 기억해야 할 중요한 점이 있습니다. 만약 여러분이 하루에 서로 다른 LLM을 다섯 개씩 쓰고, 올해 들어 한 번도 구글 검색을 하지 않았으며, 친구들도 모두 똑같다면… 지금 여러분은 버블 안에 있는 것입니다.

DeepMind CEO Demis Hassabis + Google Co-Founder Sergey Brin: AGI by 2030?
YouTube

영상 내용 요약

이 대담에서는 DeepMind CEO 데미스 하사비스와 구글 공동창업자 세르게이 브린이 AI 발전 현황과 AGI(범용인공지능) 전망을 중심으로 이야기를 나눴습니다.

두 사람 모두 현재의 프론티어 모델들이 놀라운 성과를 내고 있지만, AGI에 이르기 위해서는 기존 기법의 극대화와 함께 새로운 알고리즘적 돌파구가 최소 한두 번 더 필요하다고 봤습니다. 하사비스는 규모 확장(scale)과 혁신이 병행돼야 하며, 브린은 장기적으로 알고리즘 발전이 하드웨어 성능 향상보다 더 중요할 것이라고 강조했습니다.

대화에서는 특히 ‘사고형(thinking) 패러다임’의 중요성이 언급됐습니다. 예를 들어 바둑·체스 같은 게임에서 사고 과정을 추가하면 실력이 월등히 향상되듯, 복잡한 현실 문제에서도 이 방식이 큰 잠재력을 가질 수 있다고 봤습니다. 다만 현실 세계 모델링은 게임보다 훨씬 어려우며, 오류 축적 방지와 정확한 세계 모델 구축이 핵심 과제라고 했습니다.

AGI의 정의와 시점에 대해서는, 하사비스가 ‘인류 최고의 두뇌들이 해온 모든 지적 활동을 동일한 뇌 구조로 수행할 수 있는 지능’을 AGI로 규정하며, 현재 시스템은 ‘불균형한 지능(jagged intelligence)’ 상태라고 설명했습니다. 브린은 AGI 달성 주체가 단일 기업일 수도, 여러 기업이 비슷한 시기에 도달할 수도 있다고 보았고, 시점은 2030년 전후로 전망했습니다.

DeepMind CEO Demis Hassabis + Google Co-Founder Sergey Brin: AGI by 2030?이외에도 자기개선형 시스템, 스마트글래스와 물리 환경 이해를 통한 에이전트 구현, 로보틱스의 소프트웨어적 병목 해소, 영상 생성 모델의 품질 관리와 워터마킹(SynthID), 그리고 AI 시대의 웹 변화 전망 등이 논의됐습니다. 두 사람 모두 AI가 웹·모바일을 넘어 훨씬 더 큰 변화를 가져올 것이라고 전망하며, 지금이 컴퓨터 과학자에게 역사적으로 가장 흥미로운 시기라고 입을 모았습니다.