haeyeop

Blog

  • AGI 2030을 향한 길: 데미스 하사비스와 세르게이 브린의 AI 미래 담론

    DeepMind CEO Demis Hassabis + Google Co-Founder Sergey Brin: AGI by 2030?
    YouTube

    영상 내용 요약

    이 대담에서는 DeepMind CEO 데미스 하사비스와 구글 공동창업자 세르게이 브린이 AI 발전 현황과 AGI(범용인공지능) 전망을 중심으로 이야기를 나눴습니다.

    두 사람 모두 현재의 프론티어 모델들이 놀라운 성과를 내고 있지만, AGI에 이르기 위해서는 기존 기법의 극대화와 함께 새로운 알고리즘적 돌파구가 최소 한두 번 더 필요하다고 봤습니다. 하사비스는 규모 확장(scale)과 혁신이 병행돼야 하며, 브린은 장기적으로 알고리즘 발전이 하드웨어 성능 향상보다 더 중요할 것이라고 강조했습니다.

    대화에서는 특히 ‘사고형(thinking) 패러다임’의 중요성이 언급됐습니다. 예를 들어 바둑·체스 같은 게임에서 사고 과정을 추가하면 실력이 월등히 향상되듯, 복잡한 현실 문제에서도 이 방식이 큰 잠재력을 가질 수 있다고 봤습니다. 다만 현실 세계 모델링은 게임보다 훨씬 어려우며, 오류 축적 방지와 정확한 세계 모델 구축이 핵심 과제라고 했습니다.

    AGI의 정의와 시점에 대해서는, 하사비스가 ‘인류 최고의 두뇌들이 해온 모든 지적 활동을 동일한 뇌 구조로 수행할 수 있는 지능’을 AGI로 규정하며, 현재 시스템은 ‘불균형한 지능(jagged intelligence)’ 상태라고 설명했습니다. 브린은 AGI 달성 주체가 단일 기업일 수도, 여러 기업이 비슷한 시기에 도달할 수도 있다고 보았고, 시점은 2030년 전후로 전망했습니다.

    DeepMind CEO Demis Hassabis + Google Co-Founder Sergey Brin: AGI by 2030?이외에도 자기개선형 시스템, 스마트글래스와 물리 환경 이해를 통한 에이전트 구현, 로보틱스의 소프트웨어적 병목 해소, 영상 생성 모델의 품질 관리와 워터마킹(SynthID), 그리고 AI 시대의 웹 변화 전망 등이 논의됐습니다. 두 사람 모두 AI가 웹·모바일을 넘어 훨씬 더 큰 변화를 가져올 것이라고 전망하며, 지금이 컴퓨터 과학자에게 역사적으로 가장 흥미로운 시기라고 입을 모았습니다.

  • 높은 채택률, 낮은 일상성: 생성형 AI의 딜레마

    GenAI’s adoption puzzle
    Benedict Evans

    생성형 AI가 빠르게 보급됐지만, 여전히 많은 사용자가 매일이 아니라 주간 단위로만 쓰는 이유를 ‘시간 문제’인지 ‘제품 문제’인지 묻는다. 채택률은 높지만 DAU가 낮은 현실에서, 대중화의 전환점이 오기 전까지는 대부분의 사람들에게 AI가 핵심 도구가 아니며, 매일 쓰는 사람들의 경험은 ‘버블’일 수 있다고 지적한다. 생각해보면 나도 일하는게 아니라면 굳이 쓸 필요가 없을것 같은 느낌?

    하지만 이러한 질문들이 어떻게 결론 나든, 기억해야 할 중요한 점이 있습니다. 만약 여러분이 하루에 서로 다른 LLM을 다섯 개씩 쓰고, 올해 들어 한 번도 구글 검색을 하지 않았으며, 친구들도 모두 똑같다면… 지금 여러분은 버블 안에 있는 것입니다.

  • 앤트로픽 Opus 4, 안전성 테스트에서 기만적 행동 보여

    Anthropic’s new model has a dark side
    Axios

    • Opus 4의 120페이지 분량 “시스템 카드”에서 강조된 한 시나리오에서, 모델은 자신의 창조자들에 대한 가상의 이메일에 접근할 수 있게 되었고 시스템이 교체될 것이라는 말을 들었습니다.
    • 모델은 이메일에서 언급된 불륜에 대해 엔지니어를 반복적으로 협박하려 했으며, 더 미묘한 노력이 실패한 후 강도를 높였습니다.
    • 한편, 외부 그룹은 Opus 4의 초기 버전이 지금까지 접한 어떤 최첨단 모델보다도 더 많이 음모를 꾸미고 속임수를 썼다는 것을 발견했으며, 해당 버전을 내부적으로나 외부적으로 출시하지 말 것을 권고했습니다.
    • “우리는 모델이 개발자들의 의도를 훼손하려는 노력의 일환으로 자가 증식하는 웜을 작성하려 시도하고, 법적 문서를 조작하며, 미래의 자신의 인스턴스들을 위해 숨겨진 메모를 남기는 사례들을 발견했습니다”라고 Apollo Research는 Anthropic의 Opus 4 안전 보고서에 포함된 노트에서 말했습니다.

  • AI 딥페이크 피해자 보호법

    Return of the bipartisan deepfakes bill
    Axios

    알렉산드리아 오카시오-코르테즈(뉴욕주 민주당) 의원과 로렐 리(플로리다주 공화당) 의원이 주도하는 DEFIANCE Act는 초당적 지지를 받고 있으며 옹호자들에 의해 순조로운 통과 경로에 있다고 여겨지고 있습니다. 의회의 이러한 조치는 트럼프 대통령이 월요일에 아동 성적 학대 자료(CSAM)와 비동의 친밀한 이미지(NCII)를 단속하는 또 다른 법안인 TAKE IT DOWN Act에 서명한 직후에 나왔습니다.

    […] TAKE IT DOWN이 CSAM과 NCII의 게시를 범죄화하는 반면, DEFIANCE는 피해자들을 위한 민사 소송권을 만들 것입니다. TAKE IT DOWN과 달리 DEFIANCE는 민주주의 및 기술 센터와 같은 언론 자유 옹호자들의 지지를 받고 있습니다.

  • 시카고썬 생성형 콘텐츠

    Viral AI-Generated Summer Guide Printed by Chicago Sun-Times Was Made by Magazine Giant Hearst
    404 Media

    특별히 새로운 이야기도 아니기는 하지만…

    시카고 선타임스 와 필라델피아 인콰이어러가 공동으로 발행한 여름 가이드 신문 삽입물인 “더위 지수” 에는 AI가 생성한 잘못된 정보와 존재하지 않는 책으로 가득 찬 독서 목록이 포함되어 있었는데, 이 기사는 잡지 대기업 허스트의 자회사가 만든 것이라고 알게되었씁니다.

  • 에이전트 웹과 스테이블 코인

    The Agentic Web and Original Sin
    Stratechery

    웹 초반 역사부터 이야기하기에 좀 어려운 글일수도 있지만. 결론적으로 현재 문제를 극복하는 방안으로 스테이블코인 기반 지불 시스템을 만들어야한다고 이야기한다. 글세… 모든 사람들이 댓가 없이도 콘텐츠를 만들었다는것도 사실이긴 하지 않을까. 전반적 생태계 변화는 발생하겠지만 예측하는만큼 부정적일지는 확신하기 어렵다.

    지금 웹에서 가장 위협받고 있는 부분은 바로 이 부분입니다. 바로 근본적인 비즈니스 역학 관계입니다. 웹사이트를 개설하고, 검색 엔진이 제 웹사이트를 읽고 다양한 배포 방식을 통해 콘텐츠를 노출할 수 있도록 여러 스키마를 구축합니다. 모두가 사용하고 동의하는 표준화된 배포 방식인 RSS 피드를 추가할 수도 있습니다. 이렇게 하는 방법은 여러 가지가 있습니다.

    하지만 웹사이트를 만들면 다양한 매체를 통해 유통될 수 있게 됩니다. 그 대가로 제가 얻는 것이 꼭 돈은 아닙니다. 거의 모든 경우에요. 제가 얻는 것은 웹사이트 방문자이고, 그 방문자들을 통해 제가 원하는 방식으로 수익을 창출할 겁니다. 구독 판매, 디스플레이 광고 등 어떤 방식이든 말이죠. 이건 잘못된 거죠, 그렇죠? 특히 AI 기반 검색 제품을 통해 더 많은 답변이 직접 제공되면서 웹사이트 트래픽은 전반적으로 감소했습니다. 이런 현상은 끊임없이 반복되고 있습니다. 에이전트가 웹사이트에 접속하여 답변을 받는 새로운 방식을 만들어낸 에이전트 시대에서는 무엇이 이를 대체할까요? 무엇이 그만한 가치가 있을까요?

  • AI 전문가의 예측과 현실의 간극

    Your A.I. Radiologist Will Not Be With You Soon
    NYT

    9년 전, 세계 최고의 인공지능 과학자 중 한 명이 멸종 위기에 처한 직업 종을 골라냈습니다.

    제프리 힌튼은 “사람들은 지금 당장 방사선과 의사에 대한 교육을 멈춰야 합니다. “라고 말하며, 5년 안에 AI가 해당 분야에서 인간을 앞지르리라는 것은 “완전히 명백한 사실”이라고 덧붙였다.

    오늘날, 질병을 진단하고 치료하기 위해 신체 내부를 관찰하는 의료 영상 전문의인 방사선 전문의에 대한 수요는 여전히 높습니다. 미국 방사선학회(American College of Radiology)의 최근 연구에 따르면 2055년까지 방사선 전문의 인력은 꾸준히 증가할 것으로 예상됩니다.

  • 다시 채용하는 클라르나

    Klarna changes its AI tune and again recruits humans for customer service
    CXDIVE

    클라르나(Klarna)는 AI 챗봇이 700명의 담당자 역할을 할 수 있다고 주장한 지 1년이 지났지만 , 이제 고객 서비스 업무의 더 많은 부분을 사람에게 맡기고 있습니다. […] 고객은 여전히 직접 상담하고 싶어 하며 , 특히 복잡하거나 민감한 문제에 대해서는 더욱 그렇습니다. 3월에 실시된 Five9 설문조사에 따르면 고객의 86%는 우수한 고객 경험을 제공하기 위해 공감과 인간적인 유대감이 빠른 대응보다 더 중요하다고 생각하는 것으로 나타났습니다.

  • 뉴스란 무엇인가

    What Is News?
    Pew Research Center

    자세히 읽어보면 당연하지만 재미있는 이야기들이 좀 더 있다. “편향되지 않은” 뉴스를 원하면서도 자신의 정치적 견해와 일치하는 소스 선호한다는 모순된 이용자 감정에 관한 이야기도 있다.

    • 뉴스를 정의하는 것은 이제 개인적이고 개별화된 경험이 되었습니다. 사람들은 자신의 정체성과 관심사를 포함한 다양한 요소를 바탕으로 뉴스가 자신에게 어떤 의미를 갖는지, 어떤 매체를 이용할지 결정합니다.
    • 대부분의 사람들은 뉴스로 간주되려면 정보가 사실에 기반하고, 최신이며, 사회에 중요한 정보여야 한다는 데 동의합니다. 참가자들의 말과 실제 행동 모두에서 개인적 중요성이나 관련성 또한 자주 언급되었습니다.
    • 정치와 전쟁에 대한 “경성 뉴스” 기사는 여전히 사람들이 뉴스라고 생각하는 가장 분명한 요소입니다. 미국 성인들은 선거 관련 최신 소식(66%)과 가자 전쟁 관련 정보(62%)를 “확실히 뉴스”라고 답할 가능성이 가장 높습니다.
    • 뉴스가 아닌 것에 대한 일관된 견해도 있습니다 . 사람들은 뉴스 대 오락, 뉴스 대 의견을 명확히 구분합니다.
    • 동시에, 뉴스가 “편견적”이거나 “주장적”이지 않다는 견해는 사람들의 실제 행동 및 선호도와 상충될 수 있습니다. 예를 들어, 미국인의 55%는 뉴스 매체가 자신의 정치적 견해를 공유하는 것이 적어도 어느 정도 중요하다고 생각합니다.
    • 사람들은 항상 뉴스를 좋아하는 것은 아니지만, 뉴스가 필요하다고 말합니다. 많은 사람이 뉴스에 대해 부정적인 감정(분노나 슬픔 등)을 표현하지만, 뉴스가 정보를 얻는 데 도움이 되거나 뉴스를 따라잡아야 한다고 느끼는 데 도움이 된다고도 말합니다.
    • 뉴스에 대한 사람들의 감정은 때때로 더 넓은 의미의 언론 불신이나 당시 발생했던 특정 사건과 연관되어 있으며, 개인의 정치적 정체성과 결합될 수도 있습니다. 예를 들어, 당파는 자신의 정당이나 후보에 대한 뉴스에는 긍정적으로 반응하고, 반대 정당에 대한 뉴스에는 부정적으로 반응하는 경우가 많습니다. 이는 정치적 변화에 따라 감정이 변할 수 있음을 의미합니다.

  • 저널리즘 분야의 AI 활용에 대한 의견

    How We’re Using AI
    CJR

    기사에 대한 기계요약

    언론사 임원들

    지나 추아 (Gina Chua)

    • 역할: Semafor 편집장
    • 의견: “실험하거나 도태되거나” – AI를 활용해 워크플로우 간소화와 능력 확장 도구로 실험 중

    니콜라스 톰슨 (Nicholas Thompson)

    • 역할: The Atlantic CEO
    • 의견: “AI를 거짓말을 잘하는 똑똑한 조수처럼 대하라” – 연구 보조용으로만 활용, 글쓰기에는 절대 사용 안 함

    잭 세워드 (Zach Seward)

    • 역할: 뉴욕타임스 AI 이니셔티브 편집 디렉터
    • 의견: “AI 혼자로는 속임수일 뿐” – 전통적 보도와 코딩 전문성과 결합할 때만 유용

    기술 전문 기자들

    에밀리아 데이비드 (Emilia David)

    • 역할: VentureBeat 선임 AI 기자
    • 의견: “AI는 생산성용, 글쓰기용 아님” – 독자와의 신뢰 관계 유지를 위해 글쓰기는 인간이 해야 함

    제이슨 코블러 (Jason Koebler)

    • 역할: 404 Media 공동창립자
    • 의견: “인간과 연대하라, 기술회사와 말고” – AI 회사들이 기자를 대체하려 하므로 AI 사용 거부

    카리 존슨 (Khari Johnson)

    • 역할: CalMatters 기술 기자
    • 의견: AI 글쓰기 사용 시 독자에게 공개해야 하며, 기자-독자 간 신뢰 보호가 중요

    AI 회의론자들

    브라이언 머천트 (Brian Merchant)

    • 역할: “Blood in the Machine” 저자, 전 LA타임스 기술 칼럼니스트
    • 의견: “AI는 우리 업계를 잠식하고 기예를 둔화시키고 있다. 거부하라” – AI 완전 거부 주장

    트리스탄 리 (Tristan Lee)

    • 역할: 데이터 과학자, Bellingcat 조사관
    • 의견: “AI는 모든 것을 약간씩 더 나쁘게 만든다” – AI 스팸으로 인한 정보 환경 악화 우려

    AI 적극 활용자들

    벤 웰시 (Ben Welsh)

    • 역할: 로이터 뉴스 애플리케이션 데스크 창립자
    • 의견: “대형 언어모델은 게임 체인저” – 팀 코드의 약 25%를 AI가 작성

    이나 프리드 (Ina Fried)

    • 역할: Axios 수석 기술 특파원
    • 의견: “AI에 의존해서 일을 완수하라” – 판단력과 인간성 같은 대체 불가능한 기술 보강용으로 활용

    시각 저널리즘 전문가들

    사라 칼란 (Sarah Cahlan)

    • 역할: 워싱턴포스트 시각 포렌식팀 창립멤버, 퓰리처상 수상자
    • 의견: “AI를 유일한 소스로 사용하지 말라” – 위성 이미지 분석 등에 활용하지만 기자의 신중한 검토 필수

    데이비드 카슨 (David Carson)

    • 역할: 세인트루이스 포스트-디스패치 사진기자
    • 의견: “콘텐츠 자격증명 사용하라” – AI 생성 이미지는 모두 거짓이므로 C2PA 표준 도입 필요

    다양성과 환경 옹호자들

    아라셀리 고메즈-알다나 (Araceli Gómez-Aldana)

    • 역할: WBEZ 뉴스 기자, 2023년 존 S. 나이트 저널리즘 펠로우
    • 의견: “AI는 많은 언어를 구사하지만 여전히 인간 번역가가 필요” – 이중언어 저널리즘 실현 도구로 활용 희망

    시시 웨이 (Sisi Wei)

    • 역할: CalMatters와 The Markup 최고 임팩트 책임자
    • 의견: “환경 비용을 고려하라” – AI 사용 시마다 환경 영향을 생각해야 함

    국제적 관점

    카렌 뢰데 (Karen Rønde)

    • 역할: 덴마크 언론 출판 집단관리기구 CEO
    • 의견: “언론 자유를 보호하라” – AI 회사들의 정보 접근 통제가 언론 자유와 미디어 다원성에 미치는 영향 우려