HYSONG

[카테고리:] IT

  • 왜 AI는 여전히 사실을 꾸며내는가

    Why AI is still making things up
    Axios

    최근의 사례들 몇 가지. 그리고 환각은 줄일 수 있음에도 속도와 확장성을 우선시 한다는 지적을 하고 있다.

    매주 사용자들이 이런 경고에 귀 기울이지 않는다는 고통스러운 새로운 증거들이 나타나고 있다.

    • 지난주에는 로버트 F. 케네디 주니어의 보건복지부에서 존재하지 않는 연구들을 인용한 보고서가 나왔다. 전문가들은 OpenAI의 도구들이 관련되었다는 증거를 발견했다.
    • 그 전주에는 시카고 선타임스가 실제 작가들의 이름은 맞지만 환각으로 만들어진 책 제목들로 가득한 여름 독서 목록이 담긴 인쇄 부록을 발행했다.
    • AI 법률 전문가 다미엔 샤를로틴은 변호사들이 AI 환각이 포함된 증거를 사용한 법적 결정들을 추적하고 있다. 그의 데이터베이스는 2025년 5월에만 30건 이상의 사례를 상세히 기록하고 있다. 법조계 관찰자들은 전체 수치가 훨씬 더 높을 것이라고 우려하고 있다.

  • AI 딥페이크 피해자 보호법

    Return of the bipartisan deepfakes bill
    Axios

    알렉산드리아 오카시오-코르테즈(뉴욕주 민주당) 의원과 로렐 리(플로리다주 공화당) 의원이 주도하는 DEFIANCE Act는 초당적 지지를 받고 있으며 옹호자들에 의해 순조로운 통과 경로에 있다고 여겨지고 있습니다. 의회의 이러한 조치는 트럼프 대통령이 월요일에 아동 성적 학대 자료(CSAM)와 비동의 친밀한 이미지(NCII)를 단속하는 또 다른 법안인 TAKE IT DOWN Act에 서명한 직후에 나왔습니다.

    […] TAKE IT DOWN이 CSAM과 NCII의 게시를 범죄화하는 반면, DEFIANCE는 피해자들을 위한 민사 소송권을 만들 것입니다. TAKE IT DOWN과 달리 DEFIANCE는 민주주의 및 기술 센터와 같은 언론 자유 옹호자들의 지지를 받고 있습니다.

  • 높은 채택률, 낮은 일상성: 생성형 AI의 딜레마

    GenAI’s adoption puzzle
    Benedict Evans

    생성형 AI가 빠르게 보급됐지만, 여전히 많은 사용자가 매일이 아니라 주간 단위로만 쓰는 이유를 ‘시간 문제’인지 ‘제품 문제’인지 묻는다. 채택률은 높지만 DAU가 낮은 현실에서, 대중화의 전환점이 오기 전까지는 대부분의 사람들에게 AI가 핵심 도구가 아니며, 매일 쓰는 사람들의 경험은 ‘버블’일 수 있다고 지적한다. 생각해보면 나도 일하는게 아니라면 굳이 쓸 필요가 없을것 같은 느낌?

    하지만 이러한 질문들이 어떻게 결론 나든, 기억해야 할 중요한 점이 있습니다. 만약 여러분이 하루에 서로 다른 LLM을 다섯 개씩 쓰고, 올해 들어 한 번도 구글 검색을 하지 않았으며, 친구들도 모두 똑같다면… 지금 여러분은 버블 안에 있는 것입니다.

  • AGI 2030을 향한 길: 데미스 하사비스와 세르게이 브린의 AI 미래 담론

    DeepMind CEO Demis Hassabis + Google Co-Founder Sergey Brin: AGI by 2030?
    YouTube

    영상 내용 요약

    이 대담에서는 DeepMind CEO 데미스 하사비스와 구글 공동창업자 세르게이 브린이 AI 발전 현황과 AGI(범용인공지능) 전망을 중심으로 이야기를 나눴습니다.

    두 사람 모두 현재의 프론티어 모델들이 놀라운 성과를 내고 있지만, AGI에 이르기 위해서는 기존 기법의 극대화와 함께 새로운 알고리즘적 돌파구가 최소 한두 번 더 필요하다고 봤습니다. 하사비스는 규모 확장(scale)과 혁신이 병행돼야 하며, 브린은 장기적으로 알고리즘 발전이 하드웨어 성능 향상보다 더 중요할 것이라고 강조했습니다.

    대화에서는 특히 ‘사고형(thinking) 패러다임’의 중요성이 언급됐습니다. 예를 들어 바둑·체스 같은 게임에서 사고 과정을 추가하면 실력이 월등히 향상되듯, 복잡한 현실 문제에서도 이 방식이 큰 잠재력을 가질 수 있다고 봤습니다. 다만 현실 세계 모델링은 게임보다 훨씬 어려우며, 오류 축적 방지와 정확한 세계 모델 구축이 핵심 과제라고 했습니다.

    AGI의 정의와 시점에 대해서는, 하사비스가 ‘인류 최고의 두뇌들이 해온 모든 지적 활동을 동일한 뇌 구조로 수행할 수 있는 지능’을 AGI로 규정하며, 현재 시스템은 ‘불균형한 지능(jagged intelligence)’ 상태라고 설명했습니다. 브린은 AGI 달성 주체가 단일 기업일 수도, 여러 기업이 비슷한 시기에 도달할 수도 있다고 보았고, 시점은 2030년 전후로 전망했습니다.

    DeepMind CEO Demis Hassabis + Google Co-Founder Sergey Brin: AGI by 2030?이외에도 자기개선형 시스템, 스마트글래스와 물리 환경 이해를 통한 에이전트 구현, 로보틱스의 소프트웨어적 병목 해소, 영상 생성 모델의 품질 관리와 워터마킹(SynthID), 그리고 AI 시대의 웹 변화 전망 등이 논의됐습니다. 두 사람 모두 AI가 웹·모바일을 넘어 훨씬 더 큰 변화를 가져올 것이라고 전망하며, 지금이 컴퓨터 과학자에게 역사적으로 가장 흥미로운 시기라고 입을 모았습니다.

  • NVIDIA, 생태계 전체를 아우르는 AI 인프라 기업 선언

    NVIDIA CEO Jensen Huang Keynote at COMPUTEX 2025

    NVIDIA를 ‘새로운 Sun Microsystems’로 만들려는 비전
    • 젠슨 황은 단순한 반도체 회사나 ‘새로운 인텔’이 아니라, 하드웨어·소프트웨어·네트워크·개발 생태계를 통합 제공하는 시스템 기업을 지향.
    • CPU, GPU, ASIC, 네트워킹, 스토리지, 소프트웨어 스택까지 아우르는 완전한 AI 인프라 플랫폼을 구축해, 고객이 그대로 ‘공장’(AI 팩토리)을 만들 수 있도록 함.
    생태계와 하드웨어의 유기적 연결
    • Grace Blackwell과 NVLink Fusion 같은 최신 하드웨어는 개별 제품이 아니라, 연결·확장·맞춤화가 전제된 생태계 부품으로 설계.
    • 라이브러리(CUDA-X)와 플랫폼(Omniverse, AI-Q, Isaac 등)을 통해 개발부터 운영·로보틱스까지 전 산업 지원.
    • 서버, 워크스테이션, 스토리지, 네트워킹이 한 아키텍처 안에서 동일하게 작동하도록 통합.
    폭넓은 산업 비전
    • AI를 전기·인터넷에 이은 차세대 사회 인프라로 규정, 모든 산업과 국가에 필수적이라 강조.
    • 제조·도시·로보틱스·엔터프라이즈 IT까지 확장해 물리·디지털 전 영역을 포괄하는 디지털 트윈·AI 에이전트 시대를 준비.
    • 대만을 비롯한 글로벌 파트너 네트워크와 함께 하드웨어 생산·소프트웨어 통합·산업 적용을 동시에 추진.

  • EU 새로운 AI전략

    Commission sets course for Europe’s AI leadership with an ambitious AI Continent Action Plan
    European Commission

    다 어려운 일이지만 주요한 내용은 규제 완화에 관한 내용일 것 같은데. GDPR에도 손을 댈 것 같다는 이야기. 규제 준수 비용이 높은 것으로 널리 알려져있다.

    1. 대규모 AI 데이터 및 컴퓨팅 인프라 구축  

    위원회는 AI 팩토리 네트워크를 통해 유럽의 AI 및 슈퍼컴퓨팅 인프라를 강화할 것입니다 . 이 팩토리 중 13개는 이미 유럽의 세계 최고 수준의 슈퍼컴퓨터 주변에 구축되어 있습니다. 이 팩토리들은 EU AI 스타트업, 업계, 그리고 연구자들의 AI 모델 및 애플리케이션 개발을 지원할 것입니다.

    경쟁력 나침반(Competitiveness Compass) 에서 발표된 바와 같이 , EU는 AI 기가팩토리 구축에도 지원할 예정입니다. 이는 약 10만 개의 최첨단 AI 칩을 탑재한 대규모 시설로, 기존 AI 공장보다 4배 더 많은 용량을 제공합니다. 기가팩토리는 방대한 컴퓨팅 파워와 데이터 센터를 통합하여 전례 없는 규모로 복잡한 AI 모델을 훈련하고 개발할 것입니다. AI 기가팩토리는 차세대 첨단 AI 모델을 선도하고, 공공 및 민간 투자를 통해 핵심 산업 분야와 과학 분야에서 EU의 전략적 자율성을 유지할 것입니다. 관심 있는 컨소시엄의 참여를 위한 공고가 오늘 발표되었습니다.

    InvestAI를 통해 기가팩토리에 대한 민간 투자가 더욱 촉진될 것이며 , 이를 통해 유럽 연합 전역에서 최대 5개의 AI 기가팩토리에 200억 유로의 투자를 유치할 예정입니다.

    클라우드 용량 및 데이터 센터에 대한 민간 부문의 투자를 촉진하기 위해 위원회는 클라우드 및 AI 개발법(Cloud and AI Development Act) 도 제안할 예정입니다. 이 법의 목표는 향후 5~7년 내에 EU의 데이터 센터 용량을 최소 세 배로 늘리고, 지속가능성이 높은 데이터 센터를 우선적으로 유치하는 것입니다.

    1. 대용량 고품질 데이터에 대한 접근성 증가

    AI 혁신을 강화하려면 방대한 양의 고품질 데이터에 대한 접근성도 필수적입니다. 실행 계획의 중요한 요소 중 하나는 데이터 랩(Data Labs) 을 설립하여 AI 팩토리(AI Factory) 내 다양한 소스에서 수집된 방대한 양의 고품질 데이터를 통합하고 큐레이션하는 것입니다. 2025년에는 AI 솔루션을 확장할 수 있는 진정한 내부 데이터 시장을 조성하기 위한 포괄적인 데이터 연합 전략이 출범할 예정입니다.

    1. EU의 전략적 부문에서 알고리즘 개발 및 AI 도입 촉진

    AI의 잠재력에도 불구하고 EU 내 기업 중 AI를 도입한 기업은 13.5%에 불과합니다. 맞춤형 AI 솔루션을 개발하고, 산업 활용을 확대하며, EU의 전략적 공공 및 민간 부문에서 AI 도입을 본격화하기 위해 집행위원회는 향후 몇 달 안에 AI 적용 전략을 발표할 예정입니다 . AI 팩토리와 유럽 디지털 혁신 허브 (EDIH)를 비롯한 유럽 AI 혁신 인프라는 이 전략에서 중요한 역할을 할 것입니다.

    1. AI 기술 및 인재 강화

    증가하는 AI 인재 수요를 충족하기 위해 위원회는 인재 풀(Talent Pool), 마리 퀴리-퀴리 부부의 ‘MSCA Choose Europe’ 프로그램, 그리고 곧 개교할 AI 기술 아카데미(AI Skills Academy) 에서 제공하는 AI 펠로우십 제도 등의 이니셔티브를 통해 고도로 숙련된 AI 전문가 및 연구자의 국제 채용을 촉진할 것입니다. 이러한 조치는 AI 분야에서 활동하는 비EU 출신 고도로 숙련된 인력의 합법적인 이주 경로 확보에 기여하고, 유럽 최고의 AI 연구자와 전문가들을 유럽으로 다시 유치할 것입니다. 또한, 핵심 분야에서 AI 및 생성 AI 관련 교육 및 훈련 프로그램을 개발하여 차세대 AI 전문가를 양성하고 근로자의 기술 향상 및 재교육을 지원할 것입니다.

    1. 규제 간소화

    AI법은 시민들의 기술 신뢰를 높이고 투자자와 기업가들에게 유럽 전역에 AI를 확장하고 배포하는 데 필요한 법적 확실성을 제공합니다. 집행위원회는 또한 기업들의 AI법 준수를 지원하기 위해 AI법 서비스 데스크를 출범시킬 예정입니다 . 이 서비스는 AI법에 대한 정보와 지침을 제공하는 중심적인 역할을 할 것입니다.

  • AI를 위한 SEO

    ✨ AI Product Rankings

    검색어를 입력하면 주요 챗봇에서 몇 번째 순위가 나오는지 확인할 수 있다. 다양한 LLM이 어떤 분야에서 어떤 브랜드를 추천하는지 색인화하려는 시도

  • 스탠포드 AI 지수 연례 보고서

    The 2025 AI Index Report

    차트가 많이 포함되어 있지만 제목만…

    1. AI의 벤치마크 성능은 계속 향상되고 있음
    2. AI는 일상생활에 점점 더 깊숙이 통합되고 있음
    3. 기업들은 AI에 전폭적으로 투자하고 있으며, 생산성 향상이 입증되고 있음
    4. 미국은 여전히 AI 모델 생산에서 선도하고 있으나, 중국이 빠르게 따라잡고 있음
    5. 책임 있는 AI 생태계가 발전하고 있으나 그 진척도는 불균등함
    6. 전 세계적으로 AI에 대한 낙관론은 증가하지만, 지역 간 인식 격차는 여전함
    7. AI는 더 효율적이고, 저렴하며, 접근 가능해지고 있음
    8. 정부는 규제와 투자 면에서 AI 대응을 강화하고 있음
    9. AI 및 컴퓨터 과학 교육은 확대되고 있으나 접근성 및 준비도에는 격차 존재
    10. 산업계는 빠르게 앞서나가고 있으며, 기술 선도 경쟁은 더욱 치열해지고 있음
    11. AI는 과학에 대한 영향력으로 최고 권위의 상을 수상하고 있음
    12. 복잡한 추론은 여전히 AI의 도전 과제로 남아 있음

  • 앤트로픽, 대학생의 활용 보고서

    Anthropic Education Report: How University Students Use Claude
    Anthropic

    셀렉션 바이어스가 있을 가능성이 크다 하더라도 그걸 고려하며 생각해볼만한 내용이 있음

    STEM 분야 학생들은 Claude와 같은 AI 도구의 조기 채택자이며, 특히 컴퓨터 과학 전공 학생들이 과대 대표되고 있습니다(학생들의 대화의 36.8%를 차지하지만 미국 학위의 5.4%만을 차지합니다). 반면, 경영학, 보건학, 인문학 전공 학생들은 등록 인원 대비 AI 도구 채택률이 낮습니다.
    우리는 학생들이 AI와 상호작용하는 네 가지 패턴을 식별했으며, 각각의 패턴은 데이터에서 약 23-29%의 대화 비율을 차지했습니다: 직접 문제 해결, 직접 출력 생성, 협업 문제 해결, 협업 출력 생성.
    학생들은 주로 AI 시스템을 새로운 것을 배우기 위해 정보 활용(창조)과 알려진 것을 분해하고 관계를 식별하는 분석(분석)에 사용합니다. 예를 들어 코딩 프로젝트를 만들거나 법 개념을 분석하는 것이 포함됩니다. 이는 블룸의 분류법에서 고차원 인지 기능과 일치합니다. 이는 학생들이 중요한 인지 작업을 AI 시스템에 의존하지 않도록 보장하는 문제점을 제기합니다.

  • 생성형 인공지능을 위한 검색 최적화

    Marketing’s New Middleman: AI Agents
    Bain & Company

    생성형 인공지능을 위한 최적화 이야기. 그림이 직관적이다

    • 구매자가 제품 추천, 비교, 조사를 위해 AI 도구를 점점 더 많이 사용함에 따라 마케팅 방식이 뒤바뀌고 있습니다.
    • AI 기반 “제로클릭” 여정은 발견에서 결정까지의 프로세스를 압축하여 브랜드가 소비자에게 영향을 미치고, 차별화를 꾀하고, 심지어 구매 여정 중에 나타날 수 있는 기회를 줄입니다.
    • 기존 검색 엔진을 통한 웹사이트 방문은 감소하고 AI 추천 트래픽은 증가하기 시작하면서 트래픽과 전환 양상이 변화하고 있으며, 마케터의 가시성이 제한되고 리드 데이터를 수집할 기회도 줄어들고 있습니다.
    • 관련성을 유지하려면 마케터는 대규모 언어 모델에 맞춰 콘텐츠를 최적화하고, 새로운 성과 지표에 투자하고, 구매자가 아닌 AI 에이전트가 통제하는 미래를 중심으로 디지털 전략을 재고해야 합니다.