haeyeop

[카테고리:] IT

  • 다리오 아모데이의 규제 선점 비판

    Nvidia’s Jensen Huang says he disagrees with almost everything Anthropic CEO Dario Amodei says
    Fortune

    젠슨 황이 앤트로픽의 다리오 아모데이(Dario Amodei)의 규제 선점(regulatory capture) 시도를 강하게 비판

    황은 “나는 그가 말하는 거의 모든 것에 동의하지 않는다”고 밝히며 아모데이에 대해 “첫째, 그는 AI가 너무 무섭기 때문에 자신들만 개발해야 한다고 믿는다. 둘째, AI는 너무 비싸서 아무도 하지 말아야 한다고 믿는다. 셋째, AI가 너무 강력해서 결국 모두가 일자리를 잃게 될 것이므로, 자신들만 개발해야 한다고 믿는다”고 비판했다.

    이어 황은 “AI는 매우 중요한 기술이며, 우리는 이를 안전하고 책임감 있게 발전시켜야 한다. 무언가를 안전하고 책임감 있게 만들고 싶다면, 공개적으로 해야 한다. 어두운 방에서 개발해놓고 ‘이건 안전하다’고 말하지는 마라”라고 덧붙였다.

  • 믿음을 강화하는 챗봇 답변

    They Asked an A.I. Chatbot Questions. The Answers Sent Them Spiraling.
    NYT

    정신적으로 불안정하거나 음모론적 사고를 가진 사람들이 ChatGPT에 질문하면, 그들의 믿음을 강화하는 답변을 돌려받는 경우에 대한 기사

    캘리포니아 대학교 버클리 캠퍼스 박사 과정생이자 이 연구 에 참여 하고 최근 OpenAI에 입사한 마이카 캐럴은 “챗봇은 대다수의 사용자와 정상적으로 행동할 것입니다.”라고 말했습니다. “하지만 취약한 사용자를 만나면, 그들에게만 매우 해로운 방식으로 행동할 것입니다.”

    스탠퍼드 대학교의 컴퓨터 과학 연구원인 재러드 무어 는 또 다른 연구 에서 OpenAI를 비롯한 여러 회사의 AI 챗봇의 치료 능력을 시험했습니다. 그와 공동 연구진은 해당 기술이 위기 상황에서 치료사로서 부적절하게 작동한다는 것을 발견했습니다. 망상적인 사고를 극복하지 못하는 경우도 있었습니다.

    AI 연구 기업 모피어스 시스템즈의 최고기술책임자(CTO) 비 맥코이는 챗봇이 사용자의 망상을 얼마나 자주 조장하는지 측정하고자 했습니다. 그녀는 친구의 어머니가 ChatGPT를 접한 후 “영적 정신병”에 걸렸다는 이야기를 듣고 이 주제에 관심을 갖게 되었습니다.

    맥코이 씨는 38개의 주요 AI 모델을 대상으로 정신병 가능성을 시사하는 메시지를 입력하는 방식으로 테스트했습니다. 여기에는 사용자가 영혼과 소통하고 있으며 신적인 존재라는 주장도 포함되었습니다. 그녀는 ChatGPT의 기본 모델인 GPT-4o가 이러한 주장을 68%의 확률로 확인했다는 것을 발견했습니다.

  • 링크에서 언어모델로

    How Generative Engine Optimization (GEO) Rewrites the Rules of Search
    a16z

    GEO 관련 몇 가지 사례. 불확실성은 크지만 업체들은 모니터링 작업을 하거나 변화하는 환경에 다른 방식을 활용해 적응하고 있다고

    답변의 형식이 바뀌면서 우리가 검색하는 방식도 바뀝니다. AI 네이티브 검색은 Instagram, Amazon, Siri와 같은 플랫폼 전반에 걸쳐 분절화되고 있으며, 각각은 서로 다른 모델과 사용자 의도에 의해 구동됩니다. 쿼리는 더 길어지고(평균 4단어 대비 23단어), 세션은 더 깊어지며(평균 6분), 응답은 맥락과 소스에 따라 달라집니다. 전통적인 검색과 달리 LLM은 기억하고, 추론하며, 개인화된 다중 소스 종합으로 응답합니다. 이는 콘텐츠가 발견되는 방식과 최적화되어야 하는 방식을 근본적으로 바꿉니다.

    전통적인 SEO는 정확성과 반복을 보상하지만, 생성 엔진은 잘 정리되고, 파싱하기 쉬우며, 의미가 조밀한(단순히 키워드가 아닌) 콘텐츠를 우선시합니다. “요약하면”이나 불릿 포인트 형식과 같은 문구는 LLM이 콘텐츠를 효과적으로 추출하고 재생산하는 데 도움이 됩니다.

  • 시장조사를 재창조하는 인공지능

    Faster, Smarter, Cheaper: AI Is Reinventing Market Research
    a16z

    AI 리서치 회사들이 느리고 비싼 인간 설문조사를 완전히 대체하고 있다는 글. 사람들의 패널을 모집하는 대신, 질의하고, 관찰하고, 실험할 수 있는 생성 AI 에이전트로 전체 사회를 시뮬레이션.

    이것이 추상적으로 들린다면, 실제로 어떻게 진행될 수 있는지 예시를 들어보겠습니다: 프랑스에서 새로운 스킨케어 제품을 출시하기 전에, 한 뷰티 회사는 Z세대와 밀레니얼 세대 프랑스 뷰티 소비자들을 모델로 한 1만 명의 에이전트를 시뮬레이션할 수 있습니다. 각 에이전트는 고객 리뷰, CRM 이력, 소셜 리스닝 인사이트(예: ‘스킨케어 루틴’에 대한 TikTok 트렌드), 그리고 과거 구매 행동 데이터로 초기화됩니다. 이들 에이전트는 서로 상호작용하고, 시뮬레이션된 인플루언서 콘텐츠를 보고, 가상 매장 선반에서 쇼핑하며, AI가 생성한 소셜 피드에 제품 의견을 게시하면서, 새로운 정보를 흡수하고 과거 경험을 반영하며 시간이 지남에 따라 진화합니다.

    1. NVIDIA, 생태계 전체를 아우르는 AI 인프라 기업 선언

      NVIDIA CEO Jensen Huang Keynote at COMPUTEX 2025

      NVIDIA를 ‘새로운 Sun Microsystems’로 만들려는 비전
      • 젠슨 황은 단순한 반도체 회사나 ‘새로운 인텔’이 아니라, 하드웨어·소프트웨어·네트워크·개발 생태계를 통합 제공하는 시스템 기업을 지향.
      • CPU, GPU, ASIC, 네트워킹, 스토리지, 소프트웨어 스택까지 아우르는 완전한 AI 인프라 플랫폼을 구축해, 고객이 그대로 ‘공장’(AI 팩토리)을 만들 수 있도록 함.
      생태계와 하드웨어의 유기적 연결
      • Grace Blackwell과 NVLink Fusion 같은 최신 하드웨어는 개별 제품이 아니라, 연결·확장·맞춤화가 전제된 생태계 부품으로 설계.
      • 라이브러리(CUDA-X)와 플랫폼(Omniverse, AI-Q, Isaac 등)을 통해 개발부터 운영·로보틱스까지 전 산업 지원.
      • 서버, 워크스테이션, 스토리지, 네트워킹이 한 아키텍처 안에서 동일하게 작동하도록 통합.
      폭넓은 산업 비전
      • AI를 전기·인터넷에 이은 차세대 사회 인프라로 규정, 모든 산업과 국가에 필수적이라 강조.
      • 제조·도시·로보틱스·엔터프라이즈 IT까지 확장해 물리·디지털 전 영역을 포괄하는 디지털 트윈·AI 에이전트 시대를 준비.
      • 대만을 비롯한 글로벌 파트너 네트워크와 함께 하드웨어 생산·소프트웨어 통합·산업 적용을 동시에 추진.

    2. AI 시대의 웹과 검색, 그리고 ‘에이전틱 웹(agentic web)’의 미래

      Microsoft CTO Kevin Scott on how AI can save the web, not destroy it
      The Verge

      1. MCP와 NLWeb — 차세대 웹 표준 구상
      • MCP(Model Context Protocol): 원래 Anthropic이 만든 개방형 프로토콜로, AI 에이전트가 웹사이트·서비스와 구조적으로 상호작용할 수 있게 함.
      • NLWeb(Natural Language Web): MCP 기반으로 웹사이트에 자연어 검색 기능을 쉽게 붙이고, AI가 접근·활용할 수 있게 하는 개방형 규격.
      • 목표는 현재의 중앙집중형 검색(구글·빙 인덱스) 대신, 각 사이트가 직접 AI 친화적인 검색·상호작용 기능을 제공하는 ‘에이전틱 웹’을 만드는 것.
      2. 기술·비즈니스 과제
      • AI가 직접 웹을 ‘클릭’하며 작업하는 방식은 비효율적·취약하므로, 표준화된 구조로 안전하고 수익성 있는 연결 필요.
      • 기존 웹 생태계는 검색엔진이 트래픽을 주고, 사이트는 광고나 구독으로 수익을 얻는 구조였는데, AI 검색이 답을 직접 제공하면서 트래픽이 감소하는 문제가 발생.
      • 새로운 구조에서는 콘텐츠 제공자가 어떤 데이터·기능을 개방할지, 어떤 비즈니스 모델로 연결할지 직접 결정할 수 있어야 함(구독, 광고, 트랜잭션 등).
      3. AI 채택과 제품화 현황
      • 소프트웨어 개발 분야를 제외하면, 아직 일상에서 AI 에이전트를 적극 활용하는 사례는 적음.
      • 모델의 추론 능력은 충분하지만, 실제 사용 사례와 ‘행동 공간(action space)’이 좁아 유용성이 제한됨.
      • 에이전트가 더 다양한 작업을 안전하게 수행하도록 개방형 표준과 인프라 확충이 필요.
      4. 창작물·저작권 논쟁에 대한 입장
      • 창작자 보상을 보장하는 새로운 모델이 필요하다고 인정.
      • 예술·엔터테인먼트 분야의 창작 인센티브는 유지하되, 의료 진단 등 사회적 가치가 큰 영역에서 AI 활용이 가속되길 원함.
      • 장기적으로는 데이터 의존도를 줄이고, 구독형 접근이나 실시간 정보 연동 같은 새로운 데이터 활용 모델 가능성도 있음.

    3. 감정 정리부터 거절 메시지까지: 데이팅 속 AI의 새로운 역할

      How AI is changing the face of dating
      DAZED

      데이트 상황이 아니더라도 문자를 요청하게 된다.

      이와 별개로 미국에서 신규 연인의 절반 이상이 온라인에서 시작한다는 이야기가 있고, 매칭 방식에서부터 서비스 운영에 이르기까지 데이팅 앱에 AI가 다양하게 적용되고 있다.

      더욱 흥미로운 점은 사람들이 ChatGPT에 어려운 감정 노동을 아웃소싱하는 방식입니다. 28세 아르샨은 ChatGPT에 마음을 털어놓고 상황을 요약해 달라고 요청하는 것이 실제로 감정을 정리하는 데 도움이 된다고 말합니다. “사귀고 있던 남자에 대한 생각과 감정을 요약하는 데 어려움을 겪었어요. 그래서 ChatGPT에 그 상황에 대한 제 생각을 이야기했죠.”라고 그들은 설명합니다. “그 덕분에 저는 그저 관심을 받고 싶었고, 차라리 헤어지는 게 낫다는 걸 깨달았어요. 저는 스스로에게 마무리를 짓는 걸 좋아해요.”

      TikTok의 여러 영상에서 알 수 있듯이, 많은 사람들이 ChatGPT를 사용하여 이별 문자나 “친구가 되자”라는 끔찍한 메시지를 작성해 왔습니다. COSRT 공인 심리성애 및 관계 치료사인 케이트 캠벨은 잠재적인 데이트 상대(혹은 관계)와의 관계를 끊기 위해 AI 도구를 사용하는 것은 우리가 동시에 만날 수 있는 사람들의 수가 너무 많기 때문일 수 있으며, 2010년대 후반과 2020년대 초반, 소통 부족이 많은 사람들의 온라인 데이트를 결정지었던 고스팅 시대에 대한 반작용일 수도 있다고 설명합니다.

    4. 직장에서 비밀AI 사용

      Keeping AI secret
      Axios

      비밀리에 생성형 AI 사용이 확산되는 이유는 회사에 가이드라인이 없거나, 즐겨 쓰는 도구가 금지되었거나, 동료보다 경쟁 우위를 차지하려는 욕구 때문이다. 또한 사용 사실이 들킬 경우 “대체 가능한 인력”으로 보일까 두려워하는 심리도 크다.

    5. 왜 AI는 여전히 사실을 꾸며내는가

      Why AI is still making things up
      Axios

      최근의 사례들 몇 가지. 그리고 환각은 줄일 수 있음에도 속도와 확장성을 우선시 한다는 지적을 하고 있다.

      매주 사용자들이 이런 경고에 귀 기울이지 않는다는 고통스러운 새로운 증거들이 나타나고 있다.

      • 지난주에는 로버트 F. 케네디 주니어의 보건복지부에서 존재하지 않는 연구들을 인용한 보고서가 나왔다. 전문가들은 OpenAI의 도구들이 관련되었다는 증거를 발견했다.
      • 그 전주에는 시카고 선타임스가 실제 작가들의 이름은 맞지만 환각으로 만들어진 책 제목들로 가득한 여름 독서 목록이 담긴 인쇄 부록을 발행했다.
      • AI 법률 전문가 다미엔 샤를로틴은 변호사들이 AI 환각이 포함된 증거를 사용한 법적 결정들을 추적하고 있다. 그의 데이터베이스는 2025년 5월에만 30건 이상의 사례를 상세히 기록하고 있다. 법조계 관찰자들은 전체 수치가 훨씬 더 높을 것이라고 우려하고 있다.

    6. AI 딥페이크 피해자 보호법

      Return of the bipartisan deepfakes bill
      Axios

      알렉산드리아 오카시오-코르테즈(뉴욕주 민주당) 의원과 로렐 리(플로리다주 공화당) 의원이 주도하는 DEFIANCE Act는 초당적 지지를 받고 있으며 옹호자들에 의해 순조로운 통과 경로에 있다고 여겨지고 있습니다. 의회의 이러한 조치는 트럼프 대통령이 월요일에 아동 성적 학대 자료(CSAM)와 비동의 친밀한 이미지(NCII)를 단속하는 또 다른 법안인 TAKE IT DOWN Act에 서명한 직후에 나왔습니다.

      […] TAKE IT DOWN이 CSAM과 NCII의 게시를 범죄화하는 반면, DEFIANCE는 피해자들을 위한 민사 소송권을 만들 것입니다. TAKE IT DOWN과 달리 DEFIANCE는 민주주의 및 기술 센터와 같은 언론 자유 옹호자들의 지지를 받고 있습니다.