Bots beyond the text box
Axios

AI 제공업체들은 안전성과 품질 관리를 위해 ‘인간을 개입시켜야 한다’고 강조했지만, 요즘은 에이전트의 가능성에 대한 이야기를 한다. 실제로 몇 개 데모를 보면 놀랍기도 하다. 왜 인간인지 확인하는게 중요하다는 이야기가 나오는지 이해할 수 있을 것.

Anthropic의 ‘컴퓨터 사용’ 기능은 개발자와 고급 사용자가 Claude에게 웹에서 데이터를 수집해 스프레드시트에 입력하거나, 새로운 웹사이트를 처음부터 구축, 배포 및 디버깅하는 등의 작업을 다른 애플리케이션을 통해 수행하도록 지시할 수 있게 합니다.

• 이는 AI 업계에서 말하는 ‘에이전트(agent)’의 한 형태이며, 그 잠재력이 얼마나 강력할 수 있는지 쉽게 상상할 수 있습니다.
• 와튼(Wharton) 교수이자 AI 활용 전문가인 이선 몰릭(Ethan Mollick)은 Claude의 새로운 기능에 대해 “작업을 관리하는 것이 아니라 위임하는 느낌”이라고 평가했습니다.
• 전문가와 업계 관계자들은 AI가 새로운 기능을 추가함에 따라 지식 노동에서 엄청난 배가 효과가 있을 것으로 예상하고 있습니다.

ByteDance intern fired for planting malicious code in AI models
arsTECHNICA

특이한 사건?

또 다른 댓글 작성자는 바이트댄스(ByteDance)가 피해를 축소하고 있다고 주장했습니다. 해당 댓글 작성자는 인턴이 “악성 코드”를 사용해 “몇 달 동안 의도적으로 훈련을 방해했다”고 주장하며, 바이트댄스가 손해 배상을 청구하려 한다면 인턴이 더 가혹한 처벌을 받을 수 있다고 언급했습니다.

“팀의 몇 달간의 연구가 수포로 돌아갔다”고 그 작성자는 주장했습니다. 비록 “제품 라인에 직접적인 영향을 미치지는 않았지만,” “계산 능력의 손실만으로도 수백만에서 수천만에 이르며, 연구팀 전체의 시간, 에너지, 임금 낭비는 말할 것도 없다”고 덧붙였습니다.

The next big arenas of competition
McKinsey

맥킨지 보고서는 아레나(Arena)를 빠르게 성장하고 역동적인 산업으로 정의하며, 경제 성장에서 큰 비중을 차지하고 시장 리더십이 자주 변화하는 특징을 가진다고 말한다. 2040년까지 18개의 주요 아레나가 세계 GDP의 10%~16%를 차지할 것으로 예상했다.

• 전자상거래
• 인공지능(AI) 소프트웨어 및 서비스
• 클라우드 서비스
• 전기차(EV)
• 디지털 광고
• 반도체
• 자율주행 공유 차량
• 우주 산업
• 사이버 보안
• 배터리 생산
• 모듈식 건축
• 스트리밍 비디오
• 비디오 게임
• 로봇 공학
• 산업 및 소비자 생명공학
• 미래 항공 모빌리티
• 비만 치료 및 관련 약물
• 핵분열 발전소

More than a quarter of new code at Google is generated by AI
The Verge

“오늘날 구글에서 작성되는 신규 코드의 4분의 1 이상이 AI에 의해 생성되며, 이후 엔지니어가 검토하고 승인합니다.”
— 구글 CEO 순다 피차이, 화요일 실적 발표 전화회의에서

Edelman’s 2024 AI Landscape Report

AI는 생산성 향상, 콘텐츠 개인화, 창의적 프로세스 개선, 데이터 분석 효율화 등을 통해 기업의 비즈니스 방식을 혁신할 잠재력을 지녔지만, 기술적 용어, 마케팅 과장, 신뢰 문제 등으로 적절한 AI 도구를 선택하기 어렵다는 문제가 있다고 언급함. 그래서 몇 가지 인공지능 벤더를 평가하고 주요 추천 제품군을 정리했음

대형 언어 모델(LLMs):

• OpenAI의 ChatGPT, Google Gemini, Microsoft Copilot 등이 선두.
• 글쓰기, 리서치, 아이디어 구상, 요약, 디자인, 분석.

크리에이티브 및 디자인 도구:

• Adobe Firefly(image), Runway(video), ElevenLabs(audio) 등이 추천.
• 이미지 및 비디오 생성, 오디오 제작.

분석 및 소셜 리스닝 도구:

• Quid, Meltwater, SignalAI 등이 언급.
• AI를 활용한 데이터 통찰력 제공 및 의사결정 지원.

주요 모델에 대한 평가는 참고할만함.

Charting Your AI Native Journey
Tessl

변화와 신뢰라는 두 가지 축을 중심으로 인공지능을 구분하는 사고 모형

(1) 높은 채택성 (Bottom Left)
기존 워크플로에 통합되며 신뢰도가 낮아 쉽게 도입 가능.
예시: GitHub CoPilot(코드 완성), Glean(엔터프라이즈 검색), Fathom(노트 작성).
특징: 간단히 검증 가능한 작업으로 생산성을 향상.

(2) 높은 자율성 (Top Left)
기존 워크플로에 통합되지만 높은 신뢰가 필요.
예시: Intercom의 Fin(고객 지원 AI), Robotaxis(자율주행 택시).
특징: 자동화된 작업을 수행하며 인간의 개입을 최소화.

(3) 변화 기회 (Bottom Right)
새로운 워크플로를 요구하며 낮은 신뢰가 필요.
예시: Synthesia(AI 아바타 영상 제작), Perplexity(챗 기반 검색).
특징: 기존 산업을 흔들 수 있는 혁신적 잠재력을 가짐.

(4) AI 네이티브 미래 (Top Right)
새로운 워크플로를 요구하며 높은 신뢰를 요함.
예시: AI 변호사, 자율 소프트웨어 개발(Tessl).
특징: 완전히 새로운 패러다임으로 전환하는 미래적 비전.

Enterprise Philosophy and The First Wave of AI
Stratechery

AI가 새로운 컴퓨팅 패러다임으로 기업 생산성을 높이고 인력을 대체하는 방식으로 자리 잡고 있다고 분석하는 글. 벤 톰슨이 과거에 작성했던 내용이지만 인상적 이야기.

Google의 관점에서 컴퓨터는 여러분을 대신하여 일을 처리함으로써 여러분이 일을 처리하고 시간을 절약할 수 있도록 도와줍니다. Duplex는 가장 인상적인 사례였습니다. 컴퓨터가 여러분을 대신하여 전화 통화를 하는 것이었지만, 일반적인 개념은 Google의 다른 많은 데모, 특히 AI를 기반으로 하는 데모에도 적용되었습니다. Google Photos는 사진을 분류하고 태그를 지정할 뿐만 아니라 이제 특정 편집을 제안합니다. Google News는 여러분을 대신하여 뉴스를 찾아주고, Maps는 여러분의 동네에 있는 새로운 레스토랑과 상점을 찾아줍니다. 

[…] 기대하는 바는 컴퓨터가 당신을 대신해서 일을 해준다는 것이 아니라, 컴퓨터가 당신이 더 잘, 더 효율적으로 일을 할 수 있도록 해준다는 것입니다. 그리고 이 철학과 함께 책임에 대한 다른 견해가 생겨납니다. 피차이는 Google의 기조연설 서두에서 “우리는 이것을 제대로 해야 한다는 깊은 책임감을 느낍니다”라고 인정했지만, 그 진술에는 Google의 전반적인 중심성과 관리자들의 직접적인 책임이 내재되어 있습니다. 반면 나델라는 책임이 기술 산업 전체에 있으며, 개인적으로 그것을 활용하려는 우리 모두에게 있다고 주장합니다

Sam Altman’s hand-wavy AI utopia
Axios

샘 알트먼은 인공지능이 지금 누구도 설명하기 어려운 엄청난 번영을 가져올 것이라고 말한다. “딥러닝은 작동하며 나머지 문제는 우리가 해결할 것입니다.”라고 하지만 당연히 반대 입장도 많다. 기술 전문성을 갖춘 상당수의 사람들은 OpenAI 접근 방식만으로는 “남은 문제를 해결할 수 없다”며 오늘날의 genAI 표준을 넘어서는 다른 종류의 머신러닝 접근 방식이 필요하다고 생각한다. 월스트리트의 일부에서는 AI가 단기적으로 주식 시장이 AI 기업에 부여한 막대한 가치를 뒷받침할 만한 수익을 창출할 수 있을지 의구심을 가진다.

오늘날의 AI는 약속된 풍요의 땅으로 안내할 수 있으며, 이는 업계의 많은 사람들이 위험을 감수할 만한 가치가 있다고 생각하는 도박입니다. 하지만 기술의 역사를 연구하는 사람들에게는 알트먼의 고상한 수사가 증기기관에서 전기, 자동차, 전화와 TV, 인터넷에 이르기까지 모든 기술 혁신의 물결에 동반된 유사한 예측의 메아리가 될 수 있습니다. 물론 이러한 기술들은 세상을 변화시켰지만, 그 중 어느 하나도 선동가들이 예측한 대로 세상의 고질적인 문제를 해결하지는 못했습니다.

뉴욕타임스에 따르면 TSMC는 샘 알트먼의 7조 달러 투자 이야기가 너무 황당해서 그를 ‘팟캐스팅 브로’라고 부른다는 보도도 있었다. 7조 달러는 거의 1경(10,000조)에 가까운 금액이다.

California Governor Vetoes Sweeping A.I. Legislation
NYT

인공지능에 대한 비관론자 입장에서의 규제안에 캘리포니아 주지사가 거부권을 행사했다. 사실 너무 광범위한 형태의 규제가 아닌지.

가빈 뉴섬 주지사는 일요일 캘리포니아 인공지능 안전 법안에 거부권을 행사하여, 새로운 기술의 성장을 억제하는 것을 목표로 한 미국에서 가장 야심찬 제안을 차단했습니다.

최초로 제정된 법안인 SB 1047은 대중에 공개하기 전에 대규모 AI 시스템 또는 모델의 안전 테스트를 요구했습니다. 또한 주 법무 장관에게 사망이나 재산 피해와 같이 기술로 인해 발생한 심각한 피해에 대해 회사를 고소할 권리를 부여했습니다. 그리고 잠재적인 생물전, 대량 사상자 또는 재산 피해의 경우 AI 시스템을 끄는 킬 스위치를 의무화했습니다.

하지만 주지사는 상대적으로 구체적인 인공지능 적용 사례에 대한 규제안에 서명했다(링크).

상원의원 조쉬 베커(민주당-멘로 파크)의 SB 942는 대중이 AI 생성 콘텐츠를 보다 신뢰할 수 있게 식별하도록 돕는 데 중점을 두고 있습니다. 널리 사용되는 생성 AI 시스템이 생성하는 콘텐츠에 출처 공개를 포함하도록 요구합니다. 이러한 공개는 인간에게는 보이지 않지만 이러한 시스템과 함께 제공되는 무료 도구로는 감지할 수 있어야 합니다. 사용자는 이러한 도구를 사용하여 AI 생성 콘텐츠를 식별할 수 있습니다. 이 새로운 조치는 빠르게 진화하는 디지털 콘텐츠 생성의 세계에서 투명성과 책임을 보장합니다.

이샤 와합(D-헤이워드) 박사의 SB 926은 AI가 생성한 성적으로 노골적인 딥페이크 콘텐츠를 표적으로 삼는 새로운 범죄를 만듭니다. 이 법안은 해당 사람에게 심각한 정서적 고통을 유발하려는 의도로 진짜인 것처럼 보이는 실제 사람의 성적으로 노골적인 이미지를 만들고 배포하는 것을 불법으로 만듭니다.

SB 981 역시 Wahab 박사가 제안한 것으로, 성적으로 노골적인 디지털 신원 도용 문제를 다룹니다. 이 법안은 소셜 미디어 플랫폼에서 사용자가 자신의 성적으로 노골적인 딥페이크를 신고할 수 있는 메커니즘을 구축하도록 요구합니다. 신고가 접수되면 플랫폼에서 조사하는 동안 해당 콘텐츠를 일시적으로 차단해야 하며, 확인되면 영구적으로 삭제해야 합니다. 이 법안은 개인이 자신의 모습이 오용되는 경우 디지털 신원과 프라이버시를 보호하기 위한 신속한 조치를 취할 수 있도록 권한을 부여합니다.

President’s Lecture Series: Sundar Pichai

구글 순다 피차이의 카네기 멜론 강연. 인공지능의 혁신적 가능성을 이야기하며 지속가능성을 위한 노력이 필요함을 이야기한다. 인공지능 잠재력에 관해 이야기하는 부분에서 빅데이터 이야기때부터 많이 보이던 그래프를 확인할 수 있는데, 인공지능 모델 사용 비용의 급격한 하락은 더 많은 사람이 인공지능을 활용할 수 있게 한다고 말하며, 공기처럼 저렴한 지능(intelligence just like air, too cheap to meter)이 될 수 있음을 말한다.

이미 비용이 낮아지는 것을 목격하고 있습니다. 지난 18개월 동안 주력 모델의 토큰당 비용을 살펴보면 100만 토큰당 4달러였던 것이 지금은 13센트에 불과하며, 이러한 추세는 계속될 것입니다. 공기와 같은 인텔리전스를 계량화할 수 없을 정도로 저렴하게 사용할 수 있게 될 것이며, 이는 차트처럼 보일 수도 있지만 제게는 앞으로 다가올 흥미로운 미래입니다.