California Governor Vetoes Sweeping A.I. Legislation
NYT

인공지능에 대한 비관론자 입장에서의 규제안에 캘리포니아 주지사가 거부권을 행사했다. 사실 너무 광범위한 형태의 규제가 아닌지.

가빈 뉴섬 주지사는 일요일 캘리포니아 인공지능 안전 법안에 거부권을 행사하여, 새로운 기술의 성장을 억제하는 것을 목표로 한 미국에서 가장 야심찬 제안을 차단했습니다.

최초로 제정된 법안인 SB 1047은 대중에 공개하기 전에 대규모 AI 시스템 또는 모델의 안전 테스트를 요구했습니다. 또한 주 법무 장관에게 사망이나 재산 피해와 같이 기술로 인해 발생한 심각한 피해에 대해 회사를 고소할 권리를 부여했습니다. 그리고 잠재적인 생물전, 대량 사상자 또는 재산 피해의 경우 AI 시스템을 끄는 킬 스위치를 의무화했습니다.

하지만 주지사는 상대적으로 구체적인 인공지능 적용 사례에 대한 규제안에 서명했다(링크).

상원의원 조쉬 베커(민주당-멘로 파크)의 SB 942는 대중이 AI 생성 콘텐츠를 보다 신뢰할 수 있게 식별하도록 돕는 데 중점을 두고 있습니다. 널리 사용되는 생성 AI 시스템이 생성하는 콘텐츠에 출처 공개를 포함하도록 요구합니다. 이러한 공개는 인간에게는 보이지 않지만 이러한 시스템과 함께 제공되는 무료 도구로는 감지할 수 있어야 합니다. 사용자는 이러한 도구를 사용하여 AI 생성 콘텐츠를 식별할 수 있습니다. 이 새로운 조치는 빠르게 진화하는 디지털 콘텐츠 생성의 세계에서 투명성과 책임을 보장합니다.

이샤 와합(D-헤이워드) 박사의 SB 926은 AI가 생성한 성적으로 노골적인 딥페이크 콘텐츠를 표적으로 삼는 새로운 범죄를 만듭니다. 이 법안은 해당 사람에게 심각한 정서적 고통을 유발하려는 의도로 진짜인 것처럼 보이는 실제 사람의 성적으로 노골적인 이미지를 만들고 배포하는 것을 불법으로 만듭니다.

SB 981 역시 Wahab 박사가 제안한 것으로, 성적으로 노골적인 디지털 신원 도용 문제를 다룹니다. 이 법안은 소셜 미디어 플랫폼에서 사용자가 자신의 성적으로 노골적인 딥페이크를 신고할 수 있는 메커니즘을 구축하도록 요구합니다. 신고가 접수되면 플랫폼에서 조사하는 동안 해당 콘텐츠를 일시적으로 차단해야 하며, 확인되면 영구적으로 삭제해야 합니다. 이 법안은 개인이 자신의 모습이 오용되는 경우 디지털 신원과 프라이버시를 보호하기 위한 신속한 조치를 취할 수 있도록 권한을 부여합니다.

Sam Altman’s hand-wavy AI utopia
Axios

샘 알트먼은 인공지능이 지금 누구도 설명하기 어려운 엄청난 번영을 가져올 것이라고 말한다. “딥러닝은 작동하며 나머지 문제는 우리가 해결할 것입니다.”라고 하지만 당연히 반대 입장도 많다. 기술 전문성을 갖춘 상당수의 사람들은 OpenAI 접근 방식만으로는 “남은 문제를 해결할 수 없다”며 오늘날의 genAI 표준을 넘어서는 다른 종류의 머신러닝 접근 방식이 필요하다고 생각한다. 월스트리트의 일부에서는 AI가 단기적으로 주식 시장이 AI 기업에 부여한 막대한 가치를 뒷받침할 만한 수익을 창출할 수 있을지 의구심을 가진다.

오늘날의 AI는 약속된 풍요의 땅으로 안내할 수 있으며, 이는 업계의 많은 사람들이 위험을 감수할 만한 가치가 있다고 생각하는 도박입니다. 하지만 기술의 역사를 연구하는 사람들에게는 알트먼의 고상한 수사가 증기기관에서 전기, 자동차, 전화와 TV, 인터넷에 이르기까지 모든 기술 혁신의 물결에 동반된 유사한 예측의 메아리가 될 수 있습니다. 물론 이러한 기술들은 세상을 변화시켰지만, 그 중 어느 하나도 선동가들이 예측한 대로 세상의 고질적인 문제를 해결하지는 못했습니다.

뉴욕타임스에 따르면 TSMC는 샘 알트먼의 7조 달러 투자 이야기가 너무 황당해서 그를 ‘팟캐스팅 브로’라고 부른다는 보도도 있었다. 7조 달러는 거의 1경(10,000조)에 가까운 금액이다.

Enterprise Philosophy and The First Wave of AI
Stratechery

AI가 새로운 컴퓨팅 패러다임으로 기업 생산성을 높이고 인력을 대체하는 방식으로 자리 잡고 있다고 분석하는 글. 벤 톰슨이 과거에 작성했던 내용이지만 인상적 이야기.

Google의 관점에서 컴퓨터는 여러분을 대신하여 일을 처리함으로써 여러분이 일을 처리하고 시간을 절약할 수 있도록 도와줍니다. Duplex는 가장 인상적인 사례였습니다. 컴퓨터가 여러분을 대신하여 전화 통화를 하는 것이었지만, 일반적인 개념은 Google의 다른 많은 데모, 특히 AI를 기반으로 하는 데모에도 적용되었습니다. Google Photos는 사진을 분류하고 태그를 지정할 뿐만 아니라 이제 특정 편집을 제안합니다. Google News는 여러분을 대신하여 뉴스를 찾아주고, Maps는 여러분의 동네에 있는 새로운 레스토랑과 상점을 찾아줍니다. 

[…] 기대하는 바는 컴퓨터가 당신을 대신해서 일을 해준다는 것이 아니라, 컴퓨터가 당신이 더 잘, 더 효율적으로 일을 할 수 있도록 해준다는 것입니다. 그리고 이 철학과 함께 책임에 대한 다른 견해가 생겨납니다. 피차이는 Google의 기조연설 서두에서 “우리는 이것을 제대로 해야 한다는 깊은 책임감을 느낍니다”라고 인정했지만, 그 진술에는 Google의 전반적인 중심성과 관리자들의 직접적인 책임이 내재되어 있습니다. 반면 나델라는 책임이 기술 산업 전체에 있으며, 개인적으로 그것을 활용하려는 우리 모두에게 있다고 주장합니다

Charting Your AI Native Journey
Tessl

변화와 신뢰라는 두 가지 축을 중심으로 인공지능을 구분하는 사고 모형

(1) 높은 채택성 (Bottom Left)
기존 워크플로에 통합되며 신뢰도가 낮아 쉽게 도입 가능.
예시: GitHub CoPilot(코드 완성), Glean(엔터프라이즈 검색), Fathom(노트 작성).
특징: 간단히 검증 가능한 작업으로 생산성을 향상.

(2) 높은 자율성 (Top Left)
기존 워크플로에 통합되지만 높은 신뢰가 필요.
예시: Intercom의 Fin(고객 지원 AI), Robotaxis(자율주행 택시).
특징: 자동화된 작업을 수행하며 인간의 개입을 최소화.

(3) 변화 기회 (Bottom Right)
새로운 워크플로를 요구하며 낮은 신뢰가 필요.
예시: Synthesia(AI 아바타 영상 제작), Perplexity(챗 기반 검색).
특징: 기존 산업을 흔들 수 있는 혁신적 잠재력을 가짐.

(4) AI 네이티브 미래 (Top Right)
새로운 워크플로를 요구하며 높은 신뢰를 요함.
예시: AI 변호사, 자율 소프트웨어 개발(Tessl).
특징: 완전히 새로운 패러다임으로 전환하는 미래적 비전.

Edelman’s 2024 AI Landscape Report

AI는 생산성 향상, 콘텐츠 개인화, 창의적 프로세스 개선, 데이터 분석 효율화 등을 통해 기업의 비즈니스 방식을 혁신할 잠재력을 지녔지만, 기술적 용어, 마케팅 과장, 신뢰 문제 등으로 적절한 AI 도구를 선택하기 어렵다는 문제가 있다고 언급함. 그래서 몇 가지 인공지능 벤더를 평가하고 주요 추천 제품군을 정리했음

대형 언어 모델(LLMs):

• OpenAI의 ChatGPT, Google Gemini, Microsoft Copilot 등이 선두.
• 글쓰기, 리서치, 아이디어 구상, 요약, 디자인, 분석.

크리에이티브 및 디자인 도구:

• Adobe Firefly(image), Runway(video), ElevenLabs(audio) 등이 추천.
• 이미지 및 비디오 생성, 오디오 제작.

분석 및 소셜 리스닝 도구:

• Quid, Meltwater, SignalAI 등이 언급.
• AI를 활용한 데이터 통찰력 제공 및 의사결정 지원.

주요 모델에 대한 평가는 참고할만함.

The 27-Year-Old Billionaire Whose Army Does AI’s Dirty Work
WSJ

Scale AI에 관한 WSJ 기사. 인공지능 학습을 위한 데이터를 제공하는 기업으로 주목받고 있으며 많은 투자를 받았다. 하지만 꽤나 많은 투자를 받았기 때문에 투자 받은 만큼 헤자가 있고 가치 있는 기업이 될 수 있을까.

알렉산드르 왕은 현대 AI 붐을 뒷받침하는 지루한 작업을 수행하는 10만 명이 넘는 계약직 직원으로 이루어진 방대한 군대를 구축하여 세계에서 가장 어린 자수성가한 억만장자 중 한 명이 되었습니다. 전 세계 도시에서 컴퓨터 앞에 앉아 있는 그의 스타트업 Scale AI의 직원들은 스토리를 타이핑하고, 이미지를 라벨링하며, 챗봇이 인간의 말투를 더 잘 이해할 수 있도록 하는 문장을 작성합니다. 데이터 라벨링이라고 불리는 이 작업은 하이쿠를 쓰고 뉴스 기사를 요약하는 것부터 코사어나 우르두어와 같은 언어로 이야기를 쓰는 것까지 다양합니다.

McDonald’s touchscreen kiosks were feared as job killers. Instead, something surprising happened
CNN

기술이 도입되면 인간이 대체될 것이라고 생각했지만 그렇게 단순한 결과를 가져오지는 않았다. 생각보다는 복잡한 결과로 이어졌다는 점을 이야기한다.

일부 McDonald’s 프랜차이즈(미국에서 McDonald’s의 95%를 소유하고 운영)는 현재 현금을 받고 거스름돈을 받을 수 있는 키오스크를 출시하고 있습니다 . 하지만 이러한 매장에서도 McDonald’s는 계산원을 다른 역할로 재배치하고 있으며, 여기에는 고객이 키오스크를 사용하고 문제를 해결하는 데 도움이 되는 새로운 “고객 경험 책임자” 직무가 포함됩니다.

“이론적으로 키오스크는 노동력을 절감하는 데 도움이 되어야 하지만, 실제로 레스토랑은 모바일 주문 및 배달로 인해 복잡성이 더해졌고, 키오스크에서 절감된 노동력은 종종 이러한 노력에 재할당됩니다.” 데이터 분석 회사 Placer.ai에서 레스토랑 및 소매 산업을 다루는 분석가인 RJ Hottovy의 말입니다. 키오스크는 “레스토랑 안에 레스토랑을 만들었습니다.”