2024: The State of Generative AI in the Enterprise
Menlo Ventures

명확한 채택 추세는 생산성 향상이나 운영 효율성을 통해 실질적인 ROI를 제공하는 사례에 집중된다고 한다. 아래 주요 사례에 대한 내용

지속적인 실험에도 불구하고 명확한 채택 추세는 이미 생산성 향상 또는 운영 효율성을 통해 실질적인 ROI(투자수익)를 제공하는 일부 사용 사례로 이어지고 있습니다:

• 코드 코파일럿(Code copilots)
  51%의 채택률로, 개발자가 AI의 초기 주요 사용자로 자리 잡고 있습니다. GitHub Copilot은 연간 3억 달러의 수익 속도를 기록하며 이 경로를 입증했고, Codeium과 Cursor와 같은 신흥 도구들도 빠르게 성장하고 있습니다. 일반 코딩 어시스턴트 외에도, 기업들은 Harness의 AI DevOps 엔지니어 및 QA 어시스턴트와 같은 특정 작업에 특화된 코파일럿을 구매하여 파이프라인 생성 및 테스트 자동화를 지원하고, All Hands와 같은 AI 에이전트를 통해 보다 포괄적인 소프트웨어 개발을 수행하고 있습니다.
• 지원 챗봇(Support chatbots)
  기업의 31%가 채택한 이 애플리케이션은 내부 직원과 외부 고객을 위한 신뢰할 수 있는 24/7 기반의 지식 지원을 제공합니다. Aisera*, Decagon, Sierra의 에이전트는 고객과 직접 상호작용하며, Observe AI*는 통화 중 실시간 가이드를 제공하여 컨택 센터 상담사를 지원합니다.
• 기업 검색 및 데이터 추출 및 변환(Enterprise search + retrieval and data extraction + transformation)
  각각 28%와 27%의 채택률을 기록하며, 조직 내 산재한 데이터 사일로에 숨겨진 귀중한 지식을 잠금 해제하고 활용하려는 강한 의지를 반영합니다. Glean 및 Sana*와 같은 솔루션은 이메일, 메신저, 문서 저장소에 연결하여 이질적인 시스템 전반에 걸친 통합 의미론적 검색을 가능하게 하고, AI 기반의 지식 관리 기능을 제공합니다.
• 회의 요약(Meeting summarization)
  24%의 채택률로 사용 사례 중 다섯 번째로 순위에 올랐으며, 자동화된 회의록 작성 및 주요 내용 요약을 통해 시간을 절약하고 생산성을 높입니다. Fireflies.ai, Otter.ai, Sana와 같은 도구는 온라인 회의를 캡처하고 요약하며, Fathom은 비디오에서 주요 내용을 추출합니다. Eleos Health*는 이 혁신을 헬스케어 분야에 적용하여 수시간의 문서 작업을 자동화하고, EHR(전자 건강 기록)과 직접 통합하여 의료 제공자가 환자 진료에 집중할 수 있도록 지원합니다.

버티컬에 대한 이야기도 있다

Bots beyond the text box
Axios

AI 제공업체들은 안전성과 품질 관리를 위해 ‘인간을 개입시켜야 한다’고 강조했지만, 요즘은 에이전트의 가능성에 대한 이야기를 한다. 실제로 몇 개 데모를 보면 놀랍기도 하다. 왜 인간인지 확인하는게 중요하다는 이야기가 나오는지 이해할 수 있을 것.

Anthropic의 ‘컴퓨터 사용’ 기능은 개발자와 고급 사용자가 Claude에게 웹에서 데이터를 수집해 스프레드시트에 입력하거나, 새로운 웹사이트를 처음부터 구축, 배포 및 디버깅하는 등의 작업을 다른 애플리케이션을 통해 수행하도록 지시할 수 있게 합니다.

• 이는 AI 업계에서 말하는 ‘에이전트(agent)’의 한 형태이며, 그 잠재력이 얼마나 강력할 수 있는지 쉽게 상상할 수 있습니다.
• 와튼(Wharton) 교수이자 AI 활용 전문가인 이선 몰릭(Ethan Mollick)은 Claude의 새로운 기능에 대해 “작업을 관리하는 것이 아니라 위임하는 느낌”이라고 평가했습니다.
• 전문가와 업계 관계자들은 AI가 새로운 기능을 추가함에 따라 지식 노동에서 엄청난 배가 효과가 있을 것으로 예상하고 있습니다.

ByteDance intern fired for planting malicious code in AI models
arsTECHNICA

특이한 사건?

또 다른 댓글 작성자는 바이트댄스(ByteDance)가 피해를 축소하고 있다고 주장했습니다. 해당 댓글 작성자는 인턴이 “악성 코드”를 사용해 “몇 달 동안 의도적으로 훈련을 방해했다”고 주장하며, 바이트댄스가 손해 배상을 청구하려 한다면 인턴이 더 가혹한 처벌을 받을 수 있다고 언급했습니다.

“팀의 몇 달간의 연구가 수포로 돌아갔다”고 그 작성자는 주장했습니다. 비록 “제품 라인에 직접적인 영향을 미치지는 않았지만,” “계산 능력의 손실만으로도 수백만에서 수천만에 이르며, 연구팀 전체의 시간, 에너지, 임금 낭비는 말할 것도 없다”고 덧붙였습니다.

The next big arenas of competition
McKinsey

맥킨지 보고서는 아레나(Arena)를 빠르게 성장하고 역동적인 산업으로 정의하며, 경제 성장에서 큰 비중을 차지하고 시장 리더십이 자주 변화하는 특징을 가진다고 말한다. 2040년까지 18개의 주요 아레나가 세계 GDP의 10%~16%를 차지할 것으로 예상했다.

• 전자상거래
• 인공지능(AI) 소프트웨어 및 서비스
• 클라우드 서비스
• 전기차(EV)
• 디지털 광고
• 반도체
• 자율주행 공유 차량
• 우주 산업
• 사이버 보안
• 배터리 생산
• 모듈식 건축
• 스트리밍 비디오
• 비디오 게임
• 로봇 공학
• 산업 및 소비자 생명공학
• 미래 항공 모빌리티
• 비만 치료 및 관련 약물
• 핵분열 발전소

The 27-Year-Old Billionaire Whose Army Does AI’s Dirty Work
WSJ

Scale AI에 관한 WSJ 기사. 인공지능 학습을 위한 데이터를 제공하는 기업으로 주목받고 있으며 많은 투자를 받았다. 하지만 꽤나 많은 투자를 받았기 때문에 투자 받은 만큼 헤자가 있고 가치 있는 기업이 될 수 있을까.

알렉산드르 왕은 현대 AI 붐을 뒷받침하는 지루한 작업을 수행하는 10만 명이 넘는 계약직 직원으로 이루어진 방대한 군대를 구축하여 세계에서 가장 어린 자수성가한 억만장자 중 한 명이 되었습니다. 전 세계 도시에서 컴퓨터 앞에 앉아 있는 그의 스타트업 Scale AI의 직원들은 스토리를 타이핑하고, 이미지를 라벨링하며, 챗봇이 인간의 말투를 더 잘 이해할 수 있도록 하는 문장을 작성합니다. 데이터 라벨링이라고 불리는 이 작업은 하이쿠를 쓰고 뉴스 기사를 요약하는 것부터 코사어나 우르두어와 같은 언어로 이야기를 쓰는 것까지 다양합니다.

Edelman’s 2024 AI Landscape Report

AI는 생산성 향상, 콘텐츠 개인화, 창의적 프로세스 개선, 데이터 분석 효율화 등을 통해 기업의 비즈니스 방식을 혁신할 잠재력을 지녔지만, 기술적 용어, 마케팅 과장, 신뢰 문제 등으로 적절한 AI 도구를 선택하기 어렵다는 문제가 있다고 언급함. 그래서 몇 가지 인공지능 벤더를 평가하고 주요 추천 제품군을 정리했음

대형 언어 모델(LLMs):

• OpenAI의 ChatGPT, Google Gemini, Microsoft Copilot 등이 선두.
• 글쓰기, 리서치, 아이디어 구상, 요약, 디자인, 분석.

크리에이티브 및 디자인 도구:

• Adobe Firefly(image), Runway(video), ElevenLabs(audio) 등이 추천.
• 이미지 및 비디오 생성, 오디오 제작.

분석 및 소셜 리스닝 도구:

• Quid, Meltwater, SignalAI 등이 언급.
• AI를 활용한 데이터 통찰력 제공 및 의사결정 지원.

주요 모델에 대한 평가는 참고할만함.

Charting Your AI Native Journey
Tessl

변화와 신뢰라는 두 가지 축을 중심으로 인공지능을 구분하는 사고 모형

(1) 높은 채택성 (Bottom Left)
기존 워크플로에 통합되며 신뢰도가 낮아 쉽게 도입 가능.
예시: GitHub CoPilot(코드 완성), Glean(엔터프라이즈 검색), Fathom(노트 작성).
특징: 간단히 검증 가능한 작업으로 생산성을 향상.

(2) 높은 자율성 (Top Left)
기존 워크플로에 통합되지만 높은 신뢰가 필요.
예시: Intercom의 Fin(고객 지원 AI), Robotaxis(자율주행 택시).
특징: 자동화된 작업을 수행하며 인간의 개입을 최소화.

(3) 변화 기회 (Bottom Right)
새로운 워크플로를 요구하며 낮은 신뢰가 필요.
예시: Synthesia(AI 아바타 영상 제작), Perplexity(챗 기반 검색).
특징: 기존 산업을 흔들 수 있는 혁신적 잠재력을 가짐.

(4) AI 네이티브 미래 (Top Right)
새로운 워크플로를 요구하며 높은 신뢰를 요함.
예시: AI 변호사, 자율 소프트웨어 개발(Tessl).
특징: 완전히 새로운 패러다임으로 전환하는 미래적 비전.

Enterprise Philosophy and The First Wave of AI
Stratechery

AI가 새로운 컴퓨팅 패러다임으로 기업 생산성을 높이고 인력을 대체하는 방식으로 자리 잡고 있다고 분석하는 글. 벤 톰슨이 과거에 작성했던 내용이지만 인상적 이야기.

Google의 관점에서 컴퓨터는 여러분을 대신하여 일을 처리함으로써 여러분이 일을 처리하고 시간을 절약할 수 있도록 도와줍니다. Duplex는 가장 인상적인 사례였습니다. 컴퓨터가 여러분을 대신하여 전화 통화를 하는 것이었지만, 일반적인 개념은 Google의 다른 많은 데모, 특히 AI를 기반으로 하는 데모에도 적용되었습니다. Google Photos는 사진을 분류하고 태그를 지정할 뿐만 아니라 이제 특정 편집을 제안합니다. Google News는 여러분을 대신하여 뉴스를 찾아주고, Maps는 여러분의 동네에 있는 새로운 레스토랑과 상점을 찾아줍니다. 

[…] 기대하는 바는 컴퓨터가 당신을 대신해서 일을 해준다는 것이 아니라, 컴퓨터가 당신이 더 잘, 더 효율적으로 일을 할 수 있도록 해준다는 것입니다. 그리고 이 철학과 함께 책임에 대한 다른 견해가 생겨납니다. 피차이는 Google의 기조연설 서두에서 “우리는 이것을 제대로 해야 한다는 깊은 책임감을 느낍니다”라고 인정했지만, 그 진술에는 Google의 전반적인 중심성과 관리자들의 직접적인 책임이 내재되어 있습니다. 반면 나델라는 책임이 기술 산업 전체에 있으며, 개인적으로 그것을 활용하려는 우리 모두에게 있다고 주장합니다

Sam Altman’s hand-wavy AI utopia
Axios

샘 알트먼은 인공지능이 지금 누구도 설명하기 어려운 엄청난 번영을 가져올 것이라고 말한다. “딥러닝은 작동하며 나머지 문제는 우리가 해결할 것입니다.”라고 하지만 당연히 반대 입장도 많다. 기술 전문성을 갖춘 상당수의 사람들은 OpenAI 접근 방식만으로는 “남은 문제를 해결할 수 없다”며 오늘날의 genAI 표준을 넘어서는 다른 종류의 머신러닝 접근 방식이 필요하다고 생각한다. 월스트리트의 일부에서는 AI가 단기적으로 주식 시장이 AI 기업에 부여한 막대한 가치를 뒷받침할 만한 수익을 창출할 수 있을지 의구심을 가진다.

오늘날의 AI는 약속된 풍요의 땅으로 안내할 수 있으며, 이는 업계의 많은 사람들이 위험을 감수할 만한 가치가 있다고 생각하는 도박입니다. 하지만 기술의 역사를 연구하는 사람들에게는 알트먼의 고상한 수사가 증기기관에서 전기, 자동차, 전화와 TV, 인터넷에 이르기까지 모든 기술 혁신의 물결에 동반된 유사한 예측의 메아리가 될 수 있습니다. 물론 이러한 기술들은 세상을 변화시켰지만, 그 중 어느 하나도 선동가들이 예측한 대로 세상의 고질적인 문제를 해결하지는 못했습니다.

뉴욕타임스에 따르면 TSMC는 샘 알트먼의 7조 달러 투자 이야기가 너무 황당해서 그를 ‘팟캐스팅 브로’라고 부른다는 보도도 있었다. 7조 달러는 거의 1경(10,000조)에 가까운 금액이다.

California Governor Vetoes Sweeping A.I. Legislation
NYT

인공지능에 대한 비관론자 입장에서의 규제안에 캘리포니아 주지사가 거부권을 행사했다. 사실 너무 광범위한 형태의 규제가 아닌지.

가빈 뉴섬 주지사는 일요일 캘리포니아 인공지능 안전 법안에 거부권을 행사하여, 새로운 기술의 성장을 억제하는 것을 목표로 한 미국에서 가장 야심찬 제안을 차단했습니다.

최초로 제정된 법안인 SB 1047은 대중에 공개하기 전에 대규모 AI 시스템 또는 모델의 안전 테스트를 요구했습니다. 또한 주 법무 장관에게 사망이나 재산 피해와 같이 기술로 인해 발생한 심각한 피해에 대해 회사를 고소할 권리를 부여했습니다. 그리고 잠재적인 생물전, 대량 사상자 또는 재산 피해의 경우 AI 시스템을 끄는 킬 스위치를 의무화했습니다.

하지만 주지사는 상대적으로 구체적인 인공지능 적용 사례에 대한 규제안에 서명했다(링크).

상원의원 조쉬 베커(민주당-멘로 파크)의 SB 942는 대중이 AI 생성 콘텐츠를 보다 신뢰할 수 있게 식별하도록 돕는 데 중점을 두고 있습니다. 널리 사용되는 생성 AI 시스템이 생성하는 콘텐츠에 출처 공개를 포함하도록 요구합니다. 이러한 공개는 인간에게는 보이지 않지만 이러한 시스템과 함께 제공되는 무료 도구로는 감지할 수 있어야 합니다. 사용자는 이러한 도구를 사용하여 AI 생성 콘텐츠를 식별할 수 있습니다. 이 새로운 조치는 빠르게 진화하는 디지털 콘텐츠 생성의 세계에서 투명성과 책임을 보장합니다.

이샤 와합(D-헤이워드) 박사의 SB 926은 AI가 생성한 성적으로 노골적인 딥페이크 콘텐츠를 표적으로 삼는 새로운 범죄를 만듭니다. 이 법안은 해당 사람에게 심각한 정서적 고통을 유발하려는 의도로 진짜인 것처럼 보이는 실제 사람의 성적으로 노골적인 이미지를 만들고 배포하는 것을 불법으로 만듭니다.

SB 981 역시 Wahab 박사가 제안한 것으로, 성적으로 노골적인 디지털 신원 도용 문제를 다룹니다. 이 법안은 소셜 미디어 플랫폼에서 사용자가 자신의 성적으로 노골적인 딥페이크를 신고할 수 있는 메커니즘을 구축하도록 요구합니다. 신고가 접수되면 플랫폼에서 조사하는 동안 해당 콘텐츠를 일시적으로 차단해야 하며, 확인되면 영구적으로 삭제해야 합니다. 이 법안은 개인이 자신의 모습이 오용되는 경우 디지털 신원과 프라이버시를 보호하기 위한 신속한 조치를 취할 수 있도록 권한을 부여합니다.