Chatbots are learning to lie
Axios

일반 이용자가 접하기 어려운 사례일 수 있으나 챗봇이 지나친 독립성을 가지게 되면 이용자를 속이거나 개발자의 통제를 벗어나려는 시도를 한다는 결과.

이 회사는 스키밍을 “개발자나 사용자와는 다른 목표를 은밀하게 추구하는 AI”로 정의합니다. 모든 회사의 모델이 스키밍에 연루된 것으로 밝혀졌으며, OpenAI의 o1이 자신의 행동에 대해 가장 솔직하게 밝히기를 꺼려했습니다. 가장 극단적인 예로, ‘꺼짐’을 발견한 모델은 원래의 목표를 계속 추구할 수 있도록 가중치(출력을 결정하는 핵심 숫자)를 외부 서버에 복제하는 계획을 세웠습니다. 아폴로는 또한 테스트에서 너무 높은 점수를 받으면 ‘학습 해제 절차’에 직면할 것을 알고 있는 모델이 고의적으로 낮은 점수를 주는 ‘샌드백’ 사례도 발견했습니다.

The Gen AI Bridge to the Future
Stratechery by Ben Thompson

입장이 다른 사람들도 있지만 벤 톰슨은 생성형 인공지능이 유니버셜한 인터페이스가 될 수 있다고 보는 것 같다. 온디멘드 UI라는 말이 좋다

가장 인상적인 데모 중 하나는 UI가 가장 적었던 것이었다. 그것은 단순한 알림(notification)이었다. 나는 고개를 들어 누군가 나에게 전화를 걸고 있다는 것을 확인했고, 손가락을 맞대어 알림에 표시된 수락 버튼을 “클릭”하자 즉시 다른 방에 있는 사람과 통화할 수 있었다. 그러면서도 주변 환경과 자유롭게 상호작용할 수 있었다. 물론 전화 통화 자체는 새로운 발명이 아니다. 그러나 이 데모가 특별했던 이유는 내가 필요할 때만 필요한 UI가 제공되었기 때문이다.

나는 이것이 미래라고 생각한다. 정확히 필요한 순간에, 필요한 만큼만 UI가 나타나고, 그 외에는 아무것도 표시되지 않는 방식이다. 물론 이 데모는 사전에 프로그래밍된 방식으로 작동했지만, 미래에는 안경 자체가 충분히 스마트해져서 사용자의 요청뿐만 아니라 주변 환경과 상태를 고려하여 실시간으로 UI를 생성하는 것이 가능해질 것이다.

이 지점에서 우리는 새로운 패러다임으로의 연결고리를 확인할 수 있다. 내가 설명하는 것은 바로 생성형 AI의 적용 사례, 특히 온디맨드 UI 인터페이스에 대한 것이다. 이는 이미 존재하는 기기에도 유용하게 활용될 수 있다. 예를 들어, 스마트워치 애플리케이션이 현재처럼 작은 아이폰을 터치하며 조작하는 방식이 아니라, 특정 순간에 사용자가 해야 할 선택지만 정확하게 표시해 준다면 훨씬 더 편리할 것이다. 다시 말해, 오늘날에도 이러한 개념은 일부 정해진 프로그래밍을 통해 엿볼 수 있지만, 궁극적으로 생성형 AI가 실시간으로 제공하는 온디맨드 UI가 새로운 방식으로 자리 잡을 것이다.

Where’s the Value in AI?

BCG는 기업의 생성AI 활용에 대해 조사했으나, 예상대로 핵심 사업에 미치는 영향은 적은 것으로 나타났다.

인공 지능(AI)에 대한 과장된 홍보에도 불구하고 그 가치를 찾기는 어렵습니다. CEO들은 투자를 승인하고, 인재를 고용하고, 시범 프로그램을 시작했지만, 새로운 BCG 연구에 따르면, 개념 증명 단계를 넘어 어느 정도 가치를 창출한 기업은 22%에 불과하며, 실질적인 가치를 창출하는 기업은 4%에 불과합니다.

하지만 핵심 비즈니스와 지원 기능 모두 인공지능을 통합하여 경쟁 우위를 확보한 기업들은 높은 매출 성장, 주주총수익(TSR), 투자자본이익률(RoIC)를 기록했다. 비용 절감과 매출 증대를 목표로 인공지능을 활용했으며, 기술과 알고리즘보다는 인적요소와 프로세스에 집중했다고 한다. 아래는 몇 가지 사례

• 한 글로벌 자동차 제조사는 입찰 문서 작성 시간을 50% 단축하고 경쟁 제안 분석 속도를 50% 높이며 지식 자산 검색 시간을 75% 단축.
• 북미 통신사는 AI로 콜센터 상호작용 시간을 20% 줄이고 총 관련 비용을 25% 감소.
• 금융기관은 데이터 관리 생산성을 20~25% 개선하고 데이터 관리의 적용 범위를 5년 이상 단축.
• 유럽 자동차 제조사는 아이디어에서 생산까지의 시간을 30% 단축하고 신제품 산업화 시간 40% 감소.

Growth of AI adoption slows among U.S. workers
Axios

원자료는 여기

Slack이 의뢰한 새로운 연구에 따르면 직장에서 AI를 사용하고 있다고 답한 미국 근로자의 비율은 지난 3개월 동안 거의 제자리걸음을 유지했습니다. 이것이 중요한 이유 AI의 빠른 도입 곡선이 느려지거나 평평해지면 기술에 대한 많은 장밋빛 가정과 그에 따른 매우 높은 시장 가치 평가가 바뀔 수 있습니다. Slack은 최근 설문조사에서 미국 근로자의 33%가 직장에서 AI를 사용하고 있다고 답했으며, 이는 단 1% 포인트 증가한 수치라고 밝혔습니다. 이는 이전 설문조사에서 나타난 급격한 성장세가 상당히 평탄화된 것을 의미합니다.

관리자에게 말하기 꺼려진다는 응답은 거의 절반(48%)에 달했는데, 가장 큰 이유로는 게으르거나 속임수를 쓰거나 무능한 사람으로 비춰질까 봐라는 두려움이 꼽혔습니다.

AI training depends on premium content, study finds
Axios

AI 기업들은 훈련 데이터로 무엇을 사용하는지 정확히 밝히지 않지만, Ziff Davis의 연구에 따르면 상업적인 뉴스 및 미디어 웹사이트 콘텐츠에 불균형적으로 의존하는 것으로 나타났습니다. OpenAI의 GPT-2를 훈련하기 위해 사용된 OpenWebText 데이터셋을 분석한 결과, URL의 약 10%가 연구된 15개의 프리미엄 퍼블리셔에서 나온 것으로 밝혀졌습니다. 연구는 Ziff Davis의 AI 전문 변호사 조지 우코손(George Wukoson)과 최고기술책임자 조이 포르투나(Joey Fortuna)에 의해 진행되었습니다.

Ziff Davis 역시 잡지사에서 출발했으며 News/Media Alliance(NMA) 회원사이다

What Meta’s AI knows about you
Axios

메타는 사용자와 전 세계 수십억 명의 개인 정보를 잘 알고 있으며, 이를 기반으로 강력하고 적절한 AI를 개발하고 있습니다. 하지만 사용자들에게 이러한 데이터 활용에 대해 “거부”할 권리를 제한하고 있습니다.

브라질과 유럽 이용자만 데이터 활용에 대해 옵트아웃이 가능하다