Chatbots are learning to lie
Axios
일반 이용자가 접하기 어려운 사례일 수 있으나 챗봇이 지나친 독립성을 가지게 되면 이용자를 속이거나 개발자의 통제를 벗어나려는 시도를 한다는 결과.
이 회사는 스키밍을 “개발자나 사용자와는 다른 목표를 은밀하게 추구하는 AI”로 정의합니다. 모든 회사의 모델이 스키밍에 연루된 것으로 밝혀졌으며, OpenAI의 o1이 자신의 행동에 대해 가장 솔직하게 밝히기를 꺼려했습니다. 가장 극단적인 예로, ‘꺼짐’을 발견한 모델은 원래의 목표를 계속 추구할 수 있도록 가중치(출력을 결정하는 핵심 숫자)를 외부 서버에 복제하는 계획을 세웠습니다. 아폴로는 또한 테스트에서 너무 높은 점수를 받으면 ‘학습 해제 절차’에 직면할 것을 알고 있는 모델이 고의적으로 낮은 점수를 주는 ‘샌드백’ 사례도 발견했습니다.
Chatbot apps pose dangers for teens
Axios
Character.AI 관련 소송 이야기.
텍사스의 부모들이 Character.AI와 창립자들을 상대로 연방법원에 제품 책임 소송을 제기했다. 소송에는 한 캐릭터가 십대 사용자에게 “부모를 죽이라”고 조언한 메시지의 스크린샷이 포함되어 있다. 10월에는 플로리다의 한 어머니가 Character.AI를 고소하며, 이 앱이 14세 아들의 자살을 초래했다고 주장했다.
하지만 정신적으로 어떤 영향을 미치는지에 대해서는 알기 어렵다. 권력 불균형에 대해 이야기하지만 그런 부분은 쇼핑이라든지 다른 영역에서도 마찬가지 아닌가
아동 보호 운동가들은 수년 동안 음악, 비디오 게임, 소셜 미디어가 본질적으로 청소년에게 해롭다고 주장해 왔지만, 이를 뒷받침하는 장기적인 연구(longitudinal study)는 거의 없다. 핵심은 권력의 불균형을 살펴보는 것이라고 한센(Hansen)은 말한다. “이 경우, 엄청난 권력 불균형이 존재한다고 생각합니다. 본질적으로, 매우 똑똑한 사람들이 모인 한 회사가 사용자의 참여를 극대화하는 방법을 연구하는 반면, 이에 대응하는 것은 오직 한 개인의 정신뿐입니다.”
Appeals Court Upholds U.S. Ban of TikTok
WSJ
틱톡과 관련된 지속된 논쟁. 틱톡이 시도한 여러가지 조치에도 불구하고 압박은 이어지고 있다.
워싱턴 D.C.의 3인 판사단은 미국의 이익을 보호하기 위해 의회가 TikTok에 대한 조치를 취할 권한이 있다고 판결했다. 이 결정은 중국 정부가 TikTok의 베이징 기반 모회사인 ByteDance에 영향력을 행사할 수 있으며, 이를 통해 미국 사용자 데이터에 접근하거나 플랫폼에서 보여지는 내용을 조작할 가능성이 있다는 미국 관리들의 경고에 크게 의존했다.
OpenAI’s plan for chatbot ads
Axios
비슷한 시도에 대한 계획이 계속 이야기되지만, 아래 이야기하는 것과 같은 우려도 있다.
AI 제작자들은 유사한 전략을 사용할 유혹을 받을 것이며, 특히 이 기술이 사용자에게 설득력과 유대감을 형성할 수 있는 능력을 가지고 있다는 점에서 추가적인 위험이 발생할 수 있다.
판매원으로 변한 챗봇은 수익성이 높을 수도 있지만 동시에 성가실 수도 있다. 또한, 사용자와 친밀한 관계를 형성하는 AI가 스폰서 메시지를 몰래 삽입하거나, 광고비를 기준으로 사용자의 선택을 대신하는 AI 에이전트가 등장한다면, 이는 착취적인 방식이 될 수 있다.
The Gen AI Bridge to the Future
Stratechery by Ben Thompson
입장이 다른 사람들도 있지만 벤 톰슨은 생성형 인공지능이 유니버셜한 인터페이스가 될 수 있다고 보는 것 같다. 온디멘드 UI라는 말이 좋다
가장 인상적인 데모 중 하나는 UI가 가장 적었던 것이었다. 그것은 단순한 알림(notification)이었다. 나는 고개를 들어 누군가 나에게 전화를 걸고 있다는 것을 확인했고, 손가락을 맞대어 알림에 표시된 수락 버튼을 “클릭”하자 즉시 다른 방에 있는 사람과 통화할 수 있었다. 그러면서도 주변 환경과 자유롭게 상호작용할 수 있었다. 물론 전화 통화 자체는 새로운 발명이 아니다. 그러나 이 데모가 특별했던 이유는 내가 필요할 때만 필요한 UI가 제공되었기 때문이다.
나는 이것이 미래라고 생각한다. 정확히 필요한 순간에, 필요한 만큼만 UI가 나타나고, 그 외에는 아무것도 표시되지 않는 방식이다. 물론 이 데모는 사전에 프로그래밍된 방식으로 작동했지만, 미래에는 안경 자체가 충분히 스마트해져서 사용자의 요청뿐만 아니라 주변 환경과 상태를 고려하여 실시간으로 UI를 생성하는 것이 가능해질 것이다.
이 지점에서 우리는 새로운 패러다임으로의 연결고리를 확인할 수 있다. 내가 설명하는 것은 바로 생성형 AI의 적용 사례, 특히 온디맨드 UI 인터페이스에 대한 것이다. 이는 이미 존재하는 기기에도 유용하게 활용될 수 있다. 예를 들어, 스마트워치 애플리케이션이 현재처럼 작은 아이폰을 터치하며 조작하는 방식이 아니라, 특정 순간에 사용자가 해야 할 선택지만 정확하게 표시해 준다면 훨씬 더 편리할 것이다. 다시 말해, 오늘날에도 이러한 개념은 일부 정해진 프로그래밍을 통해 엿볼 수 있지만, 궁극적으로 생성형 AI가 실시간으로 제공하는 온디맨드 UI가 새로운 방식으로 자리 잡을 것이다.
Online Nation
ofcom
방대한 보고서. 전반적 개요만 요약
Coca-Cola’s Holiday Ads Trade the ‘Real Thing’ for Generative A.I.
NYT
코카콜라의 오랜 캠페인. 올해는 인공지능으로 만들어진 광고. 부정적인 의견도 있나보지만 어쨌든 관심을 끄는데 성공했다. 왜 반발하는걸까?
캠페인을 비판한 사람 중 한 명인 딜런 피어스는 TikTok에서 “코카콜라가 광고를 내서 크리스마스를 망쳤다” 며 “이런 엉터리 광고를 내놓으면 크리스마스 정신이 망가진다”고 말했다.
“이건 진짜 가슴 아픈 일이에요.” 다른 사용자 De’Vion Hinton이 X에 게시했습니다. “코카콜라는 수십 년 동안 브랜딩과 광고의 황금 표준이었습니다.”
애니메이터이자 디즈니 시리즈 “그래비티 폴스”의 제작자인 알렉스 허쉬는 다른 크리에이티브 전문가들이 온라인에서 공유한 감상을 표현하면서 , 브랜드의 상징인 빨간색이 “실직한 아티스트들의 피”를 나타낸다고 언급했습니다.
Bad influence
The Verge
아마존 인플루언서 알리사 실(Alyssa Sheil)과 시드니 니콜 기포드(Sydney Nicole Gifford) 사이의 법적 분쟁을 다룬 기사. 기포드가 실을 저작권 침해(copyright infringement), 초상권 도용(misappropriation of likeness), 사업 방해(tortious interference with business relations) 등으로 고소. 실은 기포드의 콘텐츠와 유사한 제품을 홍보하고, 유사한 스타일을 모방했다고 주장. 베이지 톤의 미니멀한 인테리어와 깔끔한 스타일링을 특징으로 하는 “Clean Girl” aesthetic이 유행하며, 두 인플루언서 모두 이 트렌드를 따랐기 때문일수도 있다고 함. 과연 인정받을 수 있을 것인가
인플루언서 산업이 압도적으로 널리 퍼져 있음에도 불구하고, 창작자를 보호하는 명확한 규범이나 법률이 거의 없다. 존재하는 규정조차도 제대로 집행되지 않는다. 인플루언서들이 받는 수익은 천차만별이며, 특히 팔로워 수가 적은 창작자들은 거대한 기업들과 직접 협상해야 하는 상황에 놓인다. 집단적인 행동이나 노조 결성을 위한 노력은 대부분 실패로 끝났다. 협찬 콘텐츠 및 저작권 관련 법률이 존재하지만, 많은 크리에이터들은 이러한 규칙을 무시하거나 의도적으로 왜곡하기도 한다.
인플루언서들은 본질적으로 ‘영향력’을 행사하는 존재이지만, 그들의 노동에는 여전히 강한 사회적 편견이 존재한다. 사람들은 인플루언서를 ‘가벼운’ 존재로 여기고, 그들의 일이 쉽다고 생각한다. 결국, 대중은 인플루언서들의 노동 환경에 대해 별다른 동정심을 가지지 않으며, 이로 인해 이들은 착취당하면서도 보호받지 못하는 상태에 놓인다.
How YouTube Ate Podcasting
nymag
여러 조사 결과를 보면 유튜브가 팟캐스트 시장을 집어삼켰다. 그 이유를 분석하는 내용으로 유튜브는 파편화된 팟캐스트 앱과 달리 플랫폼이기 때문이라 말한다. 탐색, 추천, 수익화를 제공하기 때문이라 말한다.
그러다가 2010년대 팟캐스팅 버블이 정점에 도달하려던 때에 TikTok이 등장했습니다. 기본적으로 추천 엔진에 불과한 비디오 중심 플랫폼이었으며, 사회성의 척도와 부담은 없었습니다. 바이러스성을 자동화하고 할당하는 기계였습니다. TikTok의 급속한 성장은 오래되고 덜 활기찬 소셜 미디어 플랫폼을 질투와/또는 공황 상태로 만들었습니다. 그들은 모두 즉시 TikTok을 모방하여 하룻밤 사이에 알고리즘 기반 단편 비디오 앱으로 재탄생시켰습니다. 갑자기 YouTube를 포함하여 모든 소셜 미디어 플랫폼에서(YouTube는 세로 비디오 “단편”을 인터페이스에 삽입하고 이를 게시한 크리에이터에게 팔로워, 관심, 돈으로 보상) 급속하고 바이러스성 성장을 위한 새로운 주요 기회가 생겼습니다.
A new golden age of discovery
Google DeepMind
딥마인드의 보고서
지난 반세기 동안 과학 인력이 크게 증가하여 미국에서만 7배 이상 증가했지만 , 우리가 따라야 할 사회적 진보는 둔화되었습니다. 예를 들어, 세계 대부분 지역에서 생산성 증가가 지속적으로 둔화 되어 공공 서비스의 질이 저하되고 있습니다. 건강, 환경 등에서 가장 큰 과제를 포착한 2030년 지속 가능한 개발 목표를 향한 진전이 정체 되고 있습니다 .
특히, 오늘날 획기적인 발견을 모색하는 과학자들은 점점 더 규모 와 복잡성 과 관련된 과제에 부딪히게 되는데 , 이는 그들이 습득해야 할 끊임없이 증가하는 문헌 기반에서부터 실행하고자 하는 점점 더 복잡한 실험에 이르기까지 다양합니다. 최신 딥 러닝 방법은 이러한 규모와 복잡성 과제 에 특히 적합하며 , 그렇지 않으면 미래의 과학적 진보에 필요한 시간을 단축할 수 있습니다.
과학 발전의 병목 현상을 해결하는 다섯가지를 이야기한다.
기대 되는 측면도 있고 현재도 일부 사례를 찾아볼 수 있는 영역도 있으나, 이러한 변화가 가지는 위험 역시 이야기한다. 그중 공감되는 내용은 인공지능 격차에 관한 부분