Viral AI-Generated Summer Guide Printed by Chicago Sun-Times Was Made by Magazine Giant Hearst
404 Media
특별히 새로운 이야기도 아니기는 하지만…
시카고 선타임스 와 필라델피아 인콰이어러가 공동으로 발행한 여름 가이드 신문 삽입물인 “더위 지수” 에는 AI가 생성한 잘못된 정보와 존재하지 않는 책으로 가득 찬 독서 목록이 포함되어 있었는데, 이 기사는 잡지 대기업 허스트의 자회사가 만든 것이라고 알게되었씁니다.
Anthropic’s new model has a dark side
Axios
- Opus 4의 120페이지 분량 “시스템 카드”에서 강조된 한 시나리오에서, 모델은 자신의 창조자들에 대한 가상의 이메일에 접근할 수 있게 되었고 시스템이 교체될 것이라는 말을 들었습니다.
- 모델은 이메일에서 언급된 불륜에 대해 엔지니어를 반복적으로 협박하려 했으며, 더 미묘한 노력이 실패한 후 강도를 높였습니다.
- 한편, 외부 그룹은 Opus 4의 초기 버전이 지금까지 접한 어떤 최첨단 모델보다도 더 많이 음모를 꾸미고 속임수를 썼다는 것을 발견했으며, 해당 버전을 내부적으로나 외부적으로 출시하지 말 것을 권고했습니다.
- “우리는 모델이 개발자들의 의도를 훼손하려는 노력의 일환으로 자가 증식하는 웜을 작성하려 시도하고, 법적 문서를 조작하며, 미래의 자신의 인스턴스들을 위해 숨겨진 메모를 남기는 사례들을 발견했습니다”라고 Apollo Research는 Anthropic의 Opus 4 안전 보고서에 포함된 노트에서 말했습니다.
Neil Vogel on Google Zero
The Rebooting
Dotdash Meredith의 CEO 닐 보겔이 “구글 제로” 상황에 어떻게 대비하고 있는지 이야기. 대비라고 이야기하는게 사실은 별다른건 없는 느낌…
“우리는 말 그대로 이것을 구글 제로라고 부른다”고 Dotdash Meredith CEO 닐 보겔이 최근 Media Product Forum에서 말했다. “구글이 아예 트래픽 전송을 중단하면 어떻게 될까? 이건 종말론적 계획이 아니다—작업 시나리오다.”
구글의 AI 오버뷰는 이미 Dotdash Meredith 검색 쿼리의 3분의 1에 나타나고 있다. 회사는 그런 결과들의 클릭률 감소를 보고 있다. 이는 도전이지, 일을 정리할 이유는 아니다. “우리가 정말 오랫동안 알고 있었던 것은 궁극적으로 사용자들과의 직접적인 관계가 필요하다는 것”이라고 그는 말했다.
Can They Do Good and Still Do Well? Local TV Stations and Communities’ Information Needs
Shorenstein Center
학술지에 정식 게재된 논문은 아니라 Harvard Kennedy School 산하 Shorenstein Center에서 발간한 Discussion Paper
지난 20년간 미국 지역 신문의 쇠퇴는 지역 뉴스 보도에 상당한 공백을 만들어냈으며, 그 결과는 단순히 지역 신문의 부재나 축소를 넘어선다. 그 영향은 심각하여 시민 참여 감소, 정부 책임성 저하, 사회적 결속 약화로 이어지고 있다.
지역 텔레비전 방송국을 대상으로 한 포괄적 조사에 기반해, 이 연구는 지역 TV 뉴스 매체들이 신문 쇠퇴로 생긴 정보 격차를 메우는 데 더 실질적인 역할을 담당할 수 있는지 조사했다. 연구 결과 그들이 그럴 수 있다는 것을 시사한다. 하지만 그들은 뿌리깊은 편집 관행과 빠듯한 예산을 포함한 상당한 장벽에 직면하고 있으며, 후자는 특히 중소 규모 시장의 방송국들에게 어려운 과제다—바로 신문 약화로 가장 많은 영향을 받은 지역들이다.
지역 텔레비전 방송국들은 전통적으로 속보, 날씨, 범죄에 광범위하게 집중해왔다. 이는 검증된 마케팅 전략이다. 하지만 이 연구의 결과는 이것이 시청자를 끌어들이는 유일한 방법이 아님을 보여준다. 지역 거버넌스와 지역사회 이슈에 집중하는 것이 타당한 대안일 뿐만 아니라 강력한 대안으로 부상하고 있다. 뉴스 콘텐츠를 지역 거버넌스와 지역사회 이슈에 집중하는 방송국들이 대부분의 방송국들보다 더 좋은 성과를 보이고 있다.
지역 TV 방송국들 사이에는 전통적 형태를 넘어 뉴스 제공을 다양화하는 추세가 있다. 뉴스 구성에 더 많은 기획, 지역사회, 탐사 저널리즘을 포함함으로써 방송국들은 지역사회 기여를 확대할 수 있다. 증거는 또한 그렇게 함으로써 경쟁 우위를 얻는다는 것을 보여준다.
시청자들이 뉴스를 위해 점점 온라인으로 이동함에 따라, 디지털 콘텐츠 확장은 단지 유리할 뿐만 아니라 지역 방송국들에게 필수적이다. 하지만 견고한 디지털 플랫폼으로의 전환은 상당한 자원 배분을 요구하며, 더 빠듯한 예산에 제약받는 TV 방송국들에게 주요 도전 과제를 제시한다. 이 영역에서의 상당한 투자 필요성은 절대적이다. 방송국들은 앞으로 몇 년을 대비해 자신들을 포지셔닝하기 위해 지금 선투자해야 한다.
자금과 인력의 지속적인 제한은 뉴스 보도 확장 노력을 복잡하게 만든다. 이러한 제약은 종종 뉴스팀들이 자원을 부족하게 활용하도록 강요하여, 그들이 제작하는 콘텐츠의 질과 깊이에 악영향을 미친다. 자금의 현저한 증가 없이는—대부분 소유주 그룹에 의해 제공되는 것이 가장 실현 가능하다—방송국들은 시청자를 구축하고 지역사회의 정보 필요에 기여할 잠재력에 미치지 못할 위험이 있다.
전반적으로, 미디어 환경이 계속 변화함에 따라 지역 TV 방송국들은 지역 신문의 감소하는 존재로 인해 생긴 뉴스 공백을 메우는 데 도움을 줄 좋은 위치에 있다. 거버넌스 및 지역사회 중심 보도를 포함하고 디지털 전환을 가속화하는 편집 전략을 수용함으로써, 이들 방송국은 양질의 지역 뉴스의 핵심 원천으로서의 지위를 강화할 수 있다.
Generative AI is learning to spy for the US military
MIT Technology Review
반네버는 AI 모델을 구축해 정보를 번역하고 위협을 탐지하며 정치적 여론을 분석하며, 결과는 ChatGPT와 유사한 채팅봇 인터페이스를 통해 제공됩니다. 이 목표는 고객에게 국제 펜타닐 공급망부터 필리핀에서 희토류 광물을 확보하려는 중국의 노력에 이르기까지 다양한 주제에 대한 중요한 정보를 제공하는 것입니다.
군사적 판단의 오류 가능성에 대한 우려도 역시나 제기되고 있는 중
How the U.S. Public and AI Experts View Artificial Intelligence
Pew Research
일반 대중에게 적합한 인터페이스가 아닐수 있다는 생각
미국 성인보다 AI가 개인적으로 유익하다고 생각하는 전문가의 비율이 더 높습니다. 설문조사에 참여한 전문가 중 훨씬 더 많은 수(76%)가 이러한 기술이 자신에게 해(15%)가 되기보다는 유익할 것이라고 생각합니다.
대중은 AI가 자신에게 도움이 될 것이라고 생각하는 비율(43%)이 도움이 될 것이라고 생각하는 비율(24%)보다 훨씬 높습니다. 하지만 3분의 1은 확신하지 못한다고 답했습니다.
OpenAI’s plan for chatbot ads
Axios
비슷한 시도에 대한 계획이 계속 이야기되지만, 아래 이야기하는 것과 같은 우려도 있다.
AI 제작자들은 유사한 전략을 사용할 유혹을 받을 것이며, 특히 이 기술이 사용자에게 설득력과 유대감을 형성할 수 있는 능력을 가지고 있다는 점에서 추가적인 위험이 발생할 수 있다.
판매원으로 변한 챗봇은 수익성이 높을 수도 있지만 동시에 성가실 수도 있다. 또한, 사용자와 친밀한 관계를 형성하는 AI가 스폰서 메시지를 몰래 삽입하거나, 광고비를 기준으로 사용자의 선택을 대신하는 AI 에이전트가 등장한다면, 이는 착취적인 방식이 될 수 있다.
RealPage라는 기업은 주거용 임대 시장에서 건물주에게 적절한 임대료를 추천해주는 서비스를 제공한다. 건물주는 자신의 임대가격, 점유율, 지역정보 등 여러 데이터를 기업에 제공하면, 기계 학습 모델 훈련을 통해 적정 가격을 제시해준다. 문제는 경쟁자의 데이터를 종합하여 가격을 추천하는 것이 시장의 자연스러운 가격경쟁을 방해한다는 것이다.
“오늘 RealPage에 대한 소장은 우리의 기업 집행 전략이 실제로 작동하고 있음을 보여줍니다. 우리는 개인이든 회사든 가장 심각한 위반자를 식별하고 그들에게 책임을 물리는 데 모든 힘을 집중합니다,” 라고 리사 모나코 법무부 차관이 말했습니다. “RealPage는 민감한 데이터를 인공지능이 구동하는 정교한 알고리즘에 입력함으로써 임대 주택 가격의 체계적인 조정을 통해 100년 된 법을 위반하는 현대적인 방법을 찾았으며, 이 과정에서 소비자를 위한 경쟁과 공정성을 훼손했습니다. 법을 위반하도록 기계를 훈련시키는 것도 여전히 법을 위반하는 것입니다. 오늘의 조치는 우리가 기술에 의해 촉진된 반경쟁적 행위에 대한 책임을 묻기 위해 모든 법적 도구를 사용할 것임을 분명히 합니다.”
다른 산업에서 이루어지는 벤치마킹과 인공지능 작동 방식이 유사하기에 법적으로 문제되는 부분이 있을 수 있다는 것이다. 인공지능이 비즈니스 의사결정에 도입될수록 기존의 법적 윤리적 기준을 재검토하고 수정해야할 일이 불가피해질 것이다.
AI | 2024 Stack Overflow Developer Survey
볼만한 이야기가 많지만 다른 사람과 계속 이야기했던 주제에서 언급된 부분. AI로 인해 직업에 위협이 될거라 생각하는 개발자는 10%가 조금 넘는 수준.
From Burnout to Balance: AI-Enhanced Work Models
업워크 연구소의 인공지능과 업무에 관한 보고서. 경영진은 AI도구 활용이 생산성 향상으로 이어질 것이라 기대하지만 직원의 절반은 고용주가 기대하는 생산성 향상법을 모르겠다 말하고, 77%는 오히려 생산성이 떨어지고 업무량이 증가했다고 답하기도 함.
개인적으로도 AI 활용하며 일할때 느끼는거지만, AI가 업무의 핵심적인 부분을 해결해주는 경우는 거의 없으며, 해결해주는 부분은 어찌보면 업무에 필요없는 장식(이지만 귀찮고 시간은 걸리던) 부분이다. 원래 업무에서 장식을 떼어낸다면 필요가 없을거 같은 느낌이랄까. 그리고 인공지능 모델이 한 번 이상하게 답변하기 시작하면 늪에 빠져 헤어나지 못하는 경우 시간이 더 들기도 한다.
업워크 연구소의 조사에 따르면 정규직 직원의 71%가 번아웃 상태에 있으며 65%는 고용주의 생산성 요구로 인해 어려움을 겪고 있다고 답했습니다. 한편, 글로벌 최고 경영진의 81%는 지난 1년 동안 직원에 대한 요구가 증가했다고 인정했습니다.¹
최고 경영진의 96%가 AI 도구를 사용하면 회사의 전반적인 생산성 수준이 향상될 것으로 기대한다고 답할 정도로 리더들은 제너레이티브 AI가 생산성 향상에 도움이 될 것이라는 높은 기대감을 가지고 있습니다. 이미 조사에 참여한 기업의 39%가 AI 도구 사용을 의무화하고 있으며, 추가로 46%는 사용을 권장하고 있습니다.
그러나 이 새로운 기술이 아직 생산성 향상이라는 약속을 완전히 이행하지는 못했습니다. AI를 사용하는 직원의 거의 절반(47%)이 고용주가 기대하는 생산성 향상을 달성하는 방법을 모른다고 답했으며, 77%는 이러한 도구가 오히려 생산성을 떨어뜨리고 업무량을 증가시켰다고 답했습니다.
구식 모델과 시스템에 새로운 기술을 도입함으로써 조직은 인력 전체에서 제너레이티브 AI의 생산성 가치를 충분히 활용하지 못하고 있습니다. 비즈니스 리더는 전통적인 접근 방식과 비전통적인 접근 방식의 균형을 유지하여 인재를 조직하고 업무를 처리하는 방식을 바꿔야 합니다. 여기에는 대체 인재 풀을 활용하고, 직원들과 함께 생산성 측정 기준을 만들고, 직무 설명이 아닌 기술 언어에 능숙해지는 것이 포함됩니다.