The iOS Continental Drift Widens
Daring Fireball

오랜만에 보는 존 그루버의 글. 다른 글에서와 비슷하게 유럽의 플랫폼 규제 법안이 가져오는 효과는 의도와 다르게 될 것이라는 점을 이야기하고 있다. 브라우저 선택화면, 필수앱 삭제, 애플 인텔리전스와 화면공유 기능에 있어서 정책당국 의도와는 전혀 다른 효과가 나올 것이라 이야기한다. 예를 들면, 브라우저 선택화면으로 인해 가장 이익을 얻는 것은 크롬이 될 것이라든가, 기술적 이해가 높지 않은 이용자는 오히려 기존 잘 쓰던 브라우저 변경으로 인해 불편함을 겪게 될 것이라는 것이다. 하지만 가장 큰 효과는 아래 이야기하는 것처럼 유럽시장만 서비스 이용에서 제외될 것이라는 전망이다.

EC의 분명한 기대는 유럽 연합이 워낙 규모가 크고 전 세계에 필수적인 존재이기 때문에 애플이 DMA의 다른 대상인 ‘게이트키퍼’들과 함께 EC의 뜻에 따라 앞으로 DMA를 염두에 두고 제품과 서비스를 설계할 것이라는 것입니다. 스택의 모든 계층에서 통합보다 모듈화. EU 내부 시장 담당 위원인 티에리 브르통은 7월에 이렇게 말했습니다: “Apple의 새로운 슬로건은 ‘다르게 행동하라’가 되어야 합니다.”

하지만 EU는 그다지 크지도, 중요하지도 않습니다. 유럽 위원회는 거창한 망상에 사로잡혀 있습니다. 올해 애플 인텔리전스와 아이폰 화면 공유에서 일어난 일은 애플이 iOS와 통합하는 모든 새로운 제품이나 서비스에서 일어날 것으로 예상되는 일입니다: 애플은 EU에 늦게, 또는 아예 들어오지 않을 것입니다. 그리고 Apple이 만드는 모든 새로운 제품과 서비스는 iOS와 통합되므로 Apple의 거의 모든 새로운 제품이 EU에 늦게 출시되거나 아예 출시되지 않을 것입니다.

의도한 바는 아니지만 이것이 바로 DMA의 실제 효과입니다.

Why A.I. Isn’t Going to Make Art
New Yorker

예술의 정의가 예술가마다 다를 수 있기에 인공지능이 예술을 만들지 못하는 이유에 대해 누군가는 공감하고 누군가는 공감하지 못할 것 같다. 카메라는 의도가 없지만 카메라로 무언가를 만들어내는 사람들이 많지 않은가?

예술은 정의하기 악명높게 어렵고, 좋은 예술과 나쁜 예술의 차이도 마찬가지입니다. 하지만 제가 일반화를 해보자면: 예술은 많은 선택의 결과물입니다. 이는 소설 쓰기를 예로 들면 가장 쉽게 설명할 수 있습니다. 소설을 쓸 때, 여러분은 – 의식적으로든 무의식적으로든 – 타이핑하는 거의 모든 단어에 대해 선택을 합니다. 단순화해서 말하자면, 만 단어짜리 단편 소설은 대략 만 개의 선택을 필요로 한다고 상상할 수 있습니다. 생성 AI 프로그램에 프롬프트를 줄 때, 여러분은 아주 적은 선택만을 하는 것입니다; 백 단어짜리 프롬프트를 제공한다면, 여러분은 대략 백 개의 선택만을 한 것입니다.

[……] 언어는 정의상 의사소통 체계이며, 소통하려는 의도를 필요로 합니다. 여러분의 휴대폰 자동 완성 기능이 좋은 제안을 하든 나쁜 제안을 하든, 어느 경우에도 그것은 여러분이나 여러분이 문자를 보내는 상대방에게 뭔가를 말하려고 하는 것이 아닙니다. ChatGPT가 일관된 문장을 생성할 수 있다는 사실은 우리로 하여금 그것이 여러분의 휴대폰 자동 완성과는 다른 방식으로 언어를 이해한다고 상상하게 만들지만, 그것은 소통하려는 의도가 전혀 없습니다

Is Competition Only One Click Away? The Digital Markets Act Impact on Google Maps
CESifo Working Paper No. 11226

페이퍼에서 이야기하고 있는 내용에 따르면 결국 이용자의 혜택만 감소하게 된 것으로 보인다. 서비스 이용에서 마찰이 증가하고 불편함을 느끼는 이용자가 증가했다고 예상해볼 수 있는 결과.

이 백서에서는 유럽연합(EU)에서의 Google 검색 결과 표시 변경에 초점을 맞춰 디지털 시장법(DMA)이 소비자 행동에 미치는 영향을 조사합니다. 특히 2024년 1월에 시행된 Google의 검색 결과에서 클릭 가능한 지도 제거의 영향을 조사합니다. 이 변경으로 인해 사용자는 Google 지도 또는 대체 매핑 서비스에 액세스하기 위해 추가 검색을 수행해야 하므로 검색 비용이 증가합니다. 차이점 접근법을 사용하여 DMA 시행 전후의 EU 국가와 비 EU 국가의 Google 검색량을 비교했습니다. Google 검색 사용자가 클릭 한 번으로 이용할 수 있는 Google 지도의 이점이 사라짐에 따라 EU 소비자들이 온라인 지도 서비스를 훨씬 더 많이 검색하는 것으로 나타났습니다. 지도 및 구글 지도라는 검색어에 대한 Google 검색량이 25% 및 18% 증가하여 6개월 동안 각각 34,407,000건 및 8,901,000건이 초과 검색된 것으로 측정되었습니다. 이러한 검색 증가는 대체 지도 서비스에 대한 잠재적 노출 가능성을 시사합니다. 그러나 애플 맵이나 빙 맵과 같은 서비스에 대한 검색도 증가했지만 그다지 큰 폭으로 증가하지는 않았습니다. 또한 트래픽 데이터에 따르면 Google 지도 방문이 크게 감소하지 않은 것으로 나타나 대체 서비스로의 이동이 미미한 것으로 나타났습니다. 이러한 결과는 Google의 원클릭 이점을 제거해도 단기적으로 대체 매핑 서비스의 검색이나 채택이 크게 증가하지 않고 사용자의 검색 비용이 증가할 수 있음을 나타냅니다.

How Local Governments Got Hooked on One Company’s Janky Software
Bloomberg

미국 지방 정부 소프트웨어를 거의 독점하다시피 하는 타일러 테크에 관한 기사. 모두가 그 소프트웨어가 형편없다는 데 동의하지만 선택의 여지가 없나보다. 정부라는 조직이 크고 복잡하고 느리기 때문에 소프트웨어를 만드는 기업의 어려움도 있을거라고 생각은 하지만… 국내를 봐도 작은 분야를 독점하고 있는 솔루션 기업이라든지, 정부 과제라는 이유로 말도 안 되는 결과물을 던져놓는 사례가 너무 많으니…

정중하게 말하자면, 타일러의 98%라는 엄청난 고객 유지율이 순전히 제품 만족도 때문일 가능성은 매우 낮습니다. 공급업체에 대한 고정관념도 분명히 존재합니다. 고객들 사이에서 흔히 하는 말은 자신들이 너무 깊이 빠져서 물러설 수 없다고 느낀다는 것입니다. 수년과 수백만 달러를 위험한 구현에 투자한 후, 덜 알려진 대안으로 다시 할 여유가 있을까요? 법정 기록 소프트웨어와 관련하여 Needham & Co. 의 연구 분석가 조쉬 라일리는 타일러가 거의 독점적이며 경쟁업체 중 하나의 웹사이트를 찾는 것조차 어렵다고 말합니다.

Workplace AI in China

인공지능 때문인지 원래 중국의 996 문화때문인지 불분명하지만 요약 파트를 보면 노동자를 착취하는 방향으로 활용되는 것으로 보인다.

중국 직장에서의 인공지능(AI) 통합은 주로 시장 세력과 경쟁에 의해 주도되며, 이는 노동자들보다 기업의 이익을 우선시합니다. 그 결과, 직장에서의 권력 균형은 데이터를 통제하고 알고리즘을 관리하는 고용주 쪽으로 더욱 기울어지며, 노동자들은 협상력이 약화되고 착취에 대한 취약성이 증가합니다.

AI가 직장에서의 효율성을 높이는 역할을 하고 있음에도 불구하고, 이는 중국 노동자들의 직업 질을 향상시키지 못했습니다. AI 솔루션은 종종 유급 및 무급 노동 착취를 극대화하기 위해 설계되며, 이로 인해 노동 조건이 악화되고 직업 불안정성이 증가하는 경향이 있습니다.

중국 노동자들은 AI 도구로 인해 더 많은 작업량과 스트레스를 겪고 있다고 보고합니다. 인간 감독자의 기대와 알고리즘 지표를 모두 충족해야 하는 압박은 종종 장시간 근무와 더 강도 높은 작업으로 이어지며, 이는 장기적으로 직원들의 성과 평가에 영향을 미칠 수 있습니다.

중국 직장에서 AI의 급속한 도입은 노동자들이 적응할 수 있는 능력을 초과하여, 그들에게 빠르게 새로운 기술을 습득할 것을 요구하며, 따라잡지 못하는 사람들은 일자리를 잃을 위험에 처하게 합니다.

부품 제조나 원자재 가공과 같은 낮은 부가가치 산업에 속한 소규모이거나 경쟁력이 낮은 중국 기업들은 더 좁은 이익 마진으로 인해 인력 관리에서 AI 솔루션을 더 공격적으로 사용하는 경향이 있으며, 이는 저숙련 일자리에 불균형적으로 영향을 미칩니다.

기업들의 AI 역량 차이는 글로벌 가치 사슬에서 노동 관행을 양극화하고 있습니다. AI의 도입으로 인해, 자원이 제한적이고 경쟁 압박을 받는 기업들은 AI를 효과적이고 윤리적으로 사용할 동기가 부족하고 역량이 부족하기 때문에, 글로벌 남반구의 노동자들은 더 높은 착취 위험에 직면하고 있습니다.

Generative AI Can Harm Learning

와튼스쿨에서 한 연구결과. 학습에 생성 인공지능 활용시 성과 향상을 가져오지만, 이러한 접근이 제거되었을 때 접근해보지 못한 학생에 비해 더 나쁜 성적을 보였다는 연구 결과. 즉 스스로 수행하는 능력이 더 나빠진다는 것을 시사한다. 후방카메라 있던 차를 운전하다 후방카메라가 없어지면 주차하기 어려운 것과 같다

생성형 인공지능(AI)은 인간의 업무 방식을 혁신할 준비가 되어 있으며, 이미 인간의 생산성을 크게 향상시킬 수 있음을 입증했습니다. 그러나 남아있는 중요한 질문은 생성형 AI가 학습, 즉 인간이 작업을 수행하면서 새로운 기술을 습득하는 방식에 어떤 영향을 미치는가입니다. 이러한 기술 학습은 특히 생성형 AI가 오류를 범할 수 있고 인간 전문가가 그 결과를 확인해야 하는 영역에서 장기적인 생산성 향상에 중요합니다. 우리는 고등학교 수학 수업 맥락에서 생성형 AI, 특히 OpenAI의 GPT-4가 인간의 학습에 미치는 영향을 연구했습니다.

거의 천 명의 학생들이 참여한 현장 실험에서, 우리는 표준 ChatGPT 인터페이스를 모방한 튜터(GPT Base라고 함)와 학습을 보호하도록 설계된 프롬프트가 있는 튜터(GPT Tutor라고 함) 두 가지 GPT 기반 튜터를 배포하고 평가했습니다. 이 튜터들은 3개 학년 각각의 커리큘럼 중 약 15%를 차지합니다. 이전 연구와 일치하게, 우리의 결과는 GPT-4에 대한 접근이 성과를 크게 향상시킨다는 것을 보여줍니다(GPT Base의 경우 48% 향상, GPT Tutor의 경우 127% 향상).

그러나 우리는 추가로 접근이 이후에 제거되었을 때, 학생들이 실제로 접근 권한이 전혀 없었던 학생들보다 더 나쁜 성과를 보인다는 것을 발견했습니다(GPT Base의 경우 17% 감소). 즉, GPT-4에 대한 접근이 교육 결과에 해를 끼칠 수 있습니다. 이러한 부정적인 학습 효과는 GPT Tutor에 포함된 안전장치에 의해 크게 완화됩니다.

우리의 결과는 학생들이 연습 문제 세션 동안 GPT-4를 “지팡이”로 사용하려고 시도하며, 성공했을 때 스스로 수행하는 능력이 더 나빠진다는 것을 시사합니다. 따라서 장기적인 생산성을 유지하기 위해서는 인간이 계속해서 중요한 기술을 학습할 수 있도록 생성형 AI를 배포할 때 주의해야 합니다. *HB, OB, AS가 동등하게 기여함

키워드: 생성형 AI, 인적 자본 개발, 교육, 인간-AI 협력, 대규모 언어 모델

Google makes your Pixel screenshots searchable with Recall-like AI feature
The Verge

인공지능을 어떤 방식으로 제품화하는지가 더 중요할 수 있는데 스마트 스크린샷을 보면 그런게 아닐지. 마이크로소프트의 리콜과 유사해보이지만 검색 범위를 스크린샷으로 제한했다. 구글 트윗 글처럼 내 폰 안에도 수많은 스크린샷이 잠자고 있는지도.

Mark Zuckerberg and Daniel Ek on Why Europe Should Embrace Open-Source AI: It Risks Falling Behind Because of Incoherent and Complex Regulation, Say the Two Tech CEOs
Spotify

마크 저커버그와 다니엘 에크가 유럽의 인공지능 규제의 문제에 대해 언급

EU의 일반 데이터 보호 규정(GDPR)의 불균형한 적용을 살펴보겠습니다. 이 획기적인 지침은 데이터의 사용과 흐름을 조화롭게 만들기 위한 것이었지만, 대신 EU 개인정보 보호 규제 기관들이 지연과 불확실성을 만들어내고 있으며 법률을 어떻게 적용해야 하는지에 대해 서로 합의하지 못하고 있습니다. 예를 들어, Meta는 Facebook과 Instagram에서 성인들이 공개적으로 공유한 콘텐츠로 모델을 훈련하는 것을 지연하라는 지시를 받았습니다. 이는 어떤 법률 위반 때문이 아니라 규제 기관들이 어떻게 진행해야 할지 합의하지 못했기 때문입니다. 단기적으로, 다른 지역에서 일상적으로 사용되는 데이터의 사용을 지연시키는 것은 가장 강력한 AI 모델들이 유럽의 집단 지식, 문화, 언어를 반영하지 못하게 만들며, 유럽인들은 최신 AI 제품을 사용하지 못하게 될 것입니다.

이러한 우려는 단순히 이론적인 것이 아닙니다. 현재의 규제 불확실성 때문에 Meta는 이미지를 이해할 수 있는 기능을 가진 Llama 멀티모달과 같은 향후 모델을 출시하지 못할 것입니다. 이는 유럽 조직들이 최신 오픈소스 기술에 접근할 수 없게 되고, 유럽 시민들은 다른 사람을 위해 만들어진 AI를 사용하게 될 것임을 의미합니다.

현실은 유럽의 주권과 경쟁력을 높이기 위해 설계된 법률들이 오히려 반대의 결과를 낳고 있다는 것입니다. 이는 우리 산업에만 국한된 것이 아닙니다: 다양한 산업 분야의 많은 유럽 최고 경영자들은 복잡하고 일관성 없는 규제 환경을 대륙의 경쟁력 부족의 한 이유로 지적하고 있습니다.

How Amazon Q automates software development with GenAI
LinkedIn

아마존 CEO 앤디 재시가 쓴 코딩 생산성 향상에 관한 이야기. 스택오버플로우 설문 결과에서 개발자가 생각하는 것보다는 실제 영향력이 크지 않을까 생각해보게 된다. 실제 체감에 간단한 작업은 너무 간편해졌다.

• 애플리케이션을 Java 17로 업그레이드하는 평균 시간이 일반적으로 50 개발자-일이 걸리던 것에서 단 몇 시간으로 급감했습니다. 우리는 이를 통해 약 4,500 개발자-년에 해당하는 작업량을 절약했다고 추정합니다 (네, 이 숫자는 믿기 힘들지만 실제입니다).
• 6개월도 안 되는 기간 동안, 우리는 일반적인 시간과 노력의 일부만으로 생산 환경의 Java 시스템 중 50% 이상을 최신 Java 버전으로 업그레이드할 수 있었습니다. 그리고 우리 개발자들은 자동 생성된 코드 리뷰의 79%를 추가 변경 없이 배포했습니다.
• 이러한 혜택은 개발자들의 노력을 절약한 것 이상으로 확장됩니다. 업그레이드를 통해 보안이 강화되고 인프라 비용이 감소되어, 연간 약 2억 6천만 달러의 효율성 이득이 있을 것으로 추정됩니다.

OpenAI announces SearchGPT, its AI-powered search engine
Verge

구글이나 퍼플렉시티 같은 경쟁자에 대응하기 위한 제품이라 생각. 내용 자체는 크게 관심가진 않지만 나중에는 인공지능 기술과 상관없이 생태계를 구축하는 기업이 주도하는 시장이 되지 않을까 싶다.

OpenAI의 블로그 게시물에 따르면, “SearchGPT는 검색에서 퍼블리셔를 눈에 띄게 인용하고 링크함으로써 사용자가 퍼블리셔와 연결될 수 있도록 설계되었습니다.”라고 설명합니다. “응답에는 명확한 인라인 어트리뷰션과 링크가 있어 사용자는 정보의 출처를 알 수 있고 소스 링크가 있는 사이드바에서 더 많은 결과를 빠르게 확인할 수 있습니다.”