Why A.I. Isn’t Going to Make Art
New Yorker

예술의 정의가 예술가마다 다를 수 있기에 인공지능이 예술을 만들지 못하는 이유에 대해 누군가는 공감하고 누군가는 공감하지 못할 것 같다. 카메라는 의도가 없지만 카메라로 무언가를 만들어내는 사람들이 많지 않은가?

예술은 정의하기 악명높게 어렵고, 좋은 예술과 나쁜 예술의 차이도 마찬가지입니다. 하지만 제가 일반화를 해보자면: 예술은 많은 선택의 결과물입니다. 이는 소설 쓰기를 예로 들면 가장 쉽게 설명할 수 있습니다. 소설을 쓸 때, 여러분은 – 의식적으로든 무의식적으로든 – 타이핑하는 거의 모든 단어에 대해 선택을 합니다. 단순화해서 말하자면, 만 단어짜리 단편 소설은 대략 만 개의 선택을 필요로 한다고 상상할 수 있습니다. 생성 AI 프로그램에 프롬프트를 줄 때, 여러분은 아주 적은 선택만을 하는 것입니다; 백 단어짜리 프롬프트를 제공한다면, 여러분은 대략 백 개의 선택만을 한 것입니다.

[……] 언어는 정의상 의사소통 체계이며, 소통하려는 의도를 필요로 합니다. 여러분의 휴대폰 자동 완성 기능이 좋은 제안을 하든 나쁜 제안을 하든, 어느 경우에도 그것은 여러분이나 여러분이 문자를 보내는 상대방에게 뭔가를 말하려고 하는 것이 아닙니다. ChatGPT가 일관된 문장을 생성할 수 있다는 사실은 우리로 하여금 그것이 여러분의 휴대폰 자동 완성과는 다른 방식으로 언어를 이해한다고 상상하게 만들지만, 그것은 소통하려는 의도가 전혀 없습니다

How Local Governments Got Hooked on One Company’s Janky Software
Bloomberg

미국 지방 정부 소프트웨어를 거의 독점하다시피 하는 타일러 테크에 관한 기사. 모두가 그 소프트웨어가 형편없다는 데 동의하지만 선택의 여지가 없나보다. 정부라는 조직이 크고 복잡하고 느리기 때문에 소프트웨어를 만드는 기업의 어려움도 있을거라고 생각은 하지만… 국내를 봐도 작은 분야를 독점하고 있는 솔루션 기업이라든지, 정부 과제라는 이유로 말도 안 되는 결과물을 던져놓는 사례가 너무 많으니…

정중하게 말하자면, 타일러의 98%라는 엄청난 고객 유지율이 순전히 제품 만족도 때문일 가능성은 매우 낮습니다. 공급업체에 대한 고정관념도 분명히 존재합니다. 고객들 사이에서 흔히 하는 말은 자신들이 너무 깊이 빠져서 물러설 수 없다고 느낀다는 것입니다. 수년과 수백만 달러를 위험한 구현에 투자한 후, 덜 알려진 대안으로 다시 할 여유가 있을까요? 법정 기록 소프트웨어와 관련하여 Needham & Co. 의 연구 분석가 조쉬 라일리는 타일러가 거의 독점적이며 경쟁업체 중 하나의 웹사이트를 찾는 것조차 어렵다고 말합니다.

Top companies ground Microsoft Copilot over data governance concerns
The Register

Copilot 같은 LLM이 조직에 적용될 때 발생할 수 있는 문제에 관해 언급. 접근권한이 없는 사람에게도 정보가 노출될 수 있어 적용에 문제가 발생.

“특히 SharePoint나 Office 365 또는 이와 유사한 복잡한 권한 설정이 있는 대기업들의 경우, Copilot들이 기본적으로 사람들이 기술적으로는 접근할 수 있지만 접근해서는 안 되는 정보를 적극적으로 요약하고 있습니다,” 그가 설명했습니다.

Berkowitz는 예를 들어 급여 정보가 Copilot 서비스에 의해 포착될 수 있다고 말했습니다.

“처음부터 완전히 깨끗한 Microsoft 환경을 설정했다면 이 문제가 완화될 수 있겠죠,” 그가 우리에게 말했습니다. “하지만 그런 환경을 가진 곳은 없습니다. 특히 정말 큰 회사들은 시간이 지나면서 이런 시스템들을 구현해 왔죠. 그래서 상충되는 권한이나 데이터 접근 권한이 생기게 됩니다.”

[…] AI 소프트웨어에는 특정한 보안 우려가 있지만, Berkowitz는 그가 듣고 있는 문제들이 내부 직원들이 접근해서는 안 되는 정보에 접근하는 것과 더 관련이 있다고 말했습니다. (이는 우리가 이전에 Copilot에 대해 들었던 불만입니다.)

15년 전 Google이 기업 문서를 색인화하고 직원들이 이용할 수 있게 만드는 Search Appliance를 도입했을 때의 IT 보안 과제와 비슷한 상황인지 묻자, Berkowitz는 “정확히 그렇습니다”라고 답했습니다.

The iOS Continental Drift Widens
Daring Fireball

오랜만에 보는 존 그루버의 글. 다른 글에서와 비슷하게 유럽의 플랫폼 규제 법안이 가져오는 효과는 의도와 다르게 될 것이라는 점을 이야기하고 있다. 브라우저 선택화면, 필수앱 삭제, 애플 인텔리전스와 화면공유 기능에 있어서 정책당국 의도와는 전혀 다른 효과가 나올 것이라 이야기한다. 예를 들면, 브라우저 선택화면으로 인해 가장 이익을 얻는 것은 크롬이 될 것이라든가, 기술적 이해가 높지 않은 이용자는 오히려 기존 잘 쓰던 브라우저 변경으로 인해 불편함을 겪게 될 것이라는 것이다. 하지만 가장 큰 효과는 아래 이야기하는 것처럼 유럽시장만 서비스 이용에서 제외될 것이라는 전망이다.

EC의 분명한 기대는 유럽 연합이 워낙 규모가 크고 전 세계에 필수적인 존재이기 때문에 애플이 DMA의 다른 대상인 ‘게이트키퍼’들과 함께 EC의 뜻에 따라 앞으로 DMA를 염두에 두고 제품과 서비스를 설계할 것이라는 것입니다. 스택의 모든 계층에서 통합보다 모듈화. EU 내부 시장 담당 위원인 티에리 브르통은 7월에 이렇게 말했습니다: “Apple의 새로운 슬로건은 ‘다르게 행동하라’가 되어야 합니다.”

하지만 EU는 그다지 크지도, 중요하지도 않습니다. 유럽 위원회는 거창한 망상에 사로잡혀 있습니다. 올해 애플 인텔리전스와 아이폰 화면 공유에서 일어난 일은 애플이 iOS와 통합하는 모든 새로운 제품이나 서비스에서 일어날 것으로 예상되는 일입니다: 애플은 EU에 늦게, 또는 아예 들어오지 않을 것입니다. 그리고 Apple이 만드는 모든 새로운 제품과 서비스는 iOS와 통합되므로 Apple의 거의 모든 새로운 제품이 EU에 늦게 출시되거나 아예 출시되지 않을 것입니다.

의도한 바는 아니지만 이것이 바로 DMA의 실제 효과입니다.

Mark Zuckerberg and Daniel Ek on Why Europe Should Embrace Open-Source AI: It Risks Falling Behind Because of Incoherent and Complex Regulation, Say the Two Tech CEOs
Spotify

마크 저커버그와 다니엘 에크가 유럽의 인공지능 규제의 문제에 대해 언급

EU의 일반 데이터 보호 규정(GDPR)의 불균형한 적용을 살펴보겠습니다. 이 획기적인 지침은 데이터의 사용과 흐름을 조화롭게 만들기 위한 것이었지만, 대신 EU 개인정보 보호 규제 기관들이 지연과 불확실성을 만들어내고 있으며 법률을 어떻게 적용해야 하는지에 대해 서로 합의하지 못하고 있습니다. 예를 들어, Meta는 Facebook과 Instagram에서 성인들이 공개적으로 공유한 콘텐츠로 모델을 훈련하는 것을 지연하라는 지시를 받았습니다. 이는 어떤 법률 위반 때문이 아니라 규제 기관들이 어떻게 진행해야 할지 합의하지 못했기 때문입니다. 단기적으로, 다른 지역에서 일상적으로 사용되는 데이터의 사용을 지연시키는 것은 가장 강력한 AI 모델들이 유럽의 집단 지식, 문화, 언어를 반영하지 못하게 만들며, 유럽인들은 최신 AI 제품을 사용하지 못하게 될 것입니다.

이러한 우려는 단순히 이론적인 것이 아닙니다. 현재의 규제 불확실성 때문에 Meta는 이미지를 이해할 수 있는 기능을 가진 Llama 멀티모달과 같은 향후 모델을 출시하지 못할 것입니다. 이는 유럽 조직들이 최신 오픈소스 기술에 접근할 수 없게 되고, 유럽 시민들은 다른 사람을 위해 만들어진 AI를 사용하게 될 것임을 의미합니다.

현실은 유럽의 주권과 경쟁력을 높이기 위해 설계된 법률들이 오히려 반대의 결과를 낳고 있다는 것입니다. 이는 우리 산업에만 국한된 것이 아닙니다: 다양한 산업 분야의 많은 유럽 최고 경영자들은 복잡하고 일관성 없는 규제 환경을 대륙의 경쟁력 부족의 한 이유로 지적하고 있습니다.

How Amazon Q automates software development with GenAI
LinkedIn

아마존 CEO 앤디 재시가 쓴 코딩 생산성 향상에 관한 이야기. 스택오버플로우 설문 결과에서 개발자가 생각하는 것보다는 실제 영향력이 크지 않을까 생각해보게 된다. 실제 체감에 간단한 작업은 너무 간편해졌다.

• 애플리케이션을 Java 17로 업그레이드하는 평균 시간이 일반적으로 50 개발자-일이 걸리던 것에서 단 몇 시간으로 급감했습니다. 우리는 이를 통해 약 4,500 개발자-년에 해당하는 작업량을 절약했다고 추정합니다 (네, 이 숫자는 믿기 힘들지만 실제입니다).
• 6개월도 안 되는 기간 동안, 우리는 일반적인 시간과 노력의 일부만으로 생산 환경의 Java 시스템 중 50% 이상을 최신 Java 버전으로 업그레이드할 수 있었습니다. 그리고 우리 개발자들은 자동 생성된 코드 리뷰의 79%를 추가 변경 없이 배포했습니다.
• 이러한 혜택은 개발자들의 노력을 절약한 것 이상으로 확장됩니다. 업그레이드를 통해 보안이 강화되고 인프라 비용이 감소되어, 연간 약 2억 6천만 달러의 효율성 이득이 있을 것으로 추정됩니다.