Mark Zuckerberg and Daniel Ek on Why Europe Should Embrace Open-Source AI: It Risks Falling Behind Because of Incoherent and Complex Regulation, Say the Two Tech CEOs
Spotify

마크 저커버그와 다니엘 에크가 유럽의 인공지능 규제의 문제에 대해 언급

EU의 일반 데이터 보호 규정(GDPR)의 불균형한 적용을 살펴보겠습니다. 이 획기적인 지침은 데이터의 사용과 흐름을 조화롭게 만들기 위한 것이었지만, 대신 EU 개인정보 보호 규제 기관들이 지연과 불확실성을 만들어내고 있으며 법률을 어떻게 적용해야 하는지에 대해 서로 합의하지 못하고 있습니다. 예를 들어, Meta는 Facebook과 Instagram에서 성인들이 공개적으로 공유한 콘텐츠로 모델을 훈련하는 것을 지연하라는 지시를 받았습니다. 이는 어떤 법률 위반 때문이 아니라 규제 기관들이 어떻게 진행해야 할지 합의하지 못했기 때문입니다. 단기적으로, 다른 지역에서 일상적으로 사용되는 데이터의 사용을 지연시키는 것은 가장 강력한 AI 모델들이 유럽의 집단 지식, 문화, 언어를 반영하지 못하게 만들며, 유럽인들은 최신 AI 제품을 사용하지 못하게 될 것입니다.

이러한 우려는 단순히 이론적인 것이 아닙니다. 현재의 규제 불확실성 때문에 Meta는 이미지를 이해할 수 있는 기능을 가진 Llama 멀티모달과 같은 향후 모델을 출시하지 못할 것입니다. 이는 유럽 조직들이 최신 오픈소스 기술에 접근할 수 없게 되고, 유럽 시민들은 다른 사람을 위해 만들어진 AI를 사용하게 될 것임을 의미합니다.

현실은 유럽의 주권과 경쟁력을 높이기 위해 설계된 법률들이 오히려 반대의 결과를 낳고 있다는 것입니다. 이는 우리 산업에만 국한된 것이 아닙니다: 다양한 산업 분야의 많은 유럽 최고 경영자들은 복잡하고 일관성 없는 규제 환경을 대륙의 경쟁력 부족의 한 이유로 지적하고 있습니다.

How Amazon Q automates software development with GenAI
LinkedIn

아마존 CEO 앤디 재시가 쓴 코딩 생산성 향상에 관한 이야기. 스택오버플로우 설문 결과에서 개발자가 생각하는 것보다는 실제 영향력이 크지 않을까 생각해보게 된다. 실제 체감에 간단한 작업은 너무 간편해졌다.

• 애플리케이션을 Java 17로 업그레이드하는 평균 시간이 일반적으로 50 개발자-일이 걸리던 것에서 단 몇 시간으로 급감했습니다. 우리는 이를 통해 약 4,500 개발자-년에 해당하는 작업량을 절약했다고 추정합니다 (네, 이 숫자는 믿기 힘들지만 실제입니다).
• 6개월도 안 되는 기간 동안, 우리는 일반적인 시간과 노력의 일부만으로 생산 환경의 Java 시스템 중 50% 이상을 최신 Java 버전으로 업그레이드할 수 있었습니다. 그리고 우리 개발자들은 자동 생성된 코드 리뷰의 79%를 추가 변경 없이 배포했습니다.
• 이러한 혜택은 개발자들의 노력을 절약한 것 이상으로 확장됩니다. 업그레이드를 통해 보안이 강화되고 인프라 비용이 감소되어, 연간 약 2억 6천만 달러의 효율성 이득이 있을 것으로 추정됩니다.

OpenAI announces SearchGPT, its AI-powered search engine
Verge

구글이나 퍼플렉시티 같은 경쟁자에 대응하기 위한 제품이라 생각. 내용 자체는 크게 관심가진 않지만 나중에는 인공지능 기술과 상관없이 생태계를 구축하는 기업이 주도하는 시장이 되지 않을까 싶다.

OpenAI의 블로그 게시물에 따르면, “SearchGPT는 검색에서 퍼블리셔를 눈에 띄게 인용하고 링크함으로써 사용자가 퍼블리셔와 연결될 수 있도록 설계되었습니다.”라고 설명합니다. “응답에는 명확한 인라인 어트리뷰션과 링크가 있어 사용자는 정보의 출처를 알 수 있고 소스 링크가 있는 사이드바에서 더 많은 결과를 빠르게 확인할 수 있습니다.”

How to Fix “AI’s Original Sin”
O’Reilly

생성형 인공지능 학습데이터의 권리와 귀속에 관한 오라일리의 글. 중앙집권적 시스템(OpenAI)을 떠올리지만, 이는 초기 온라인 정보 제공자(AOL, MS) 모델과 유사하며, 인공지능도 웹과 같은 아키텍처를 가지는 그림을 제시.

잠시 상상해보세요, AI가 월드 와이드 웹이나 리눅스와 같은 방식으로 작동하는 세상을. 기초 모델은 인간의 프롬프트를 이해하고 다양한 콘텐츠를 생성할 수 있습니다. 그러나 이들은 저작권 자료를 인식하고 이를 어떻게 다룰 수 있는지를 알고 있습니다. 중앙집중식 모델은 모든 것을 자유롭게 읽을 수 있는 것(세계 접근 권한)으로 훈련되어 있습니다. 다른 모델은 특정 그룹(회사나 조직, 사회, 국가 또는 언어 그룹 등)에 속한 콘텐츠를 기반으로 작동하며, 또 다른 모델은 개인의 고유한 콘텐츠를 기반으로 작동합니다.

이런 세상을 ChatGPT나 Claude 또는 대형 중앙집중식 모델 위에서 구축할 수도 있겠지만, 협력하는 소규모 분산 모델로 구축하는 것이 더 가능성이 큽니다. 웹이 AOL이나 마이크로소프트 네트워크 위에서 구축된 것이 아니라 협력하는 웹 서버들에 의해 구축된 것과 마찬가지입니다. 오픈 소스 AI 모델이 대형 중앙집중식 모델보다 더 위험하다고 들었지만, 그 혜택과 위험을 명확하게 평가하는 것이 중요합니다. 오픈 소스는 혁신뿐만 아니라 통제도 더 잘 가능하게 합니다. 콘텐츠 소유자가 AI 검색 제공자에게 자신의 저장소를 열어주되, 콘텐츠가 어떻게 다뤄지는지 그리고 특히 어떻게 수익화되는지에 대한 통제와 포렌식을 제공하는 오픈 프로토콜이 있다면 어떨까요?

유튜브의 콘텐츠ID를 언급하기도 한다. 그리고 자기네가 할 수 있다면 (이런 시스템을 구축하고자 하고 있음) 다른 사람들도 할 수 있다는 것을 알고 있다고 말한다.

The text file that runs the internet
Verge

Robot.txt에 관한 짧은 역사를 설명하는 더버지 기사

“Google은 우리에게 가장 중요한 스파이더입니다,”라고 Medium의 CEO Tony Stubblebine은 말합니다. Google은 Medium의 모든 페이지를 다운로드할 수 있으며, “그 대가로 우리는 상당한 트래픽을 얻습니다. 이것은 윈-윈입니다. 모두가 그렇게 생각합니다.” 이는 Google이 전체 인터넷과 맺은 거래로, 검색 결과에 광고를 판매하면서 다른 웹사이트로 트래픽을 유도하는 것입니다. 그리고 Google은 robots.txt의 좋은 시민이었습니다.

…… 하지만 지난 1년 동안, AI의 부상은 그 방정식을 뒤집었습니다. 많은 출판사와 플랫폼에게, 그들의 데이터를 학습 데이터로 크롤링하는 것은 거래가 아니라 도둑질처럼 느껴졌습니다. “우리가 AI 회사들과 꽤 빨리 알게 된 것은,”라고 Stubblebine은 말합니다, “이는 가치 교환이 아니라는 것이었습니다. 우리는 대가로 아무것도 받지 못하고 있습니다. 문자 그대로 제로입니다.” Stubblebine이 작년 가을 Medium이 AI 크롤러를 차단할 것이라고 발표했을 때, 그는 “AI 회사들이 작가들로부터 가치를 빼앗아 인터넷 독자들에게 스팸을 보내기 위해 사용했습니다,”라고 썼습니다.

Situational Awareness: AI from now to 2034

“상황 인식: 앞으로의 10년”은 이전 OpenAI의 Superalignment 팀 출신이며 현재 인공지능 일반(AI) 투자 회사를 설립한 레오폴드 아쉔브레너의 작품. Axios에 나온 10가지 요약

1. “트렌드라인을 신뢰하라… 트렌드라인은 강력하고, 옳았다.”
2. “해마다 회의론자들은 ‘딥 러닝이 X를 할 수 없다’고 주장해왔고, 그들은 빠르게 틀렸음이 입증되었습니다.”
3. 2027년까지 모델이 AI 연구자/엔지니어의 작업을 수행할 수 있을 가능성이 “놀라울 정도로 그럴듯합니다.”
4. “2027년까지, 챗봇 대신 동료처럼 보이는 에이전트를 가지게 될 것입니다.”
5. 데이터 벽: “우리는 인터넷 데이터가 부족해지고 있습니다. 이는 매우 조만간 더 많은 스크랩 데이터를 사용한 대규모 언어 모델의 사전 훈련 접근 방식이 심각한 병목 현상에 직면하게 될 수 있음을 의미합니다.”
6. “AI의 발전은 인간 수준에서 멈추지 않을 것입니다… 우리는 인간 수준에서 매우 초인적인 AI 시스템으로 빠르게 전환할 것입니다.”
7. AI 제품은 “미국의 대기업들에게 가장 큰 수익 동력이 되고, 그들의 가장 큰 성장 영역이 될 가능성이 큽니다. 이 회사들의 전체 수익 성장 예측은 급증할 것입니다.”
8. 인공지능 일반 연구에 대한 충분한 장벽을 세우지 못한 “오늘날의 실패는 곧 되돌릴 수 없게 될 것입니다: 향후 12-24개월 내에 우리는 중국 공산당에 주요 AGI 돌파구를 유출할 것입니다. 이는 이번 10년이 끝나기 전에 국가 안보 수립의 가장 큰 후회가 될 것입니다.”
9. 초지능은 “미국의 가장 중요한 국가 방위 프로젝트가 될 것입니다.”
10. “이 문제를 처리할 특공대는 없습니다. … 현재 상황을 이해하고 얼마나 미친 상황이 닥쳐올지 인식하는 사람은 전 세계적으로 수백 명에 불과합니다.”

얼마나 받아들일지는 개인마다 다르겠지만 2번과 5번은 큰 이견 없이 받아들일만하다.

Microsoft charged with EU antitrust violations for bundling Teams
Verge

슬랙이 제기했던 논리를 그대로 적용하면 일정 점유율을 넘어선 소프트웨어는 새로운 기능을 추가하는게 불가능한걸까? 워드프로세서에 포함된 맞춤법 검사기는 반독점 조사가 필요한게 아닐까? 엑셀에 포함된 차트 도구는 어떨까.

규제 차원에서 논의가되는 문제 중 하나는 결정이 늦다는 점이다. 2020년 7월이지만 지금은 2024년이다. 아마 국내 법안에서도 이런 부분에 대해 고민하고 있는 듯 하다.

EU 법률 제정자들은 지난해 Microsoft Teams 번들링에 대한 반독점 조사를 처음으로 시작했으며, 이는 2020년 7월 Slack이 제기한 반경쟁적인 불만에 따른 것입니다. Slack의 원래 불만은 Microsoft가 Office에 Microsoft Teams 제품을 “불법적으로 묶어” 수백만 명에게 강제로 설치하고, 제거를 막고, 기업 고객에게 실제 비용을 숨겼다고 주장했습니다.

The Supreme Court just kneecapped tech regulation
Axios

적절한 타이밍에 기술 기업을 규제하는 것이 가능할까. 미국에서도 쉐브론 원칙이라고 부르던 것이 축소되면서 기술 기업 규제에 어려움이 생길 것이라고 예상.

대법원의 이번 결정은 의회가 오랫동안 건강 관리, 환경, 통신과 같은 복잡한 기술 영역에 대한 규칙을 제정하는 데 사용해 온 규제 전략을 사실상 무산시켰습니다.

지난 40년간, “Chevron deference”로 알려진 대법원 원칙 하에서 의회는 목표와 계획을 설정하는 폭넓은 원칙을 작성하고, 복잡한 시행 세부 사항과 사례별 결정을 행정부의 전문가에게 맡길 수 있다고 가정해 왔습니다.

Chevron 원칙을 뒤집음으로써, 대법원은 의회가 미래를 예측하는 법을 작성해야 한다고 요구하고 있습니다. 입법자들은 더 이상 기본 규칙을 설정하고, 기관이 새로운 상황에 그 규칙을 적용하도록 할 수 없습니다. 이제는 점점 더 보수적인 법원이 기관들이 권한을 남용했는지 여부를 결정하게 될 것입니다.

이 규제 혁명은 미국 정부가 인공지능의 부상을 새로운 기술 플랫폼으로 인식하기 시작한 시점에 발생했습니다. Chevron 원칙의 종말은 인공지능의 위험에 대한 가드레일을 설정하려는 정부의 어떤 노력도 통과되고 집행되기 어렵게 만듭니다.

The E.U. Goes Too Far
Stratechery

유럽에서 신제품 기능을 출시하는것을 유보한 애플의 결정에 대한 코멘트 (기타 규제 사례도 참고)

유럽연합 집행위원회 부위원장 마그레테 베스타게르는 포럼 유럽에서 다음과 같이 말했다:

“우리가 경쟁을 촉진해야 하는 곳에서 AI를 배치하지 않겠다고 말하는 것은 매우 흥미롭다. 이것은 이미 강력한 위치에 있는 곳에서 경쟁을 무력화하는 또 다른 방법이라는 것을 100% 인식하는 가장 놀라운 공개 선언이다.”

이것은 전혀 말이 되지 않는다; Apple이 AI를 배치하지 않는 것은 사실 경쟁을 촉진시키는 것이며, 이는 Apple의 전화기가 그렇지 않은 경우보다 덜 완전하게 만들기 때문이다! 만약 그녀의 입장이 조금이라도 합리적이라면, 베스타게르는 승리의 축배를 들고 있어야 한다.

벤톰슨은 아무리 규제가 있다 하더라도 기존 빅테크는 유럽 시장에 머무를 가능성이 많지만 오히려 다른 기업이 시장에 진입하는 것은 더욱 어려워질 것이라고 보았다. 결국 유럽 소비자는 더 적은 기능과 혁신을 제공받게 될 것이라고 말한다.

Gen AI: too much spend, too little benefit?

인공지능에 향후 1조 달러 투자가 예정되어 있으나 노동 생산성이 얼마나 증가하게 될지는 자동화의 범위, 비용 효율성, 노동 재배치에 대한 가정 차이로 큰 차이를 보이며, 기술 혁신에 대해 부정하지는 않지만 장기적 관점에서 비용절감과 가격인하가 이루어져야 할 것이라고 본다.