The Value of De Minimis Imports
NBER Working paper, Pablo D. Fajgelbaum & Amit Khandelwal

테무나 쉐인같은 커머스 사이트를 통한 직구가 증가하면서 국내에서도 비슷한 논의가 있었는데 미국에서 이와 관련된 면세제도가 가지는 효과에 대해 연구가 나왔다.

미국 소비자는 관세와 행정 수수료 없이 하루에 800달러 상당의 상품을 수입할 수 있습니다. 소비자 직거래의 증가에 힘입어 최근 몇 년 동안 이러한 “최소” 배송은 폭발적으로 증가했지만 인구조사 무역 데이터에는 기록되지 않습니다. 이러한 유형의 무역으로 혜택을 보는 사람은 누구이며, 정책적 시사점은 무엇일까요? 3개 글로벌 운송업체와 미국 관세국경보호청의 최소 배송을 포함한 국제 배송 데이터를 분석합니다. 저소득층 우편번호일수록 특히 중국으로부터 최소 배송을 수입할 가능성이 높았으며, 이는 소비자 직거래에서 발생하는 관세 및 관리 수수료가 빈곤층에게 불균형적으로 혜택을 준다는 것을 시사합니다. 이론적으로 임계치 이상의 관세를 부과하면 선형 관세가 완전히 통과되는 환경에서도 번칭을 통해 거래 조건의 이득을 얻을 수 있습니다. 경험적으로 번칭은 직접 배송에 대한 수요 탄력성을 떨어뜨립니다. 321조를 폐지하면 총 후생이 109억~130억 달러 감소하고 저소득층과 소수 민족 소비자에게 불균형적인 피해를 입힐 수 있습니다.

Welcome to STATE OF AI REPORT 2024.
Air Street

테크니컬한 내용 위주라 그냥 전체 요약 내용만

2024년 보고서의 주요 내용:

• 최첨단 연구소 성능의 수렴: 최첨단 연구소의 성능이 수렴하면서 독점 모델의 우위가 사라지고 있으며, GPT-4와 다른 모델 간의 격차가 좁혀지고 있습니다. OpenAI의 o1은 연구소를 다시 최상위로 올려놓았지만, 그 위치가 얼마나 지속될지는 불확실합니다.
• 계획 및 추론의 우선순위: LLM(대규모 언어 모델) 연구에서 계획 및 추론이 중요한 과제로 떠올랐습니다. 기업들은 강화 학습, 진화 알고리즘, 자기 개선(Self-improvement)과 LLM을 결합하여 미래의 자율 에이전트 애플리케이션을 개발하는 방법을 모색하고 있습니다.
• 기초 모델의 다분야 확장: 기초 모델(Foundation Models)은 언어를 넘어 수학, 생물학, 유전체학, 물리학 및 신경과학 등 다양한 분야에서 다중 모달(multimodal) 연구를 지원하는 능력을 입증하고 있습니다.
• 미국 제재의 제한적 영향: 미국의 제재는 중국 연구소가 강력한 (V)LLM(초거대 언어 모델)을 생산하는 데 제한적인 영향을 미쳤습니다. 재고, 승인된 하드웨어, 밀수 및 클라우드 액세스의 조합으로 인해 중국 연구소는 고성능 모델을 구축할 수 있었습니다. 그러나 중국의 반도체 산업 육성 노력은 여전히 혼란스러운 상태입니다.
• AI 기업의 기업 가치 상승: AI 기업의 기업 가치는 9조 달러에 도달했으며, 상장 기업은 AI 노출로 인해 강세장을 경험하고 있습니다. 비상장 AI 기업에 대한 투자는 증가했지만, 미국 내 대규모 GenAI(생성형 AI) 투자 라운드에도 불구하고 그 규모는 상대적으로 적었습니다.
• 수익을 창출하는 AI 기업의 등장: 기초 모델 개발자 및 비디오 및 오디오 생성에 집중하는 스타트업 등 일부 AI 기업은 본격적으로 수익을 창출하기 시작했습니다. 그러나 기업들이 시장 점유율을 확보하기 위해 모델 가격을 낮추는 과정에서 장기적인 지속 가능성에 대한 의문이 제기되고 있습니다.
• 의사 인수(pseudo-acquisition)의 등장: 일부 AI 기업은 최첨단 기술을 유지하는 데 비용이 많이 들기 때문에, 지속 가능한 비즈니스 모델을 찾지 못해 의사 인수를 통해 사업을 정리하는 방안을 모색하고 있습니다.
• 실존적 위험 담론의 완화: OpenAI의 쿠데타 시도 실패 이후, AI의 실존적 위험에 대한 논의는 다소 완화되었습니다. 그러나 연구자들은 여전히 모델의 잠재적 취약점과 오용 가능성에 대한 연구를 심화하고 있으며, 잠재적 수정 및 안전장치를 제안하고 있습니다.

The future of European competitiveness

최근에 플랫폼 규제 관련 내용을 보다보니 어쩌다 이런 보고서까지 보게 되었는데… 유럽 자체적으로도 경쟁력 약화에 대해 인지하고 이를 이야기하는 목소리도 있다는 것이다. 내용은 길어서 링크만 남기고 아래는 GPT 요약

1. 혁신 격차 해소: 유럽은 미국과 중국에 비해 기술 및 디지털 혁신에서 뒤처져 있습니다. 특히 AI, 클라우드 컴퓨팅, 양자 컴퓨팅 같은 첨단 기술 분야에서의 투자와 기술 개발이 부족합니다. 이를 해결하기 위해 유럽 내에서 혁신을 촉진하고, 기업이 새로운 기술을 상용화할 수 있는 생태계를 조성하는 것이 필요합니다. 이는 새로운 고용과 경제 성장을 이끌어낼 것입니다.
2. 탈탄소화와 경쟁력 계획: 에너지 비용이 높고 자원 의존성이 큰 유럽은 탄소 중립을 달성하기 위한 일관된 전략이 필요합니다. 청정 에너지 전환을 통해 에너지 비용을 낮추고, 청정 기술 분야에서 글로벌 리더로 자리매김하기 위한 지원이 요구됩니다. 이를 위해 EU 내 에너지 및 자원 시장의 통합이 중요한 요소로 지목됩니다.
3. 안보 강화 및 의존성 감소: 보고서는 글로벌 공급망과 무역에 대한 의존이 유럽의 안보에 위협이 될 수 있다고 경고합니다. 특히 핵심 원자재와 디지털 기술 부문에서 자급자족을 강화하고, 특정 국가 의존을 줄이기 위한 외교 경제 정책이 필요하다고 강조합니다.
4. 투자와 재정 자원 마련: 이러한 변화를 지원하기 위해서는 대규모 투자가 필요하며, 이는 공공 부문의 지원 없이는 어려울 수 있습니다. 따라서 유럽 내 자본 시장을 통합해 개인과 기업의 저축이 생산적인 투자로 이어지도록 유도하고, 공동 자금을 조성해 연구 및 혁신을 지원해야 한다고 제안합니다.
5. EU 거버넌스 개혁: 유럽 연합의 결정 과정이 지나치게 느리고 분산되어 있다는 문제를 해결하기 위해 EU의 통합적인 거버넌스 구조를 강화하고, 규제 부담을 줄이는 것이 필요합니다. 이를 통해 정책의 일관성을 높이고 공동 목표를 향한 효율적인 대응을 가능하게 해야 합니다.

Top companies ground Microsoft Copilot over data governance concerns
The Register

Copilot 같은 LLM이 조직에 적용될 때 발생할 수 있는 문제에 관해 언급. 접근권한이 없는 사람에게도 정보가 노출될 수 있어 적용에 문제가 발생.

“특히 SharePoint나 Office 365 또는 이와 유사한 복잡한 권한 설정이 있는 대기업들의 경우, Copilot들이 기본적으로 사람들이 기술적으로는 접근할 수 있지만 접근해서는 안 되는 정보를 적극적으로 요약하고 있습니다,” 그가 설명했습니다.

Berkowitz는 예를 들어 급여 정보가 Copilot 서비스에 의해 포착될 수 있다고 말했습니다.

“처음부터 완전히 깨끗한 Microsoft 환경을 설정했다면 이 문제가 완화될 수 있겠죠,” 그가 우리에게 말했습니다. “하지만 그런 환경을 가진 곳은 없습니다. 특히 정말 큰 회사들은 시간이 지나면서 이런 시스템들을 구현해 왔죠. 그래서 상충되는 권한이나 데이터 접근 권한이 생기게 됩니다.”

[…] AI 소프트웨어에는 특정한 보안 우려가 있지만, Berkowitz는 그가 듣고 있는 문제들이 내부 직원들이 접근해서는 안 되는 정보에 접근하는 것과 더 관련이 있다고 말했습니다. (이는 우리가 이전에 Copilot에 대해 들었던 불만입니다.)

15년 전 Google이 기업 문서를 색인화하고 직원들이 이용할 수 있게 만드는 Search Appliance를 도입했을 때의 IT 보안 과제와 비슷한 상황인지 묻자, Berkowitz는 “정확히 그렇습니다”라고 답했습니다.

Historical Analogues That Can Inform AI Governance
RAND

4가지 기술(핵기술, 인터넷, 암호화, 유전공학)을 AI와 비교하여 AI 거버넌스에 적용할 수 있는 교훈을 도출하고자 함. 예를 들어 AI가 심각한 위험을 초래한다면 핵기술 거버넌스 모델을, 위험이 적다면 인터넷 거버넌스 모델을 참고할 수 있다고 봄. 나중에 좀 더 자세히 읽어보기 위한 기록용.

인공지능(AI)의 기능이 향상됨에 따라 인공지능이 가져올 수 있는 위험을 최소화하면서 이점을 극대화하는 방법에 대한 의문이 제기되고 있습니다. 최근 수십 년 동안 핵 기술, 인터넷, 암호화 제품, 유전 공학 등 네 가지 기술에 대해서도 거버넌스와 관련된 유사한 질문이 제기되었습니다. 이들 기술의 거버넌스의 역사는 기술에 대한 규범에 대한 합의의 필요성, 물리적 자산과 비물리적 자산의 거버넌스에서 중요한 차이, 거버넌스에서 공공 부문과 민간 부문 간의 파트너십의 역할이라는 세 가지 주제를 보여줍니다. 이러한 기술은 개발 경쟁에 필요한 자원, 주로 공공 또는 민간 부문에서 사용되는지 여부, 보안 위험, 이러한 위험에 대한 합의, 통제 가능한 물리적 자산, 거버넌스를 위한 공동의 이해관계 커뮤니티를 조성할 수 있는지 여부, 위험을 최소화하고 이익을 극대화하는 데 공공 또는 민간 거버넌스가 가장 적합한지 여부 등 다양한 측면에서 차이가 있습니다.

주요 결과

• 광범위한 해를 끼칠 수 있는 심각한 위험을 초래하고, 획득 및 사용에 상당한 자원이 필요하며, 모니터링 및 제어가 가능한 물리적 자산을 보유한 AI는 원자력 기술과 유사한 광범위한 국제 거버넌스 구조에 적합할 수 있습니다.
• 최소한의 위험을 초래하는 AI는 인터넷을 위해 만들어진 거버넌스 모델과 같은 거버넌스 모델에 적합할 수 있습니다.
• 접근이 가능하지만 큰 위험을 초래할 수 있는 AI는 유전 공학에 사용되는 것과 유사한 거버넌스 모델이 적합할 수 있지만 이해관계자는 암호화에 사용되는 것과 유사한 거버넌스 모델을 적용하는 데 신중해야 합니다.

AI is not our future.
Procreate

진짜인지 믿기 어려운 이야기. 베네딕트 에반스는 “Procreate 팀은 너무 어려서 사람들이 포토샵이나 일러스트레이터를 사용하는 것이 창의적이지 않다고 말했던 때를 기억하지 못할 것 같습니다”라고 코멘트 하기도 했다. 이 이야기를 들으니 엑셀 함수 사용하지 말라던 이야기가 생각난다

창의성은 만들어지는 것이지, 생성되는 것이 아닙니다.
생성형 AI는 사물에서 인간성을 앗아가고 있습니다. 도용을 기반으로 구축된 이 기술은 우리를 황폐한 미래로 이끌고 있습니다. 우리는 기계 학습이 많은 장점을 가진 매력적인 기술이라고 생각하지만, 생성형 AI가 가고 있는 길은 우리에게 옳지 않습니다.
우리는 인간을 위해 여기 있습니다. 우리는 우리의 가장 귀중한 보석인 인간의 창의성에 도덕적 위협이 되는 기술을 쫓지 않습니다. 이러한 기술적 급류 속에서, 이는 우리를 예외적으로 만들거나 뒤처질 위험이 있어 보일 수 있습니다. 하지만 우리는 이 덜 걸어본 길이 우리 커뮤니티에게 더 흥미롭고 결실 있는 길이라고 봅니다.

Just four companies are hoarding tens of billions of dollars worth of Nvidia GPU chips
Sherwood

보도를 확인해 준 것은 아니지만 흥미로운 이야기. The Information에 따르면 벤처 캐피털 회사인 Andreesen Horowitz는 값비싼 GPU 20,000개 이상을 비축해 AI 스타트업에 지분을 대가로 임대해주고 있다고 한다 .

Dutch DPA imposes a fine of 290 million euro on Uber because of transfers of drivers’ data to the US

네덜란드 데이터 프라이버시 규제 기관이 우버(Uber)에 2억 9천만 유로(약 4,100억 원)의 벌금을 부과했다. 이는 우버가 일부 운전자 데이터를 미국 서버에 저장했기 때문이다.

네덜란드 DPA는 Uber가 유럽 운전자의 민감한 정보를 수집하여 미국 서버에 보관했다는 사실을 발견했습니다. 계정 세부 정보와 택시 면허증에 관한 것이지만, 위치 데이터, 사진, 결제 세부 정보, 신분증, 어떤 경우에는 운전자의 범죄 및 의료 데이터도 포함됩니다.

2년 이상 동안 Uber는 전송 도구를 사용하지 않고 해당 데이터를 미국에 있는 Uber 본사로 전송했습니다 . 이로 인해 개인 데이터 보호가 충분하지 않았습니다. EU 사법 재판소는 2020년에 EU-US Privacy Shield를 무효화했습니다. 

법원에 따르면, 표준 계약 조항은 여전히 ​​EU 외부 국가로 데이터를 전송하는 데 유효한 근거를 제공할 수 있지만, 이는 실무적으로 동일한 수준의 보호를 보장할 수 있는 경우에만 가능합니다. 

네덜란드 DPA에 따르면 Uber는 2021년 8월부터 표준 계약 조항을 더 이상 사용하지 않았기 때문에 EU 운전자의 데이터가 충분히 보호되지 않았습니다. 작년 말부터 Uber는 Privacy Shield의 후속 조항을 사용합니다.

클라우드 인프라 기반으로 글로벌 서비스를 하는 IT기업이 GDPR 규정을 준수한다는게 쉬운 일은 아닌 것 같다. 참고로 Privacy Shield의 경우 EU 시민들의 개인정보를 미국으로 전송할 때 적절한 보호 수준을 보장하는 것이 목적이었으나 2020년 유럽사법재판소에서 이를 무효화한 이후에 새로운 방식을 재검토하고 대안을 모색해야하는 상황으로 안다.

North Carolina Musician Charged With Music Streaming Fraud Aided By Artificial Intelligence
U.S. DOJ

미국에서는 인공지능을 활용해 수십만 개의 트랙을 생성하고 봇을 사용하여 재생을 생성하여 스트리밍 플랫폼으로부터 1천만 달러의 부정한 대금을 챙긴 인물이 기소되었다.

뉴욕 남부 지방 검사인 데미안 윌리엄스와 연방수사국(FBI) 뉴욕 현장 사무소의 대행 부국장인 크리스티 M. 커티스는 인공지능으로 수십만 곡을 만들고 “봇”이라는 자동화 프로그램을 사용하여 인공지능으로 생성된 곡을 수십억 번 스트리밍하는 계획과 관련하여 마이클 스미스를 기소한 3건의 형사 기소장을 공개한다고 발표했습니다. 스미스는 자신의 계획을 통해 1,000만 달러 이상의 로열티를 사기로 획득했습니다. 스미스는 오늘 체포되어 노스캐롤라이나 주 연방 지방법원 판사 앞에 서게 됩니다.

La Baye Aréa, French TV Series – Opening credits