The iOS Continental Drift Widens
Daring Fireball

오랜만에 보는 존 그루버의 글. 다른 글에서와 비슷하게 유럽의 플랫폼 규제 법안이 가져오는 효과는 의도와 다르게 될 것이라는 점을 이야기하고 있다. 브라우저 선택화면, 필수앱 삭제, 애플 인텔리전스와 화면공유 기능에 있어서 정책당국 의도와는 전혀 다른 효과가 나올 것이라 이야기한다. 예를 들면, 브라우저 선택화면으로 인해 가장 이익을 얻는 것은 크롬이 될 것이라든가, 기술적 이해가 높지 않은 이용자는 오히려 기존 잘 쓰던 브라우저 변경으로 인해 불편함을 겪게 될 것이라는 것이다. 하지만 가장 큰 효과는 아래 이야기하는 것처럼 유럽시장만 서비스 이용에서 제외될 것이라는 전망이다.

EC의 분명한 기대는 유럽 연합이 워낙 규모가 크고 전 세계에 필수적인 존재이기 때문에 애플이 DMA의 다른 대상인 ‘게이트키퍼’들과 함께 EC의 뜻에 따라 앞으로 DMA를 염두에 두고 제품과 서비스를 설계할 것이라는 것입니다. 스택의 모든 계층에서 통합보다 모듈화. EU 내부 시장 담당 위원인 티에리 브르통은 7월에 이렇게 말했습니다: “Apple의 새로운 슬로건은 ‘다르게 행동하라’가 되어야 합니다.”

하지만 EU는 그다지 크지도, 중요하지도 않습니다. 유럽 위원회는 거창한 망상에 사로잡혀 있습니다. 올해 애플 인텔리전스와 아이폰 화면 공유에서 일어난 일은 애플이 iOS와 통합하는 모든 새로운 제품이나 서비스에서 일어날 것으로 예상되는 일입니다: 애플은 EU에 늦게, 또는 아예 들어오지 않을 것입니다. 그리고 Apple이 만드는 모든 새로운 제품과 서비스는 iOS와 통합되므로 Apple의 거의 모든 새로운 제품이 EU에 늦게 출시되거나 아예 출시되지 않을 것입니다.

의도한 바는 아니지만 이것이 바로 DMA의 실제 효과입니다.

AI is not our future.
Procreate

진짜인지 믿기 어려운 이야기. 베네딕트 에반스는 “Procreate 팀은 너무 어려서 사람들이 포토샵이나 일러스트레이터를 사용하는 것이 창의적이지 않다고 말했던 때를 기억하지 못할 것 같습니다”라고 코멘트 하기도 했다. 이 이야기를 들으니 엑셀 함수 사용하지 말라던 이야기가 생각난다

창의성은 만들어지는 것이지, 생성되는 것이 아닙니다.
생성형 AI는 사물에서 인간성을 앗아가고 있습니다. 도용을 기반으로 구축된 이 기술은 우리를 황폐한 미래로 이끌고 있습니다. 우리는 기계 학습이 많은 장점을 가진 매력적인 기술이라고 생각하지만, 생성형 AI가 가고 있는 길은 우리에게 옳지 않습니다.
우리는 인간을 위해 여기 있습니다. 우리는 우리의 가장 귀중한 보석인 인간의 창의성에 도덕적 위협이 되는 기술을 쫓지 않습니다. 이러한 기술적 급류 속에서, 이는 우리를 예외적으로 만들거나 뒤처질 위험이 있어 보일 수 있습니다. 하지만 우리는 이 덜 걸어본 길이 우리 커뮤니티에게 더 흥미롭고 결실 있는 길이라고 봅니다.

Historical Analogues That Can Inform AI Governance
RAND

4가지 기술(핵기술, 인터넷, 암호화, 유전공학)을 AI와 비교하여 AI 거버넌스에 적용할 수 있는 교훈을 도출하고자 함. 예를 들어 AI가 심각한 위험을 초래한다면 핵기술 거버넌스 모델을, 위험이 적다면 인터넷 거버넌스 모델을 참고할 수 있다고 봄. 나중에 좀 더 자세히 읽어보기 위한 기록용.

인공지능(AI)의 기능이 향상됨에 따라 인공지능이 가져올 수 있는 위험을 최소화하면서 이점을 극대화하는 방법에 대한 의문이 제기되고 있습니다. 최근 수십 년 동안 핵 기술, 인터넷, 암호화 제품, 유전 공학 등 네 가지 기술에 대해서도 거버넌스와 관련된 유사한 질문이 제기되었습니다. 이들 기술의 거버넌스의 역사는 기술에 대한 규범에 대한 합의의 필요성, 물리적 자산과 비물리적 자산의 거버넌스에서 중요한 차이, 거버넌스에서 공공 부문과 민간 부문 간의 파트너십의 역할이라는 세 가지 주제를 보여줍니다. 이러한 기술은 개발 경쟁에 필요한 자원, 주로 공공 또는 민간 부문에서 사용되는지 여부, 보안 위험, 이러한 위험에 대한 합의, 통제 가능한 물리적 자산, 거버넌스를 위한 공동의 이해관계 커뮤니티를 조성할 수 있는지 여부, 위험을 최소화하고 이익을 극대화하는 데 공공 또는 민간 거버넌스가 가장 적합한지 여부 등 다양한 측면에서 차이가 있습니다.

주요 결과

• 광범위한 해를 끼칠 수 있는 심각한 위험을 초래하고, 획득 및 사용에 상당한 자원이 필요하며, 모니터링 및 제어가 가능한 물리적 자산을 보유한 AI는 원자력 기술과 유사한 광범위한 국제 거버넌스 구조에 적합할 수 있습니다.
• 최소한의 위험을 초래하는 AI는 인터넷을 위해 만들어진 거버넌스 모델과 같은 거버넌스 모델에 적합할 수 있습니다.
• 접근이 가능하지만 큰 위험을 초래할 수 있는 AI는 유전 공학에 사용되는 것과 유사한 거버넌스 모델이 적합할 수 있지만 이해관계자는 암호화에 사용되는 것과 유사한 거버넌스 모델을 적용하는 데 신중해야 합니다.

Dutch DPA imposes a fine of 290 million euro on Uber because of transfers of drivers’ data to the US

네덜란드 데이터 프라이버시 규제 기관이 우버(Uber)에 2억 9천만 유로(약 4,100억 원)의 벌금을 부과했다. 이는 우버가 일부 운전자 데이터를 미국 서버에 저장했기 때문이다.

네덜란드 DPA는 Uber가 유럽 운전자의 민감한 정보를 수집하여 미국 서버에 보관했다는 사실을 발견했습니다. 계정 세부 정보와 택시 면허증에 관한 것이지만, 위치 데이터, 사진, 결제 세부 정보, 신분증, 어떤 경우에는 운전자의 범죄 및 의료 데이터도 포함됩니다.

2년 이상 동안 Uber는 전송 도구를 사용하지 않고 해당 데이터를 미국에 있는 Uber 본사로 전송했습니다 . 이로 인해 개인 데이터 보호가 충분하지 않았습니다. EU 사법 재판소는 2020년에 EU-US Privacy Shield를 무효화했습니다. 

법원에 따르면, 표준 계약 조항은 여전히 ​​EU 외부 국가로 데이터를 전송하는 데 유효한 근거를 제공할 수 있지만, 이는 실무적으로 동일한 수준의 보호를 보장할 수 있는 경우에만 가능합니다. 

네덜란드 DPA에 따르면 Uber는 2021년 8월부터 표준 계약 조항을 더 이상 사용하지 않았기 때문에 EU 운전자의 데이터가 충분히 보호되지 않았습니다. 작년 말부터 Uber는 Privacy Shield의 후속 조항을 사용합니다.

클라우드 인프라 기반으로 글로벌 서비스를 하는 IT기업이 GDPR 규정을 준수한다는게 쉬운 일은 아닌 것 같다. 참고로 Privacy Shield의 경우 EU 시민들의 개인정보를 미국으로 전송할 때 적절한 보호 수준을 보장하는 것이 목적이었으나 2020년 유럽사법재판소에서 이를 무효화한 이후에 새로운 방식을 재검토하고 대안을 모색해야하는 상황으로 안다.