President’s Lecture Series: Sundar Pichai
구글 순다 피차이의 카네기 멜론 강연. 인공지능의 혁신적 가능성을 이야기하며 지속가능성을 위한 노력이 필요함을 이야기한다. 인공지능 잠재력에 관해 이야기하는 부분에서 빅데이터 이야기때부터 많이 보이던 그래프를 확인할 수 있는데, 인공지능 모델 사용 비용의 급격한 하락은 더 많은 사람이 인공지능을 활용할 수 있게 한다고 말하며, 공기처럼 저렴한 지능(intelligence just like air, too cheap to meter)이 될 수 있음을 말한다.
이미 비용이 낮아지는 것을 목격하고 있습니다. 지난 18개월 동안 주력 모델의 토큰당 비용을 살펴보면 100만 토큰당 4달러였던 것이 지금은 13센트에 불과하며, 이러한 추세는 계속될 것입니다. 공기와 같은 인텔리전스를 계량화할 수 없을 정도로 저렴하게 사용할 수 있게 될 것이며, 이는 차트처럼 보일 수도 있지만 제게는 앞으로 다가올 흥미로운 미래입니다.
Is Competition Only One Click Away? The Digital Markets Act Impact on Google Maps
CESifo Working Paper No. 11226
페이퍼에서 이야기하고 있는 내용에 따르면 결국 이용자의 혜택만 감소하게 된 것으로 보인다. 서비스 이용에서 마찰이 증가하고 불편함을 느끼는 이용자가 증가했다고 예상해볼 수 있는 결과.
이 백서에서는 유럽연합(EU)에서의 Google 검색 결과 표시 변경에 초점을 맞춰 디지털 시장법(DMA)이 소비자 행동에 미치는 영향을 조사합니다. 특히 2024년 1월에 시행된 Google의 검색 결과에서 클릭 가능한 지도 제거의 영향을 조사합니다. 이 변경으로 인해 사용자는 Google 지도 또는 대체 매핑 서비스에 액세스하기 위해 추가 검색을 수행해야 하므로 검색 비용이 증가합니다. 차이점 접근법을 사용하여 DMA 시행 전후의 EU 국가와 비 EU 국가의 Google 검색량을 비교했습니다. Google 검색 사용자가 클릭 한 번으로 이용할 수 있는 Google 지도의 이점이 사라짐에 따라 EU 소비자들이 온라인 지도 서비스를 훨씬 더 많이 검색하는 것으로 나타났습니다. 지도 및 구글 지도라는 검색어에 대한 Google 검색량이 25% 및 18% 증가하여 6개월 동안 각각 34,407,000건 및 8,901,000건이 초과 검색된 것으로 측정되었습니다. 이러한 검색 증가는 대체 지도 서비스에 대한 잠재적 노출 가능성을 시사합니다. 그러나 애플 맵이나 빙 맵과 같은 서비스에 대한 검색도 증가했지만 그다지 큰 폭으로 증가하지는 않았습니다. 또한 트래픽 데이터에 따르면 Google 지도 방문이 크게 감소하지 않은 것으로 나타나 대체 서비스로의 이동이 미미한 것으로 나타났습니다. 이러한 결과는 Google의 원클릭 이점을 제거해도 단기적으로 대체 매핑 서비스의 검색이나 채택이 크게 증가하지 않고 사용자의 검색 비용이 증가할 수 있음을 나타냅니다.
How Local Governments Got Hooked on One Company’s Janky Software
Bloomberg
미국 지방 정부 소프트웨어를 거의 독점하다시피 하는 타일러 테크에 관한 기사. 모두가 그 소프트웨어가 형편없다는 데 동의하지만 선택의 여지가 없나보다. 정부라는 조직이 크고 복잡하고 느리기 때문에 소프트웨어를 만드는 기업의 어려움도 있을거라고 생각은 하지만… 국내를 봐도 작은 분야를 독점하고 있는 솔루션 기업이라든지, 정부 과제라는 이유로 말도 안 되는 결과물을 던져놓는 사례가 너무 많으니…
정중하게 말하자면, 타일러의 98%라는 엄청난 고객 유지율이 순전히 제품 만족도 때문일 가능성은 매우 낮습니다. 공급업체에 대한 고정관념도 분명히 존재합니다. 고객들 사이에서 흔히 하는 말은 자신들이 너무 깊이 빠져서 물러설 수 없다고 느낀다는 것입니다. 수년과 수백만 달러를 위험한 구현에 투자한 후, 덜 알려진 대안으로 다시 할 여유가 있을까요? 법정 기록 소프트웨어와 관련하여 Needham & Co. 의 연구 분석가 조쉬 라일리는 타일러가 거의 독점적이며 경쟁업체 중 하나의 웹사이트를 찾는 것조차 어렵다고 말합니다.
Top companies ground Microsoft Copilot over data governance concerns
The Register
Copilot 같은 LLM이 조직에 적용될 때 발생할 수 있는 문제에 관해 언급. 접근권한이 없는 사람에게도 정보가 노출될 수 있어 적용에 문제가 발생.
“특히 SharePoint나 Office 365 또는 이와 유사한 복잡한 권한 설정이 있는 대기업들의 경우, Copilot들이 기본적으로 사람들이 기술적으로는 접근할 수 있지만 접근해서는 안 되는 정보를 적극적으로 요약하고 있습니다,” 그가 설명했습니다.
Berkowitz는 예를 들어 급여 정보가 Copilot 서비스에 의해 포착될 수 있다고 말했습니다.
“처음부터 완전히 깨끗한 Microsoft 환경을 설정했다면 이 문제가 완화될 수 있겠죠,” 그가 우리에게 말했습니다. “하지만 그런 환경을 가진 곳은 없습니다. 특히 정말 큰 회사들은 시간이 지나면서 이런 시스템들을 구현해 왔죠. 그래서 상충되는 권한이나 데이터 접근 권한이 생기게 됩니다.”
[…] AI 소프트웨어에는 특정한 보안 우려가 있지만, Berkowitz는 그가 듣고 있는 문제들이 내부 직원들이 접근해서는 안 되는 정보에 접근하는 것과 더 관련이 있다고 말했습니다. (이는 우리가 이전에 Copilot에 대해 들었던 불만입니다.)
15년 전 Google이 기업 문서를 색인화하고 직원들이 이용할 수 있게 만드는 Search Appliance를 도입했을 때의 IT 보안 과제와 비슷한 상황인지 묻자, Berkowitz는 “정확히 그렇습니다”라고 답했습니다.
Historical Analogues That Can Inform AI Governance
RAND
4가지 기술(핵기술, 인터넷, 암호화, 유전공학)을 AI와 비교하여 AI 거버넌스에 적용할 수 있는 교훈을 도출하고자 함. 예를 들어 AI가 심각한 위험을 초래한다면 핵기술 거버넌스 모델을, 위험이 적다면 인터넷 거버넌스 모델을 참고할 수 있다고 봄. 나중에 좀 더 자세히 읽어보기 위한 기록용.
인공지능(AI)의 기능이 향상됨에 따라 인공지능이 가져올 수 있는 위험을 최소화하면서 이점을 극대화하는 방법에 대한 의문이 제기되고 있습니다. 최근 수십 년 동안 핵 기술, 인터넷, 암호화 제품, 유전 공학 등 네 가지 기술에 대해서도 거버넌스와 관련된 유사한 질문이 제기되었습니다. 이들 기술의 거버넌스의 역사는 기술에 대한 규범에 대한 합의의 필요성, 물리적 자산과 비물리적 자산의 거버넌스에서 중요한 차이, 거버넌스에서 공공 부문과 민간 부문 간의 파트너십의 역할이라는 세 가지 주제를 보여줍니다. 이러한 기술은 개발 경쟁에 필요한 자원, 주로 공공 또는 민간 부문에서 사용되는지 여부, 보안 위험, 이러한 위험에 대한 합의, 통제 가능한 물리적 자산, 거버넌스를 위한 공동의 이해관계 커뮤니티를 조성할 수 있는지 여부, 위험을 최소화하고 이익을 극대화하는 데 공공 또는 민간 거버넌스가 가장 적합한지 여부 등 다양한 측면에서 차이가 있습니다.
주요 결과
- 광범위한 해를 끼칠 수 있는 심각한 위험을 초래하고, 획득 및 사용에 상당한 자원이 필요하며, 모니터링 및 제어가 가능한 물리적 자산을 보유한 AI는 원자력 기술과 유사한 광범위한 국제 거버넌스 구조에 적합할 수 있습니다.
- 최소한의 위험을 초래하는 AI는 인터넷을 위해 만들어진 거버넌스 모델과 같은 거버넌스 모델에 적합할 수 있습니다.
- 접근이 가능하지만 큰 위험을 초래할 수 있는 AI는 유전 공학에 사용되는 것과 유사한 거버넌스 모델이 적합할 수 있지만 이해관계자는 암호화에 사용되는 것과 유사한 거버넌스 모델을 적용하는 데 신중해야 합니다.
AI is not our future.
Procreate
진짜인지 믿기 어려운 이야기. 베네딕트 에반스는 “Procreate 팀은 너무 어려서 사람들이 포토샵이나 일러스트레이터를 사용하는 것이 창의적이지 않다고 말했던 때를 기억하지 못할 것 같습니다”라고 코멘트 하기도 했다. 이 이야기를 들으니 엑셀 함수 사용하지 말라던 이야기가 생각난다
창의성은 만들어지는 것이지, 생성되는 것이 아닙니다.
생성형 AI는 사물에서 인간성을 앗아가고 있습니다. 도용을 기반으로 구축된 이 기술은 우리를 황폐한 미래로 이끌고 있습니다. 우리는 기계 학습이 많은 장점을 가진 매력적인 기술이라고 생각하지만, 생성형 AI가 가고 있는 길은 우리에게 옳지 않습니다.
우리는 인간을 위해 여기 있습니다. 우리는 우리의 가장 귀중한 보석인 인간의 창의성에 도덕적 위협이 되는 기술을 쫓지 않습니다. 이러한 기술적 급류 속에서, 이는 우리를 예외적으로 만들거나 뒤처질 위험이 있어 보일 수 있습니다. 하지만 우리는 이 덜 걸어본 길이 우리 커뮤니티에게 더 흥미롭고 결실 있는 길이라고 봅니다.
Just four companies are hoarding tens of billions of dollars worth of Nvidia GPU chips
Sherwood
보도를 확인해 준 것은 아니지만 흥미로운 이야기. The Information에 따르면 벤처 캐피털 회사인 Andreesen Horowitz는 값비싼 GPU 20,000개 이상을 비축해 AI 스타트업에 지분을 대가로 임대해주고 있다고 한다 .
Dutch DPA imposes a fine of 290 million euro on Uber because of transfers of drivers’ data to the US
네덜란드 데이터 프라이버시 규제 기관이 우버(Uber)에 2억 9천만 유로(약 4,100억 원)의 벌금을 부과했다. 이는 우버가 일부 운전자 데이터를 미국 서버에 저장했기 때문이다.
네덜란드 DPA는 Uber가 유럽 운전자의 민감한 정보를 수집하여 미국 서버에 보관했다는 사실을 발견했습니다. 계정 세부 정보와 택시 면허증에 관한 것이지만, 위치 데이터, 사진, 결제 세부 정보, 신분증, 어떤 경우에는 운전자의 범죄 및 의료 데이터도 포함됩니다.
2년 이상 동안 Uber는 전송 도구를 사용하지 않고 해당 데이터를 미국에 있는 Uber 본사로 전송했습니다 . 이로 인해 개인 데이터 보호가 충분하지 않았습니다. EU 사법 재판소는 2020년에 EU-US Privacy Shield를 무효화했습니다.
법원에 따르면, 표준 계약 조항은 여전히 EU 외부 국가로 데이터를 전송하는 데 유효한 근거를 제공할 수 있지만, 이는 실무적으로 동일한 수준의 보호를 보장할 수 있는 경우에만 가능합니다.
네덜란드 DPA에 따르면 Uber는 2021년 8월부터 표준 계약 조항을 더 이상 사용하지 않았기 때문에 EU 운전자의 데이터가 충분히 보호되지 않았습니다. 작년 말부터 Uber는 Privacy Shield의 후속 조항을 사용합니다.
클라우드 인프라 기반으로 글로벌 서비스를 하는 IT기업이 GDPR 규정을 준수한다는게 쉬운 일은 아닌 것 같다. 참고로 Privacy Shield의 경우 EU 시민들의 개인정보를 미국으로 전송할 때 적절한 보호 수준을 보장하는 것이 목적이었으나 2020년 유럽사법재판소에서 이를 무효화한 이후에 새로운 방식을 재검토하고 대안을 모색해야하는 상황으로 안다.
North Carolina Musician Charged With Music Streaming Fraud Aided By Artificial Intelligence
U.S. DOJ
미국에서는 인공지능을 활용해 수십만 개의 트랙을 생성하고 봇을 사용하여 재생을 생성하여 스트리밍 플랫폼으로부터 1천만 달러의 부정한 대금을 챙긴 인물이 기소되었다.
뉴욕 남부 지방 검사인 데미안 윌리엄스와 연방수사국(FBI) 뉴욕 현장 사무소의 대행 부국장인 크리스티 M. 커티스는 인공지능으로 수십만 곡을 만들고 “봇”이라는 자동화 프로그램을 사용하여 인공지능으로 생성된 곡을 수십억 번 스트리밍하는 계획과 관련하여 마이클 스미스를 기소한 3건의 형사 기소장을 공개한다고 발표했습니다. 스미스는 자신의 계획을 통해 1,000만 달러 이상의 로열티를 사기로 획득했습니다. 스미스는 오늘 체포되어 노스캐롤라이나 주 연방 지방법원 판사 앞에 서게 됩니다.
La Baye Aréa, French TV Series – Opening credits