The Ghosts in the Machine
Harpers

스포티파이가 인기있는 플레이리스트에서 아티스트 곡을 저렴한 자체제작 곡으로 바꾸고 있다는 의혹에 관한 글.

Spotify는 단순히 여러 음악 제작사들과 협력하는 것뿐만 아니라, ‘Spotify가 재정적으로 이익을 얻을 수 있는 음악’을 제공하는 내부 팀을 운영하며, 이들이 플랫폼 내 플레이리스트에 특정 트랙을 배치하는 역할을 한다는 사실을 발견했다. 이를 통해 Spotify는 저비용 음악의 스트리밍 비율을 증가시키려 하고 있으며, 이 프로그램의 이름은 ‘Perfect Fit Content(PFC)’다.”

EDPB opinion on AI models: GDPR principles support responsible AI
European Data Protection Board

이제는 관심을 더 가지려고 하지만 보던게 있어 보게되는 유럽 규제 사례. 작년 7월 메타는 개인정보보호법 적용이 명확하지 않아 최신 오픈소스 언어모델(Llama) 출시를 하지 않는다고 했으나, EU는 24년 말 지침에 관해 이야기했다. 규제의 문제라고 할 수 있는 것들, 명확하게 설명하는 것이 느리고 규정이 모호한 부분이 많다는 점. 아래는 기계 요약

1. AI 모델이 익명으로 간주될 수 있는 기준
   AI 모델이 익명성(Anonymity)을 갖추려면 개인을 직접 또는 간접적으로 식별할 가능성이 매우 낮아야 한다.
   또한, 사용자의 쿼리를 통해 개인 데이터를 추출할 가능성도 매우 낮아야 한다.
   익명성을 입증하기 위한 방법에 대한 비규범적(non-prescriptive)이고 포괄적이지 않은(non-exhaustive) 예시 목록이 제공됨.
2. AI 모델 개발 및 배포 시 ‘정당한 이익(Legitimate Interest)’을 법적 근거로 사용할 수 있는지
   AI 모델이 개인 데이터를 처리할 때 ‘정당한 이익’을 법적 근거로 인정받을 수 있는지 여부는 사례별로 평가해야 한다.
   평가를 위한 3단계 테스트가 제시되었으며, 대화형 AI 및 사이버 보안 강화 AI 같은 경우 사용자에게 이익이 되는 서비스라면 ‘정당한 이익’을 기반으로 운영될 수도 있음.
   단, 데이터 처리가 ‘엄격히 필요’하다는 점을 입증해야 하며, 개인의 권리와 이익의 균형을 맞춰야 한다.
3. AI 모델이 사용자의 개인 데이터를 처리할 수 있는지에 대한 기준
   사용자가 자신의 데이터가 AI 모델에 의해 사용될 것이라고 ‘합리적으로 예상할 수 있는지’를 평가하는 기준을 제시함.
   개인 데이터가 공개적으로 이용 가능한 정보인지 여부
   데이터가 어떤 맥락에서 수집되었으며, 이후 어떻게 활용될 가능성이 있는지
   개인이 자신의 데이터가 온라인에 공개되어 있다는 사실을 알고 있는지
4. 불법적으로 수집된 데이터로 개발된 AI 모델의 적법성
   AI 모델이 불법적으로 수집된 개인 데이터를 활용해 개발되었다면, 해당 모델의 사용이 적법하지 않을 수 있다.
   단, 모델이 완전히 익명화되었다면 이러한 문제를 회피할 수 있음.

클로드에서 출시한 컴퓨터 이용(computer use) 기능. 인공지능이 브라우징, 클릭, 텍스트 입력을 수행할 수 있게 되면서 AI 에이전트가 일반화 될 것이라고 본다. 프로그래밍에서와 유사하게 속도가 느리고 보안 문제가 발생할 가능성은 있지만 다양한 솔루션으로 발전할 거라고 예상한다.

Teens, Social Media and Technology 2024
Pew Research

좀 하락한 소셜 미디어도 있으나 유튜브, 틱톡, 인스타그램, 스냅챗이 여전하다.

링크

인스타그램은 메타의 비디오 생성기를 통합할 예정으로, 링크에서 보는 것 같은 기능을 선보인다.

Judge blocks parts of California bid to protect kids from social media
Courthouse News Service

연방판사는 아동을 소셜미디어 중독으로부터 보호하는 법안(SB 976)의 핵심 조항을 시행하지 못하도록 캘리포니아주에 금지 명령을 내렸다. 이는 해당 법안이 기술 기업들의 수정헌법 제1조(표현의 자유) 권리를 침해할 가능성이 있다고 판단했기 때문이다. 아무리 목적이 선해보여도 규제와 관련해서 명확한 범위를 정하는 것이 쉬운일은 아니다.

판사는 아동 보호가 법적으로 중요한 명분이며 여러 과학적 연구에 의해 뒷받침되는 점은 인정했지만, 이 법안이 목적을 달성하기에 충분히 정밀하게 설계되지 않았다고 지적했다.

“NetChoice가 지적한 것처럼, ESPN과 같은 스포츠 웹사이트는 미성년자가 좋아하는 팀이 챔피언십에서 우승했다는 알림을 금지 시간대에 보낼 수 있지만, 페이스북은 동일한 알림을 보낼 수 없다.”
– 판결문에서 다빌라 판사

또한, 미성년자 계정 수 공개 요구 조항도 실효성이 부족하다고 지적했다.

“소셜미디어 플랫폼을 이용하는 미성년자 수를 공개하는 것이 미성년자의 소셜미디어 사용을 줄이는 데 도움이 된다는 근거가 없다.”
– 다빌라 판사

Meta is ending its fact-checking program in favor of a ‘community notes’ system similar to X’s
NBC News

메타는 IFCN(International Fact-Checking Network) 인증을 받은 독립적인 팩트체킹 기관들과 파트너십을 맺고, 팩트체커가 정확성을 평가한 뒤 등급을 부여하는 방식을 사용했다. 하지만 이가 표현의 자유를 억압한다는 논란이 있었고, 오류나 일관성 측면에서 비판도 제기되었다. 하지만 이를 X와 유사한 커뮤니티 노트(크라우드 소싱 기반 팩트 체크 시스템) 시스템으로 대체한다고 밝혔다.

“우리는 본래의 방향으로 돌아가 실수를 줄이고, 정책을 단순화하며, 우리 플랫폼에서 표현의 자유를 회복하는 데 집중할 것입니다.” 주커버그는 영상에서 이렇게 말했다. “좀 더 구체적으로 말씀드리자면, 첫째, 팩트체커를 없애고 X와 유사한 커뮤니티 노트 시스템으로 대체할 것입니다. 먼저 미국에서 시작할 계획입니다.”