Meta Drops Fact-Checking Because of Politics, but Also Because It Wasn’t Working
Better Conflict Bulletin

메타가 프로그램을 변경한 이유가 정치적인 것도 있지만, 프로그램이 신뢰나 규모를 달성하지 못했기 때문이라는 주장. 몇 가지 주장에 대해 근거를 정리하여 이야기한다. 읽을만한 글.

하지만 많은 개별 팩트체커들의 훌륭한 작업에도 불구하고, 전체적인 팩트체크 프로그램은 중요한 측면에서 어려움을 겪고 있었다는 것도 사실이다. 이러한 프로그램이 제대로 작동하려면, 적어도 세 가지를 달성해야 한다:

• 유해한 허위 정보를 정확하고 공정하게 표기할 것
• 청중의 신뢰를 유지할 것
• 변화를 이끌어낼 만큼 충분히 크고 빠를 것

이 글에서는 이 세 가지에 대한 증거들을 살펴볼 것이다. 편향에 대한 반복적인 주장에도 불구하고, 팩트체커들이 대부분 상당히 정확하고 공정했다는 충분한 이유가 있다. 하지만 이 프로그램은 결코 플랫폼 규모나 속도 면에서 운영되지 않았으며, 허위 정보에 가장 많이 노출된 사람들 사이에서 빠르게 불신을 받게 되었다.

What do I think about Community Notes?
Vitalik Buterin

커뮤니티 노트에 대해 자세하게 설명해 놓은 글. 꽤나 긴 글이기에 기계 요약만 기록해놓는다.

1. Community Notes란?

• 목적: 트위터에 올라오는 트윗에 대해, 잘못된 정보나 오해를 바로잡기 위해 사용자들이 직접 추가 정보를 달아주는 시스템입니다.
• 원래 이름: 처음에는 “Birdwatch”라는 이름으로 시작되었습니다.
• 참여 방식: 일정 조건(예: 계정 활동 기간, 전화번호 인증 등)을 갖춘 누구나 참여할 수 있습니다. 처음에는 기존에 작성된 노트를 평가하고, 경험이 쌓이면 본인도 노트를 작성할 수 있습니다.

---

2. 노트 작성 및 평가

• 노트 작성: 사용자가 트윗에 대해 추가적인 정보를 담은 노트를 작성합니다.
• 평가 방법: 다른 사용자들이 이 노트를 보고 “도움됨(HELPFUL)”, “약간 도움됨(SOMEWHAT_HELPFUL)”, “도움 안 됨(NOT_HELPFUL)” 등으로 평가합니다.
• 점수 계산: 여러 사람의 평가를 종합해 노트마다 점수가 매겨집니다. 이 점수가 일정 기준(예를 들어 0.40 이상)이면 해당 노트가 트윗에 공개됩니다.

---

3. 알고리즘의 특별한 점

• 다양한 의견 반영: 단순히 ‘평균 점수’를 내는 것이 아니라, 정치적 견해나 의견이 다른 사용자들 모두가 동의하는 노트를 우대합니다.
  • 예를 들어, 한쪽 의견만 강하게 찬성하는 노트보다는, 서로 다른 관점을 가진 사람들이 모두 “도움됨”이라고 평가한 노트가 높은 점수를 받습니다.
• 내부 변수:
  • 도움됨(helpfulness): 노트가 얼마나 유익한지를 나타내는 점수입니다.
  • 극성(polarity): 노트나 사용자가 어느 한쪽에 치우쳐 있는지를 나타내는 값입니다. 이 값이 크면 한쪽 의견에 편향되어 있다는 의미이고, 여러 정치적 입장이 모두 동의하는 노트는 극성이 낮아(또는 중립에 가까워) 높은 점수를 받습니다.
• 투명성: 알고리즘과 평가 데이터는 공개되어 있어서, 누구나 다운로드해 실제로 어떻게 계산되는지 확인할 수 있습니다. 이는 중앙에서 일방적으로 조작하는 것이 아니라, 모두가 검증할 수 있도록 만든 시스템입니다.

---

4. 시스템이 가진 장점과 한계

• 장점:
  • 다양한 시각 반영: 여러 정치적 관점이 함께 검토하기 때문에, 한쪽에 치우친 정보보다 객관적이고 중립적인 정보를 제공할 가능성이 높습니다.
  • 투명성: 알고리즘과 데이터가 공개되어 있어 신뢰할 수 있습니다.
• 한계:
  • 조작 위험: 만약 특정 그룹이 조직적으로 “도움 안 됨” 평가를 몰아서 하면, 유익한 노트가 부당하게 삭제될 위험도 있습니다.
  • 복잡성: 알고리즘이 여러 단계의 조건과 추가 점수 조정(예: 가짜 투표 추가, 특정 태그에 따른 점수 변화 등)을 포함하기 때문에, 모든 상황에서 쉽게 설명하기 어려울 수 있습니다.

---

5. 요약

Community Notes는 트위터 사용자들이 직접 참여해 트윗에 추가적인 사실 확인 정보를 제공하는 도구입니다.

• 평가 시스템: 사용자들이 “도움됨” 등의 평가를 남기고, 그 점수를 기반으로 노트가 공개될지 결정됩니다.
• 알고리즘의 특징: 단순 평균이 아니라, 다양한 정치적 시각을 고려해 중립적이고 객관적인 노트를 선택합니다.
• 투명성: 모든 데이터와 알고리즘이 공개되어 있어서, 누구나 검증할 수 있습니다.

Teens, Social Media and Technology 2024
Pew Research

좀 하락한 소셜 미디어도 있으나 유튜브, 틱톡, 인스타그램, 스냅챗이 여전하다.

링크

인스타그램은 메타의 비디오 생성기를 통합할 예정으로, 링크에서 보는 것 같은 기능을 선보인다.

EDPB opinion on AI models: GDPR principles support responsible AI
European Data Protection Board

이제는 관심을 더 가지려고 하지만 보던게 있어 보게되는 유럽 규제 사례. 작년 7월 메타는 개인정보보호법 적용이 명확하지 않아 최신 오픈소스 언어모델(Llama) 출시를 하지 않는다고 했으나, EU는 24년 말 지침에 관해 이야기했다. 규제의 문제라고 할 수 있는 것들, 명확하게 설명하는 것이 느리고 규정이 모호한 부분이 많다는 점. 아래는 기계 요약

1. AI 모델이 익명으로 간주될 수 있는 기준
   AI 모델이 익명성(Anonymity)을 갖추려면 개인을 직접 또는 간접적으로 식별할 가능성이 매우 낮아야 한다.
   또한, 사용자의 쿼리를 통해 개인 데이터를 추출할 가능성도 매우 낮아야 한다.
   익명성을 입증하기 위한 방법에 대한 비규범적(non-prescriptive)이고 포괄적이지 않은(non-exhaustive) 예시 목록이 제공됨.
2. AI 모델 개발 및 배포 시 ‘정당한 이익(Legitimate Interest)’을 법적 근거로 사용할 수 있는지
   AI 모델이 개인 데이터를 처리할 때 ‘정당한 이익’을 법적 근거로 인정받을 수 있는지 여부는 사례별로 평가해야 한다.
   평가를 위한 3단계 테스트가 제시되었으며, 대화형 AI 및 사이버 보안 강화 AI 같은 경우 사용자에게 이익이 되는 서비스라면 ‘정당한 이익’을 기반으로 운영될 수도 있음.
   단, 데이터 처리가 ‘엄격히 필요’하다는 점을 입증해야 하며, 개인의 권리와 이익의 균형을 맞춰야 한다.
3. AI 모델이 사용자의 개인 데이터를 처리할 수 있는지에 대한 기준
   사용자가 자신의 데이터가 AI 모델에 의해 사용될 것이라고 ‘합리적으로 예상할 수 있는지’를 평가하는 기준을 제시함.
   개인 데이터가 공개적으로 이용 가능한 정보인지 여부
   데이터가 어떤 맥락에서 수집되었으며, 이후 어떻게 활용될 가능성이 있는지
   개인이 자신의 데이터가 온라인에 공개되어 있다는 사실을 알고 있는지
4. 불법적으로 수집된 데이터로 개발된 AI 모델의 적법성
   AI 모델이 불법적으로 수집된 개인 데이터를 활용해 개발되었다면, 해당 모델의 사용이 적법하지 않을 수 있다.
   단, 모델이 완전히 익명화되었다면 이러한 문제를 회피할 수 있음.

클로드에서 출시한 컴퓨터 이용(computer use) 기능. 인공지능이 브라우징, 클릭, 텍스트 입력을 수행할 수 있게 되면서 AI 에이전트가 일반화 될 것이라고 본다. 프로그래밍에서와 유사하게 속도가 느리고 보안 문제가 발생할 가능성은 있지만 다양한 솔루션으로 발전할 거라고 예상한다.

The Ghosts in the Machine
Harpers

스포티파이가 인기있는 플레이리스트에서 아티스트 곡을 저렴한 자체제작 곡으로 바꾸고 있다는 의혹에 관한 글.

Spotify는 단순히 여러 음악 제작사들과 협력하는 것뿐만 아니라, ‘Spotify가 재정적으로 이익을 얻을 수 있는 음악’을 제공하는 내부 팀을 운영하며, 이들이 플랫폼 내 플레이리스트에 특정 트랙을 배치하는 역할을 한다는 사실을 발견했다. 이를 통해 Spotify는 저비용 음악의 스트리밍 비율을 증가시키려 하고 있으며, 이 프로그램의 이름은 ‘Perfect Fit Content(PFC)’다.”

Judge blocks parts of California bid to protect kids from social media
Courthouse News Service

연방판사는 아동을 소셜미디어 중독으로부터 보호하는 법안(SB 976)의 핵심 조항을 시행하지 못하도록 캘리포니아주에 금지 명령을 내렸다. 이는 해당 법안이 기술 기업들의 수정헌법 제1조(표현의 자유) 권리를 침해할 가능성이 있다고 판단했기 때문이다. 아무리 목적이 선해보여도 규제와 관련해서 명확한 범위를 정하는 것이 쉬운일은 아니다.

판사는 아동 보호가 법적으로 중요한 명분이며 여러 과학적 연구에 의해 뒷받침되는 점은 인정했지만, 이 법안이 목적을 달성하기에 충분히 정밀하게 설계되지 않았다고 지적했다.

“NetChoice가 지적한 것처럼, ESPN과 같은 스포츠 웹사이트는 미성년자가 좋아하는 팀이 챔피언십에서 우승했다는 알림을 금지 시간대에 보낼 수 있지만, 페이스북은 동일한 알림을 보낼 수 없다.”
– 판결문에서 다빌라 판사

또한, 미성년자 계정 수 공개 요구 조항도 실효성이 부족하다고 지적했다.

“소셜미디어 플랫폼을 이용하는 미성년자 수를 공개하는 것이 미성년자의 소셜미디어 사용을 줄이는 데 도움이 된다는 근거가 없다.”
– 다빌라 판사

FCC net neutrality rules dead again as appeals court sides with Big Telco
The Register

망중립성 관련된 또 한 번의 결정. 오바마 때 ISP를 Title II(공공통신사업자)로 재분류 했으나 트럼프 행정부에서 규제가 폐지되었고 바이든 때 다시 부활했으나 이번에 법원에서 FCC 권한이 없다고 폐지

“우리는 더 이상 FCC의 법률 해석에 대한 존중을 제공하지 않는다… 우리는 광대역 인터넷 서비스 제공업체가 [통신법]에 따라 ‘통신 서비스’가 아니라 ‘정보 서비스’를 제공한다고 판단하며, 따라서 FCC는 ‘통신 서비스’ 조항을 통해 원하는 망 중립성 정책을 강제할 법적 권한이 없다.”

— 세 명의 항소법원 판사 판결문 중

망중립성 관련 찬반을 보면 규제가 폐지된 이후에도 패스트레인같은 최악의 시나리오가 발생하지 않았다는 의견이 있는 반면, 직접적으로 패스트레인을 도입하지 않아도 CP사가 ISP와 협상을 통해 우회적으로 특혜를 받고 있을 가능성이 있다는 의견이 대립된다.

Meta is ending its fact-checking program in favor of a ‘community notes’ system similar to X’s
NBC News

메타는 IFCN(International Fact-Checking Network) 인증을 받은 독립적인 팩트체킹 기관들과 파트너십을 맺고, 팩트체커가 정확성을 평가한 뒤 등급을 부여하는 방식을 사용했다. 하지만 이가 표현의 자유를 억압한다는 논란이 있었고, 오류나 일관성 측면에서 비판도 제기되었다. 하지만 이를 X와 유사한 커뮤니티 노트(크라우드 소싱 기반 팩트 체크 시스템) 시스템으로 대체한다고 밝혔다.

“우리는 본래의 방향으로 돌아가 실수를 줄이고, 정책을 단순화하며, 우리 플랫폼에서 표현의 자유를 회복하는 데 집중할 것입니다.” 주커버그는 영상에서 이렇게 말했다. “좀 더 구체적으로 말씀드리자면, 첫째, 팩트체커를 없애고 X와 유사한 커뮤니티 노트 시스템으로 대체할 것입니다. 먼저 미국에서 시작할 계획입니다.”