What do I think about Community Notes?
Vitalik Buterin

커뮤니티 노트에 대해 자세하게 설명해 놓은 글. 꽤나 긴 글이기에 기계 요약만 기록해놓는다.

1. Community Notes란?

• 목적: 트위터에 올라오는 트윗에 대해, 잘못된 정보나 오해를 바로잡기 위해 사용자들이 직접 추가 정보를 달아주는 시스템입니다.
• 원래 이름: 처음에는 “Birdwatch”라는 이름으로 시작되었습니다.
• 참여 방식: 일정 조건(예: 계정 활동 기간, 전화번호 인증 등)을 갖춘 누구나 참여할 수 있습니다. 처음에는 기존에 작성된 노트를 평가하고, 경험이 쌓이면 본인도 노트를 작성할 수 있습니다.

---

2. 노트 작성 및 평가

• 노트 작성: 사용자가 트윗에 대해 추가적인 정보를 담은 노트를 작성합니다.
• 평가 방법: 다른 사용자들이 이 노트를 보고 “도움됨(HELPFUL)”, “약간 도움됨(SOMEWHAT_HELPFUL)”, “도움 안 됨(NOT_HELPFUL)” 등으로 평가합니다.
• 점수 계산: 여러 사람의 평가를 종합해 노트마다 점수가 매겨집니다. 이 점수가 일정 기준(예를 들어 0.40 이상)이면 해당 노트가 트윗에 공개됩니다.

---

3. 알고리즘의 특별한 점

• 다양한 의견 반영: 단순히 ‘평균 점수’를 내는 것이 아니라, 정치적 견해나 의견이 다른 사용자들 모두가 동의하는 노트를 우대합니다.
  • 예를 들어, 한쪽 의견만 강하게 찬성하는 노트보다는, 서로 다른 관점을 가진 사람들이 모두 “도움됨”이라고 평가한 노트가 높은 점수를 받습니다.
• 내부 변수:
  • 도움됨(helpfulness): 노트가 얼마나 유익한지를 나타내는 점수입니다.
  • 극성(polarity): 노트나 사용자가 어느 한쪽에 치우쳐 있는지를 나타내는 값입니다. 이 값이 크면 한쪽 의견에 편향되어 있다는 의미이고, 여러 정치적 입장이 모두 동의하는 노트는 극성이 낮아(또는 중립에 가까워) 높은 점수를 받습니다.
• 투명성: 알고리즘과 평가 데이터는 공개되어 있어서, 누구나 다운로드해 실제로 어떻게 계산되는지 확인할 수 있습니다. 이는 중앙에서 일방적으로 조작하는 것이 아니라, 모두가 검증할 수 있도록 만든 시스템입니다.

---

4. 시스템이 가진 장점과 한계

• 장점:
  • 다양한 시각 반영: 여러 정치적 관점이 함께 검토하기 때문에, 한쪽에 치우친 정보보다 객관적이고 중립적인 정보를 제공할 가능성이 높습니다.
  • 투명성: 알고리즘과 데이터가 공개되어 있어 신뢰할 수 있습니다.
• 한계:
  • 조작 위험: 만약 특정 그룹이 조직적으로 “도움 안 됨” 평가를 몰아서 하면, 유익한 노트가 부당하게 삭제될 위험도 있습니다.
  • 복잡성: 알고리즘이 여러 단계의 조건과 추가 점수 조정(예: 가짜 투표 추가, 특정 태그에 따른 점수 변화 등)을 포함하기 때문에, 모든 상황에서 쉽게 설명하기 어려울 수 있습니다.

---

5. 요약

Community Notes는 트위터 사용자들이 직접 참여해 트윗에 추가적인 사실 확인 정보를 제공하는 도구입니다.

• 평가 시스템: 사용자들이 “도움됨” 등의 평가를 남기고, 그 점수를 기반으로 노트가 공개될지 결정됩니다.
• 알고리즘의 특징: 단순 평균이 아니라, 다양한 정치적 시각을 고려해 중립적이고 객관적인 노트를 선택합니다.
• 투명성: 모든 데이터와 알고리즘이 공개되어 있어서, 누구나 검증할 수 있습니다.

Meta Drops Fact-Checking Because of Politics, but Also Because It Wasn’t Working
Better Conflict Bulletin

메타가 프로그램을 변경한 이유가 정치적인 것도 있지만, 프로그램이 신뢰나 규모를 달성하지 못했기 때문이라는 주장. 몇 가지 주장에 대해 근거를 정리하여 이야기한다. 읽을만한 글.

하지만 많은 개별 팩트체커들의 훌륭한 작업에도 불구하고, 전체적인 팩트체크 프로그램은 중요한 측면에서 어려움을 겪고 있었다는 것도 사실이다. 이러한 프로그램이 제대로 작동하려면, 적어도 세 가지를 달성해야 한다:

• 유해한 허위 정보를 정확하고 공정하게 표기할 것
• 청중의 신뢰를 유지할 것
• 변화를 이끌어낼 만큼 충분히 크고 빠를 것

이 글에서는 이 세 가지에 대한 증거들을 살펴볼 것이다. 편향에 대한 반복적인 주장에도 불구하고, 팩트체커들이 대부분 상당히 정확하고 공정했다는 충분한 이유가 있다. 하지만 이 프로그램은 결코 플랫폼 규모나 속도 면에서 운영되지 않았으며, 허위 정보에 가장 많이 노출된 사람들 사이에서 빠르게 불신을 받게 되었다.

Tech giants told UK online safety laws ‘not up for negotiation’
Guardian

(주커버그는) 작년에 온라인 안전법을 통과시킨 영국을 특별히 언급하지는 않았지만, 유럽에서 “검열을 제도화하는 법률이 점점 더 늘어나고 있다”고 말했습니다.

이번 주에 스타머와 함께 정부의 AI 전략을 공개할 준비를 하고 있는 카일은 주커버그가 입법자로서 자신이 고려해야 했던 언론의 자유와 동일한 문제로 고민하고 있다고 말했습니다. 그러나 카일은 영국의 새로운 온라인 안전법을 폐지하는 것은 용납할 수 없다고 말했습니다.

“이러한 법률의 한계는 매우, 매우 높은 수준으로 책임감 있는 자유로운 발언을 허용합니다.”라고 그는 말했습니다. “하지만 저는 이 기본적인 요점만 말씀드리겠습니다. 영국 사회와 경제에 대한 접근은 특권이며 권리가 아닙니다. 그리고 어린이와 취약 계층을 위한 기본적 보호는 협상 대상이 아닙니다.

Exclusive: Meta kills DEI programs
Axios

메타는 DEI 프로그램 종료를 발표했다. 다양성(diversity), 형평성(equity), 포용성(inclusion)이다.

“변화하는 법률 및 정책 환경”을 언급하며 Meta의 메모는 5가지 큰 DEI 철회를 발표했습니다.

• Meta의 DEI 팀 삭감 : Meta는 더 이상 DEI에 집중하는 팀을 갖지 않을 것입니다. 회사의 최고 다양성 책임자인 Maxine Williams가 Meta에서 접근성과 참여에 집중하는 새로운 역할을 맡을 것이라고 Gale은 적었습니다.
• 평등과 포용 프로그램 종료: 대신 Meta는 “배경에 관계없이 모든 사람에 대한 편견을 완화하는 공정하고 일관된 관행을 적용하는 방법에 초점을 맞춘” 프로그램을 구축할 것이라고 Gale은 말했습니다.
• 공급업체 다양성 노력의 종식 : Meta는 다양한 소유 기업에서 비즈니스 공급업체를 찾는 노력을 종료할 것입니다. 앞으로 회사는 “경제의 대부분을 움직이는 중소기업을 지원하는 데 노력을 집중할 것”이라고 Gale은 썼습니다.
• 채용에 대한 “다양한 슬레이트 접근법” 종료: Meta는 다양한 배경을 가진 후보자를 계속 모집하지만, 모든 공석에 대해 다양한 후보자 풀이 고려되도록 하는 다양한 슬레이트 채용 접근법은 더 이상 사용하지 않을 것입니다. Gale은 “업계를 선도하는 인력을 구축하고 모든 유형의 배경을 가진 세계적 수준의 사람들로 구성된 팀을 활용할 수 있는 다른 방법이 있다고 믿습니다.”라고 적었습니다.
• 대표 목표 종료 : 대표 목표를 갖는 것은 “인종이나 성별에 따라 결정이 내려진다는 인상을 줄 수 있습니다.”라고 Gale은 썼습니다. “이것이 우리의 관행은 아니지만, 우리는 그것에 대한 인상을 없애고 싶습니다.”라고 그녀는 말했습니다. 그녀는 회사가 “이전에 여성과 소수 민족에 대한 대표 목표를 종료했습니다.”라고 언급했습니다.

Trump, the Public, and the Press
CJR

베테랑 편집자인 노먼 펄스타인은 Columbia Journalism Review(CJR)에서 “억만장자 계급은 미디어의 형편없는 관리자로 드러났다”고 썼다. 억만장자 소유주들과 함께 일한 경험이 있는 펄스타인은 미디어 경영의 핵심으로 “편집권 독립에 헌신하는 소유주”를 꼽았다. 너무 자연스럽게 편집권 독립을 말해왔지만 요즘 생각해보면 가능한 일인가 싶다

Meta surrenders to the right on speech
Platformer

어떤 선택을 해도 욕을 먹게 되니 그런거 아닐까

마크 주커버그 CEO는 이러한 조치들이 회사에 대한 긍정적인 반응을 이끌어낼 것이라 기대했다. 특히, 2020년 트럼프가 패배한 후 권력을 되찾은 민주당의 호의를 얻을 것으로 예상했다. 그러나 현실은 달랐다. 페이스북에 대한 반감은 여전히 초당적으로 강하게 남아 있었다. 공화당은 해당 플랫폼이 우파를 불균형적으로 처벌한다고 비난했다. 우파는 좌파보다 더 많은 허위 정보와 혐오 발언을 게시하는 경향이 있었기 때문이다. 반면, 민주당은 미국의 정치적 양극화와 민주주의의 붕괴에 대한 책임을 그에게 돌렸다. 그리고 모든 진영이 그의 앱이 아동에게 미치는 해악에 대해 맹비난했다. 이 문제로 인해 현재 미국 42개 주의 법무장관들이 그를 상대로 소송을 제기한 상태다.

How Zuckerberg pivoted on content limits
Axios

쉽지 않은 문제다

페이스북, 인스타그램, 트위터, 틱톡과 같은 소셜미디어 거대 기업의 창립자들은 자신들이 결국 산업에서 “콘텐츠 조정(content moderation)”이라 불리는 일을 하게 될 것이라고 예상하지 못했다. 하지만 많은 비평가들, 그리고 이제는 주커버그조차도 이를 “검열(censorship)”이라며 비판하고 있다. 온라인에서 발언을 관리하는 것은 제대로 하려면 막대한 비용이 든다. 모든 사람을 만족시키는 것은 불가능하며, 실수를 피할 수도 없다. 게다가 사용자들의 요구는 끊임없이 변한다.

Meta is ending its fact-checking program in favor of a ‘community notes’ system similar to X’s
NBC News

메타는 IFCN(International Fact-Checking Network) 인증을 받은 독립적인 팩트체킹 기관들과 파트너십을 맺고, 팩트체커가 정확성을 평가한 뒤 등급을 부여하는 방식을 사용했다. 하지만 이가 표현의 자유를 억압한다는 논란이 있었고, 오류나 일관성 측면에서 비판도 제기되었다. 하지만 이를 X와 유사한 커뮤니티 노트(크라우드 소싱 기반 팩트 체크 시스템) 시스템으로 대체한다고 밝혔다.

“우리는 본래의 방향으로 돌아가 실수를 줄이고, 정책을 단순화하며, 우리 플랫폼에서 표현의 자유를 회복하는 데 집중할 것입니다.” 주커버그는 영상에서 이렇게 말했다. “좀 더 구체적으로 말씀드리자면, 첫째, 팩트체커를 없애고 X와 유사한 커뮤니티 노트 시스템으로 대체할 것입니다. 먼저 미국에서 시작할 계획입니다.”