Meta and Content Moderation
Benedict Evans

두 가지 측면에서 콘텐츠 조정의 어려움을 이야기한다. 첫 번째는 발언이 얼마나 심각한지에 따른 스펙트럼으로, 불법, 해롭지만 합법적, 모두에게 불쾌한 것부터 일부에게만 공격적으로 느껴지는 것까지 다양하다. 두 번째 축은 ‘발행(publish)’ 개념으로, 개인적인 대화와 공공적인 게시물의 구분이 모호하며, 알고리즘이 콘텐츠를 홍보하는지 여부에 따라 책임이 달라진다.

나는 지난 10년 동안 매우 광범위하게 논의된 이 문제들의 복잡성 중 일부만을 다루었을 뿐이다 — “나쁜 것을 제거하라”고 말하는 것은 쉽지만, 그것이 실제로 무엇을 해야 하는지를 결정해야 할 때는 훨씬 어려워진다.

China’s GenAI Content Security Standard: An Explainer
China Talk

중국의 생성형 AI 검열 및 안전 표준에 관한 내용

• 이 표준은 31가지 genAI 위험을 정의합니다. 또한 임시 조치와 마찬가지로 이 표준은 검열 등 “콘텐츠 보안”에 초점을 맞춥니다.
• 모델 개발자는 다음을 포함하여 모델 수명 주기 전반에 걸쳐 이러한 위험을 식별하고 완화해야 합니다.
  • 훈련 데이터 필터링,
  • 사용자 입력 모니터링,
  • 모델 출력을 모니터링합니다.
• 이 표준은 법적 구속력은 없지만 사실상의 구속력이 될 수 있습니다.
• 이 표준에서 요구하는 모든 테스트는 정부가 아닌 모델 개발자들이 직접 실시하거나 스스로 선택한 제3자 기관에서 실시합니다.
• 하지만 이전 게시물 에서 설명했듯이 , 이 표준에 설명된 평가 외에도 당국은 자체적인 배포 전 테스트도 실시합니다. 따라서 이 표준을 준수하는 것은 genAI 모델을 대중에게 공개하기 위한 라이선스를 취득하는 데 필요하지만 충분한 조건은 아닙니다. 

What do I think about Community Notes?
Vitalik Buterin

커뮤니티 노트에 대해 자세하게 설명해 놓은 글. 꽤나 긴 글이기에 기계 요약만 기록해놓는다.

1. Community Notes란?

• 목적: 트위터에 올라오는 트윗에 대해, 잘못된 정보나 오해를 바로잡기 위해 사용자들이 직접 추가 정보를 달아주는 시스템입니다.
• 원래 이름: 처음에는 “Birdwatch”라는 이름으로 시작되었습니다.
• 참여 방식: 일정 조건(예: 계정 활동 기간, 전화번호 인증 등)을 갖춘 누구나 참여할 수 있습니다. 처음에는 기존에 작성된 노트를 평가하고, 경험이 쌓이면 본인도 노트를 작성할 수 있습니다.

---

2. 노트 작성 및 평가

• 노트 작성: 사용자가 트윗에 대해 추가적인 정보를 담은 노트를 작성합니다.
• 평가 방법: 다른 사용자들이 이 노트를 보고 “도움됨(HELPFUL)”, “약간 도움됨(SOMEWHAT_HELPFUL)”, “도움 안 됨(NOT_HELPFUL)” 등으로 평가합니다.
• 점수 계산: 여러 사람의 평가를 종합해 노트마다 점수가 매겨집니다. 이 점수가 일정 기준(예를 들어 0.40 이상)이면 해당 노트가 트윗에 공개됩니다.

---

3. 알고리즘의 특별한 점

• 다양한 의견 반영: 단순히 ‘평균 점수’를 내는 것이 아니라, 정치적 견해나 의견이 다른 사용자들 모두가 동의하는 노트를 우대합니다.
  • 예를 들어, 한쪽 의견만 강하게 찬성하는 노트보다는, 서로 다른 관점을 가진 사람들이 모두 “도움됨”이라고 평가한 노트가 높은 점수를 받습니다.
• 내부 변수:
  • 도움됨(helpfulness): 노트가 얼마나 유익한지를 나타내는 점수입니다.
  • 극성(polarity): 노트나 사용자가 어느 한쪽에 치우쳐 있는지를 나타내는 값입니다. 이 값이 크면 한쪽 의견에 편향되어 있다는 의미이고, 여러 정치적 입장이 모두 동의하는 노트는 극성이 낮아(또는 중립에 가까워) 높은 점수를 받습니다.
• 투명성: 알고리즘과 평가 데이터는 공개되어 있어서, 누구나 다운로드해 실제로 어떻게 계산되는지 확인할 수 있습니다. 이는 중앙에서 일방적으로 조작하는 것이 아니라, 모두가 검증할 수 있도록 만든 시스템입니다.

---

4. 시스템이 가진 장점과 한계

• 장점:
  • 다양한 시각 반영: 여러 정치적 관점이 함께 검토하기 때문에, 한쪽에 치우친 정보보다 객관적이고 중립적인 정보를 제공할 가능성이 높습니다.
  • 투명성: 알고리즘과 데이터가 공개되어 있어 신뢰할 수 있습니다.
• 한계:
  • 조작 위험: 만약 특정 그룹이 조직적으로 “도움 안 됨” 평가를 몰아서 하면, 유익한 노트가 부당하게 삭제될 위험도 있습니다.
  • 복잡성: 알고리즘이 여러 단계의 조건과 추가 점수 조정(예: 가짜 투표 추가, 특정 태그에 따른 점수 변화 등)을 포함하기 때문에, 모든 상황에서 쉽게 설명하기 어려울 수 있습니다.

---

5. 요약

Community Notes는 트위터 사용자들이 직접 참여해 트윗에 추가적인 사실 확인 정보를 제공하는 도구입니다.

• 평가 시스템: 사용자들이 “도움됨” 등의 평가를 남기고, 그 점수를 기반으로 노트가 공개될지 결정됩니다.
• 알고리즘의 특징: 단순 평균이 아니라, 다양한 정치적 시각을 고려해 중립적이고 객관적인 노트를 선택합니다.
• 투명성: 모든 데이터와 알고리즘이 공개되어 있어서, 누구나 검증할 수 있습니다.

Meta Drops Fact-Checking Because of Politics, but Also Because It Wasn’t Working
Better Conflict Bulletin

메타가 프로그램을 변경한 이유가 정치적인 것도 있지만, 프로그램이 신뢰나 규모를 달성하지 못했기 때문이라는 주장. 몇 가지 주장에 대해 근거를 정리하여 이야기한다. 읽을만한 글.

하지만 많은 개별 팩트체커들의 훌륭한 작업에도 불구하고, 전체적인 팩트체크 프로그램은 중요한 측면에서 어려움을 겪고 있었다는 것도 사실이다. 이러한 프로그램이 제대로 작동하려면, 적어도 세 가지를 달성해야 한다:

• 유해한 허위 정보를 정확하고 공정하게 표기할 것
• 청중의 신뢰를 유지할 것
• 변화를 이끌어낼 만큼 충분히 크고 빠를 것

이 글에서는 이 세 가지에 대한 증거들을 살펴볼 것이다. 편향에 대한 반복적인 주장에도 불구하고, 팩트체커들이 대부분 상당히 정확하고 공정했다는 충분한 이유가 있다. 하지만 이 프로그램은 결코 플랫폼 규모나 속도 면에서 운영되지 않았으며, 허위 정보에 가장 많이 노출된 사람들 사이에서 빠르게 불신을 받게 되었다.

Tech giants told UK online safety laws ‘not up for negotiation’
Guardian

(주커버그는) 작년에 온라인 안전법을 통과시킨 영국을 특별히 언급하지는 않았지만, 유럽에서 “검열을 제도화하는 법률이 점점 더 늘어나고 있다”고 말했습니다.

이번 주에 스타머와 함께 정부의 AI 전략을 공개할 준비를 하고 있는 카일은 주커버그가 입법자로서 자신이 고려해야 했던 언론의 자유와 동일한 문제로 고민하고 있다고 말했습니다. 그러나 카일은 영국의 새로운 온라인 안전법을 폐지하는 것은 용납할 수 없다고 말했습니다.

“이러한 법률의 한계는 매우, 매우 높은 수준으로 책임감 있는 자유로운 발언을 허용합니다.”라고 그는 말했습니다. “하지만 저는 이 기본적인 요점만 말씀드리겠습니다. 영국 사회와 경제에 대한 접근은 특권이며 권리가 아닙니다. 그리고 어린이와 취약 계층을 위한 기본적 보호는 협상 대상이 아닙니다.

Exclusive: Meta kills DEI programs
Axios

메타는 DEI 프로그램 종료를 발표했다. 다양성(diversity), 형평성(equity), 포용성(inclusion)이다.

“변화하는 법률 및 정책 환경”을 언급하며 Meta의 메모는 5가지 큰 DEI 철회를 발표했습니다.

• Meta의 DEI 팀 삭감 : Meta는 더 이상 DEI에 집중하는 팀을 갖지 않을 것입니다. 회사의 최고 다양성 책임자인 Maxine Williams가 Meta에서 접근성과 참여에 집중하는 새로운 역할을 맡을 것이라고 Gale은 적었습니다.
• 평등과 포용 프로그램 종료: 대신 Meta는 “배경에 관계없이 모든 사람에 대한 편견을 완화하는 공정하고 일관된 관행을 적용하는 방법에 초점을 맞춘” 프로그램을 구축할 것이라고 Gale은 말했습니다.
• 공급업체 다양성 노력의 종식 : Meta는 다양한 소유 기업에서 비즈니스 공급업체를 찾는 노력을 종료할 것입니다. 앞으로 회사는 “경제의 대부분을 움직이는 중소기업을 지원하는 데 노력을 집중할 것”이라고 Gale은 썼습니다.
• 채용에 대한 “다양한 슬레이트 접근법” 종료: Meta는 다양한 배경을 가진 후보자를 계속 모집하지만, 모든 공석에 대해 다양한 후보자 풀이 고려되도록 하는 다양한 슬레이트 채용 접근법은 더 이상 사용하지 않을 것입니다. Gale은 “업계를 선도하는 인력을 구축하고 모든 유형의 배경을 가진 세계적 수준의 사람들로 구성된 팀을 활용할 수 있는 다른 방법이 있다고 믿습니다.”라고 적었습니다.
• 대표 목표 종료 : 대표 목표를 갖는 것은 “인종이나 성별에 따라 결정이 내려진다는 인상을 줄 수 있습니다.”라고 Gale은 썼습니다. “이것이 우리의 관행은 아니지만, 우리는 그것에 대한 인상을 없애고 싶습니다.”라고 그녀는 말했습니다. 그녀는 회사가 “이전에 여성과 소수 민족에 대한 대표 목표를 종료했습니다.”라고 언급했습니다.

Trump, the Public, and the Press
CJR

베테랑 편집자인 노먼 펄스타인은 Columbia Journalism Review(CJR)에서 “억만장자 계급은 미디어의 형편없는 관리자로 드러났다”고 썼다. 억만장자 소유주들과 함께 일한 경험이 있는 펄스타인은 미디어 경영의 핵심으로 “편집권 독립에 헌신하는 소유주”를 꼽았다. 너무 자연스럽게 편집권 독립을 말해왔지만 요즘 생각해보면 가능한 일인가 싶다

Meta surrenders to the right on speech
Platformer

어떤 선택을 해도 욕을 먹게 되니 그런거 아닐까

마크 주커버그 CEO는 이러한 조치들이 회사에 대한 긍정적인 반응을 이끌어낼 것이라 기대했다. 특히, 2020년 트럼프가 패배한 후 권력을 되찾은 민주당의 호의를 얻을 것으로 예상했다. 그러나 현실은 달랐다. 페이스북에 대한 반감은 여전히 초당적으로 강하게 남아 있었다. 공화당은 해당 플랫폼이 우파를 불균형적으로 처벌한다고 비난했다. 우파는 좌파보다 더 많은 허위 정보와 혐오 발언을 게시하는 경향이 있었기 때문이다. 반면, 민주당은 미국의 정치적 양극화와 민주주의의 붕괴에 대한 책임을 그에게 돌렸다. 그리고 모든 진영이 그의 앱이 아동에게 미치는 해악에 대해 맹비난했다. 이 문제로 인해 현재 미국 42개 주의 법무장관들이 그를 상대로 소송을 제기한 상태다.

How Zuckerberg pivoted on content limits
Axios

쉽지 않은 문제다

페이스북, 인스타그램, 트위터, 틱톡과 같은 소셜미디어 거대 기업의 창립자들은 자신들이 결국 산업에서 “콘텐츠 조정(content moderation)”이라 불리는 일을 하게 될 것이라고 예상하지 못했다. 하지만 많은 비평가들, 그리고 이제는 주커버그조차도 이를 “검열(censorship)”이라며 비판하고 있다. 온라인에서 발언을 관리하는 것은 제대로 하려면 막대한 비용이 든다. 모든 사람을 만족시키는 것은 불가능하며, 실수를 피할 수도 없다. 게다가 사용자들의 요구는 끊임없이 변한다.