Rob’s Notes 9: Beware Deepfake Scams

유명 연예인을 ‘미끼’로 사용해 사용자의 클릭을 유도하거나(예: 스타의 사망 또는 체포 암시), 해당 연예인이 해당 제품이나 서비스를 사용하거나 보증한 것처럼 가장하는 ‘셀럽 미끼’를 오랫동안 사용해 온 사기성 광고에 대한 내용.

이 비디오는 종종 지역 뉴스 소스의 딥페이크 뉴스 보도(위, BBC 뉴스가 디지털 방식으로 변경된 경우)나 영국의 마틴 루이스와 같은 지역 금융계 유명인의 소개로 시작됩니다. 그런 다음 엘론 머스크가 흐릿한 배경(아마도 유출된 Zoom 통화에서 뜯어낸 것일 수 있음)이나 컨퍼런스에서 연설하거나 거래 이미지를 보여주는 다양한 주식 ‘주식 시장’ 비디오 영상과 함께 연설하는 장면이 등장할 수 있습니다. 가짜 머스크는 다음과 같이 설명합니다:

• 그들은 애플, 구글 등의 엔지니어들과 함께 양자 컴퓨팅 거래 시스템을 개발하는 데 몇 년 동안 10억~50억 달러를 투자했습니다.
• 항상 성공하는 것은 아니지만, 그의 시스템은 “90% 이상의 효율로 거래에서 승리”합니다.
• 250파운드부터 시작하여 하루에 5700파운드 이상을 벌 수 있습니다.
• 루이스 해밀턴, 리처드 브랜슨, 차마스 팔리하피티야 등 많은 유명인들이 이에 참여하고 지지하고 있으며, 때로는 이 계획 자체가 아닌 비트코인에 대해 이야기하는 비디오 영상을 사용하기도 합니다.
• 영국인들이 더 이상 일할 필요가 없을 것이라는 주장과 기타 주장

Art Critic Jerry Saltz Gets Into an Online Skirmish With A.I. Superstar Refik Anadol

2022년 뉴욕 현대미술관 1층에 설치되어 최근 미술관 영구 소장품으로 인수된 24피트 높이의 스크린 기반 작품 인 언수퍼바이즈드(Unsupervised )를 둘러싸고 논쟁이 벌어졌습니다. 이 작품은 MoMA의 전체 온라인 카탈로그에 대한 알고리즘의 해석을 나타내는 다차원적인 색채의 파동으로 구성되어 있으며, 모더니즘의 가장 유명한 사조의 형태를 반영하고 있습니다. 아트넷 뉴스의 비평가인 벤 데이비스는 이 작품이 충분히 유쾌하지만 분명히 과대 포장된 작품이라고 평가했으며, MoMA는 “현대 미술의 역사를 재구성하고 과거를 꿈꾼다”고 대담하게 주장했습니다.

예술 비평가들이 흔히 그렇듯이 솔츠는 아나돌 작품의 문화적 가치를 평가할 때 결코 말을 아끼지 않았습니다. 그는 지난 2월 독수리에 실린 리뷰에서 언수퍼비디드가 관객들에게 큰 인기를 끌었고 심지어 “한 번에 몇 분 동안은 약간 재미있었다”고 인정했지만, 궁극적으로 이 작품이 너무 진부하고 눈에 너무 쉽게 들어왔다고 평가했습니다. “이 극도로 통제되고 방부 처리된 환경에서 예술과 의심은 별개의 침실을 유지합니다.”라고 그는 말했습니다.

가장 기억에 남는 것은 솔츠가 이 작품을 “거대한 테크노 용암 램프”, “50만 달러짜리 스크린 세이버”라고 묘사했다는 점입니다.

다른 몇 개 기사를 참고해보면 작품에 관한 평가가 과장된 것인지 아닌지 생각해 볼 수 있을 듯

Regretful Accelerationism
Stratechery by Ben Thompson

직업적으로도 개인적으로도 인터넷 발전에서 많은 혜택을 받았던 벤 톰슨이 (기술적) 진보에 관해 마지 못해 가속주의적 관점을 택하고 있는 이유에 관해 설명한다.

레디 플레이어 원에는 이스터에그라는 ‘현재진행형’이 존재했고, 주인공이 이스터에그를 찾는 과정이 전 세계의 관심을 불러일으켰습니다. 하지만 이러한 묘사는 현실과 맞지 않습니다. 우리는 거장 건축가가 설계한 단일 온라인 세계가 오프라인의 관심을 유도하는 것이 아니라, 여러 측면에서 부수적으로 발생하는 집단적 히스테리에 의해 인간성이 결여된 수많은 사용자가 계획 지점을 중심으로 결집하는 것을 볼 수 있습니다. 그 결과는 누구도 통제할 수 없습니다.

레디플레이어원과 달리 인터넷에는 단 하나의 가상세계가 아닌 빅테크 기업이 하위 스택을 모두 통제하는 세계로, HTTP와 같은 프로토콜은 존재하지만 이러한 프로토콜은 온라인에서 돈을 벌 수 있다는 생각 이전에 만들어졌다. 오늘날 API는 모두 상업적 의도를 포함하고 있다.

현재 온라인 세계에서 두 가지 제약이 사라지고 있는데, 하나는 콘텐츠 제작에 필요한 한계비용이 제거되고 있다는 것이고, 다른 하나는 과거에는 이용자 제작 콘텐츠가 지인에 제한되었지만(페이스북처럼), 현재는 전체 네트워크에서 가장 매력적인 콘텐츠를 노출시키고 있다(틱톡처럼).

두 가지 흐름은 모든 사용자를 위해 생성된 맞춤형 콘텐츠에 관한 문제를 제기한다. 대규모 언어 모델을 활용하여 상호작용하는 부분에 관한 논의가 이루어지고 있지만, 결국 이러한 노력도 타인과 상호작용을 더 원활하게 하기 위함이다. 하지만 벤 톰슨이 느끼기에 온라인에서 인간 대 인간의 상호작용은 사라진 것 같다고 말하며, 온라인에서 살아남기 위해서는 어쩌면 온라인을 멀리하는 것이 방법일 수 있다는 말을 한다.

이야기를 한 맥락은 X와 같은 소셜 플랫폼에 관한 회의감에서 시작했을 수 있을 것 같은데, 꽤나 여러가지 이슈를 언급하고 있어 생각해 볼 부분이 많다.

Most readers want publishers to label AI-generated articles — but trust outlets less when they do

대부분의 독자는 퍼블리셔가 AI가 생성한 기사에 라벨을 붙이기를 원하지만, 그렇게 할 경우 언론사에 대한 신뢰도가 떨어진다고 생각하는 것으로 나타났다. 연구진은 뉴스 기사와 함께 출처 목록을 제공했을 때, 인공지능의 사용을 공개하는 라벨이 신뢰도를 떨어뜨리지 않는다는 사실도 발견했다.

인간의 본성을 나타내주는 연구 결과 같아서 흥미롭다. 다른 결과도 흥미로운 부분이 있어 나중에 참고할 부분이 있을 듯.

Why BBC is ‘the neighbour from hell’ for leading regional newsbrand editors
PressGazzette

지역 뉴스를 강화하려는 BBC 계획에 지역 언론이 반대한다는 기사. 지역언론은 BBC가 현재 지역 뉴스 전략을 버리고 기존 지역 뉴스 퍼블리셔와 연계하는 방향을 할 것을 주장

구글, 메타 등과 달리 BBC의 자금은 수신료로 보장되기 때문에 영국 대중은 지역 저널리즘이 직면한 가장 큰 위협을 감수하고 있습니다. 지역 뉴스 웹사이트에 현금을 쏟아 붓고 있으며, 자랑스러운 독립 뉴스 사이트가 장기적으로 생존하는 것을 점점 더 어렵게 만들고 있습니다.

어떻게 진행되고 있나요? 지난 2022년 10월, BBC는 영국 전역의 커뮤니티에서 지역 온라인 뉴스 제공을 강화하기 위한 계획을 발표했습니다. 이 계획에는 130개의 추가 게시물을 만드는 것이 포함됩니다. 일반적으로 더 많은 저널리즘을 제공하는 것은 환영할 만한 일이지만, BBC의 계획으로 인해 수 세대에 걸쳐 지역사회에 알려진 수천 개의 기존 일자리가 위험에 처하게 되었습니다.

우리나라에서 비슷한 일이 발생한다면 지역 뉴스가 살아남을 수 있을까?

Opinion Actually, people don’t hate the media as much as you think
Washington Post

언론에 대해 가지는 몇 가지 선입견이 그렇지 않은 경우가 많다는 것을 보여주는 오피니언 글. 조사 방법에 따라 언론 신뢰도 달라지며, 보수와 진보의 차이도 생각보다 크지 않을 수 있다는 언급을 한다.

갤럽의 조사에 따르면 미국인의 34%만이 언론이 뉴스를 “완전하고 정확하며 공정하게” 보도한다고 “어느 정도” 신뢰하고 확신하고 있습니다. 하지만 같은 질문을 약간만 달리해서 물어보면 결과는 상당히 달라집니다. 시카고 대학교의 리서치 회사인 NORC에서는 사람들에게 갤럽이 사용하는 4점 척도가 아닌 5점 척도, 즉 5개의 가능한 답변을 제공합니다. 이 방법을 사용하면 미국인의 절반 이상(55%)이 언론의 정확성을 신뢰합니다. 퓨 리서치 센터는 여전히 다른 방식으로 질문한 결과, 61%가 국가 뉴스 기관에서 얻는 정보를 “매우” 또는 “어느 정도” 신뢰한다고 답했습니다.

“요점은 책임 있는 언론의 인프라를 재구축하는 방법과 언론의 운영 방식에 대해 생각할 때 일반화나 획일적인 가정을 경계해야 한다는 것입니다. 우리는 아직 모르는 것이 많습니다.”라고 말한다.

In the wake of Idalia, residents of one Florida town are turning to Facebook for their news
Poynter

언론이 많지 않은 지역에서 소셜 미디어에 의존하는 사례. 허리케인이 지나가고 난 이후 메디슨과 같은 작은 마을에서 페이스북 페이지가 지역뉴스 보도의 공백을 메우는데 도움을 주었다는 내용.

인구 18,000명의 매디슨 카운티에는 매디슨 카운티 캐리어와 엔터프라이즈 레코더라는 두 개의 신문이 있으며, 일주일에 두 번 발행됩니다. 폭풍우 보도와 같은 뉴스 속보를 보려면 주민들은 50마일 이상 떨어진 탤러해시에 있는 CBS 계열사인 WCTV나 입소문 페이스북 페이지를 자주 이용한다고 Spicer는 말합니다. 스파이서는 5년 전 커뮤니티가 다른 방법으로는 찾을 수 없었을지도 모르는 정보에 액세스할 수 있도록 돕기 위해 이 페이지를 시작했습니다.

Non-news sites expose people to more political content than news sites. Why?
Niemanlab

올해 8월 Political Communication 저널에 소개된 연구를 소개하는 기사. 몇 번 고민했던 주제와 비슷한 내용이고, 인상적인 부분이 몇 가지 있다.

Wojcieszak, M., Menchen-Trevino, E., von Hohenberg, B. C., de Leeuw, S., Gonçalves, J., Davidson, S., & Gonçalves, A. (2023). Non-news websites expose people to more political content than news websites: Evidence from browsing data in three countries. Political Communication, 1-23.

미국, 네덜란드, 폴란드의 온라인 이용자 7,266명을 대상으로 3개월마다 20분간 설문조사를 실시(PC 온라인 브라우징 기록도 함께 수집, 총 3회). 655,000개 도메인에 있는 URL 방문데이터에서 뉴스 사이트 목록을 식별. 정치정보가 존재하는지 확인할 수 있는 다국어 분류기 통해 확인(이 부분은 어떻게 만들어졌는지 아직 자세히 보지 않음)

그래서 소개하고 있는 결론은 다음과 같다.

연구진은 “정치 콘텐츠 방문 10건 중 3.4건은 뉴스에서, 6.6건은 비뉴스 사이트에서 발생합니다.”라고 지적했습니다.

이는 대부분의 사람들이 뉴스를 자주 이용하지 않기 때문인데, 참가자들의 전체 온라인 브라우징 중 뉴스 사이트는 3.4%에 불과했으며, 이는 뉴스가 전체 온라인 소비의 약 4%를 차지한다는 다른 연구 결과와도 일치합니다. 그리고 이 연구에 참여한 사람들이 뉴스 사이트를 방문했을 때 주로 정치 이외의 다른 내용을 읽었습니다: 뉴스 사이트 방문의 14%(네덜란드)에서 36%(미국)만이 정치 콘텐츠와 관련이 있었습니다.

최근 잠깐 이야기했던 뉴스회피와 연결해서 여러가지 생각이 드는 연구 결과

Universal Music Group lands new royalty model that boosts popular artists
Verge

별다른 생각이 없어서인지 이전까지는 인지하지 못했던 내용. 스트리밍 수익 배분은 재생 횟수를 기준으로 이루어지는데, 전체 재생에서 해당 아티스트 곡이 재생된 비율만큼 정산금을 받는다. 그런데 화이트 노이즈 같은 것도 아티스트 곡과 같은 비중으로 정산에 포함된다는 사실. 예를 들면, 테일러 스위프트 곡 1회 재생과 비오는 소리 1회가 같은 금액을 받는다는 것.

Deezer의 CEO 제로니모 폴게이라(Jeronimo Folgueira)는 이번 계약이 음악 스트리밍이 처음 시작된 이래로 “가장 야심찬 변화”라고 말합니다. “모든 콘텐츠의 가치가 동일하게 평가되는 산업은 없으며, 빗소리나 세탁기 소리가 좋아하는 아티스트의 노래만큼 가치가 없다는 것은 모두에게 분명한 사실입니다.”라고 Folgueira는 보도 자료에서 말합니다.

Deezer는 아티스트가 아닌 주변 소음으로 감지된 트랙을 수익화할 예정이며, 이를 새로운 사내 사운드 라이브러리로 대체할 계획입니다. Deezer는 향후 출시될 노이즈 트랙에 대해서는 로열티를 받지 않을 것이라고 밝혔습니다.

Too much to bite: Why an Apple purchase of Disney is (probably) too much
Linkedin by Ian Whittaker

애플의 디즈니 인수설이 돌았는데 말이 안 된다고 생각하고 넘겼지만, 진지하게 고민하는 사람이 많았나보다. 진지하게 안 되는 이유에 대해서 적은 글. 요약본.

• 애플의 디즈니 인수를 지지하는 주장:
  • 방대한 영화 및 프로그램 카탈로그, 대규모 스트리밍 서비스, 테마파크, ESPN 소유권 등 Disney의 귀중한 자산
  • 수익 증대 잠재력 및 수익원 다각화
• 애플과 디즈니의 거래에 반대하는 이유와 장애물:
  • 디즈니의 시가총액이 1,490억 달러에 달하는 거래 규모
  • 규제 리스크와 미국 및 해외 규제 당국의 조사
  • 정치적 고려 사항과 Apple이 정치적 논란에 휘말릴 가능성
  • Apple의 보수적인 성격과 대규모 인수를 꺼려하는 역사
  • 스트리밍 전략, Hulu의 소유권 및 기타 전략적 결정에 대한 질문을 포함하여 Disney가 직면한 과제
  • 서비스 성장, 가상 현실, AI 역량을 포함한 Apple의 전략적 우선순위
• 더 나은 옵션에 대한 제안: Apple이 Disney의 지분을 상당 부분 인수하고 전략적 파트너십을 맺는 것
• 결론: Apple이 Disney를 완전히 인수할 가능성은 낮지만 두 회사 간의 어떤 형태의 거래는 가능하며 더 합리적일 수 있습니다.