Blog

  • 틱톡 조작에 관한 연구

    Finkelstein, D., Yanovsky, S., Zucker, J., Jagdeep, A., Vasko, C., Jagdeep, A., Jussim, L., & Finkelstein, J. (In press). Information manipulation on TikTok and its relation to American users’ beliefs about China. Frontiers in Social Psychology, 2.

    연구방법 참고용으로 남기는 논문

    세 개의 연구는 중국이 소유한 소셜 미디어 플랫폼인 TikTok이 중국에 비판적인 콘텐츠를 숨기고, 동시에 중국 공산당의 목표에 부합하는 서사를 증폭시키기 위해 어떻게 조작될 수 있는지를 탐구하였다.

    연구 I에서는 사용자 여정(user journey) 방법론을 사용하여, TikTok, Instagram, YouTube에서 새로 생성된 계정을 활용해 티베트, 천안문 광장, 위구르 인권, 신장과 같이 민감한 중국 공산당(CCP) 이슈와 관련된 콘텐츠의 성격과 유병률을 평가하였다. 그 결과, 중국에 비판적인 콘텐츠가 Instagram과 YouTube에 비해 훨씬 적게 제공되는 것으로 나타났다.

    연구 I의 확장인 연구 II에서는 TikTok, Instagram, YouTube에서 찬성 및 반대 CCP 콘텐츠의 유병률이, 소셜 미디어 플랫폼들이 일반적으로 콘텐츠를 증폭하기 위해 사용하는 사용자 참여 지표(좋아요와 댓글)와 일치하는지를 조사하였다. 그 결과, 사용자들이 반대 CCP 콘텐츠에 훨씬 더 많이 반응함에도 불구하고, TikTok에서는 찬성 CCP 콘텐츠의 비율이 불균형적으로 높게 나타나, 선전적인 조작이 이루어지고 있음을 시사하였다.

    연구 III에서는 1,214명의 미국인을 대상으로 소셜 미디어 플랫폼에서 소비하는 시간과 중국에 대한 인식을 평가하는 설문 조사를 실시하였다. 설문 결과, 특히 과도하게 사용한 TikTok 사용자들이 중국의 인권 기록에 대해 훨씬 더 긍정적인 태도를 보였으며, 중국을 여행지로서 더욱 호의적으로 평가하는 것으로 나타났다.

    이러한 결과는 표현의 자유와 자유로운 탐구를 위협하는 방식으로 정보의 흐름을 통제하는 거대한 CCP 선전 관료제를 규명하는 점점 늘어나는 문헌을 배경으로 논의된다.

  • 틱톡의 성장

    TikTok’s billion-dollar secret that wasn’t
    Mobile Dev Memo & Eric Benjamin Seufert

    광고지출로 이용자 기반을 확보했다는 틱톡. 디지털광고는 과거처럼 단순히 상품에 대한 인지도를 높이거나 판매 촉진을 위한 마케팅 캠페인이 아니라 구체적인 전환과 연결되어 있다.

    (에반슈피겔은) “미국에서 아무도 예상하지 못했던 것은 ByteDance가 미국 시장과 물론 유럽에 투자한 수준이었습니다. 상상도 할 수 없는 일이었기 때문입니다. 어떤 스타트업도 전 세계적으로 사용자 확보에 수십억 달러를 투자할 여유가 없었습니다. 혁신 중심 전략이 아니었기 때문에 어떤 기술 회사도 예상하지 못했던 전략이었습니다. 실제로는 대규모 사용자 확보에 보조금을 지급하는 것이었습니다.”
    다른 회사가 사용자 확보에 이렇게 많은 돈을, 이렇게 빠르게 쓴 적은 없을 테지만, 지금 그 전략을 놀라운 잠복 성공이라고 지적하는 건 이상해 보인다. ByteDance가 TikTok을 성장시키기 위해 사용자 확보에 공격적으로 돈을 썼다는 사실은 수년 동안 널리 알려진 사실이다. 한때 이 회사는 미국에서만 하루에 약 300만 달러를 확보 마케팅에 썼고, 2018년 한 해 동안 광고에 약 10억 달러를 썼다고 한다.

    그리고 광고의 대부분은 메타를 통해 이루어졌다. 메타에게 광고주인 틱톡은 위협이 아니었지만, 스냅챗의 경우 경쟁자에게 광고 공간을 내어주는것에 대해 명확하게 인지했어야 한다는 내용.

  • 구글, 팩트체크 기능 추가 안할 것

    Scoop: Google won’t add fact checks despite new EU law
    Axios

    유럽의 새로운 법에도 불구하고 구글은 팩트체크 기능을 추가하거나 알고리즘에 통합하지 않을 것이라고 밝혔다. 검색 링크 10개에 팩트체크를 한다? 적절하지 않은 방법이라고 생각할 수밖에 없다.

    Axios가 입수한 서한 사본에 따르면, Google은 새로운 EU 법률의 요구 사항에도 불구하고 검색 결과와 YouTube 동영상에 사실 확인을 추가하지 않거나 콘텐츠 순위를 매기거나 삭제하는 데 사용하지 않겠다고 EU에 통보했습니다. [……] Google의 글로벌 업무 사장인 켄트 워커는 유럽 위원회의 콘텐츠 및 기술 부서 부국장인 레나테 니콜라이에게 보낸 서한에서 위원회의 새로운 허위 정보 규정 에서 요구하는 사실 확인 통합은 “단순히 우리 서비스에 적합하지도 효과적이지도 않다”며 Google이 이를 준수하지 않을 것이라고 밝혔습니다. 이 규정은 Google이 Google 검색 결과와 YouTube 동영상과 함께 사실 확인 결과를 통합하도록 요구합니다. 또한 Google이 사실 확인을 순위 시스템과 알고리즘에 구축하도록 강제합니다.

  • 틱톡 금지 유예

    Politicians scramble to save TikTok before Sunday
    Axios

    타임라인 정리를 위해서 남겨놓은 글. 미국 대법원은 바이트댄스가 TikTok을 판매하거나 폐쇄하도록 강제하는 법안을 거부했다. 상당한 벌금(TikTok에 접속할 수 있도록 허용한 사용자당 5,000달러, 미국에는 1억 5천만 명)에 노출된 서비스 제공업체들이 철수를 시작했고, Apple과 Google은 미국 사용자를 위해 앱 스토어에서 TikTok을 삭제했다. 당황한 미국 사용자들은 중국 앱인 샤오홍슈로 잠시 몰려들었고, 이 앱은 중국어로만 되어 있음에도 불구하고 앱스토어 차트 상위권에 오르기도 했다.

    ByteDance가 TikTok 지분을 처분하지 않은 이유와 그렇게 하기 위한 협상조차 시작하지 않은 이유는 알 수 없습니다. 아마도 선택에 의해 비활성 상태일 수도 있고, 중국 정부의 명령에 의한 것일 수도 있습니다. 어느 쪽이든, 많은 반대 세력이 무너지는 듯합니다.

  • 미국인의 AI 이용률, 높지만 인지하지 못함

    99% of Americans use AI, but most dislike it
    Axios

    조사가 어떻게 이루어졌는지 자세히 보지는 않았지만 갤럽의 조사. 대부분 하나 이상의 AI 제품을 이용하지만 대부분 이를 인지하지 못한다는 내용.

    여론조사 결과에 따르면 미국인의 약 99%가 지난 한 주 동안 적어도 한 가지 이상의 AI 지원 제품을 사용했지만, 거의 3분의 2는 이러한 사실을 인지하지 못한 것으로 나타났습니다. 이러한 제품에는 내비게이션 앱, 개인 가상 비서, 일기 예보 앱, 스트리밍 서비스, 쇼핑 웹사이트, 소셜 미디어 플랫폼 등이 포함되었습니다. 갤럽의 수석 리서치 컨설턴트인 엘린 마에스는 이러한 현상은 “무엇이 단순한 컴퓨터 프로그램인지, 무엇이 진정한 AI이고 지능적인 것인지에 대해 많은 혼란이 있기 때문”이라고 말했습니다.

  • 저널리즘, 미디어, 기술 트랜드 2025

    Journalism, media, and technology trends and predictions 2025
    Reuter Institute

    326명의 뉴스 리더를 대상으로 한 조사결과. 그 중에서 비즈니스 측면 관련하여 언급하는 부분.

    • 더 광범위하게, 구독과 멤버십은 퍼블리셔의 가장 큰 수익 초점(77%)으로 남아 있으며, 디스플레이(69%)와 네이티브 광고(59%)보다 앞서 있습니다. 대부분은 이제 이벤트(48%), 제휴 수익(29%), 기부(19%), 관련 사업(15%)을 포함하여 3~4가지 다른 수익원에 의존하고 있습니다.
    • 구독 증가가 둔화되면서, 새로운 제품 개발이 내년에 더욱 중요한 우선순위가 될 것으로 예상됩니다. 퍼블리셔 응답자의 4분의 1 이상이 게임(29%) 또는 교육(26%)을 중심으로 새로운 제품을 출시하는 것을 적극적으로 고려하거나 계획하고 있다고 말했고, 5분의 1(20%)은 국제 또는 외국어 버전을 출시하려고 합니다. 이러한 새로운 제품 중 다수는 이탈률을 줄이기 위해 ‘모든 액세스’ 구독에 포함될 가능성이 높습니다. 동시에 10명 중 4명 이상(42%)이 올해 ‘청소년’ 제품을 출시하거나 시험해볼 계획이라고 말했습니다.
  • 인공지능의 불균형한 도착

    AI’s Uneven Arrival
    Stratechery

    재미있는 내용

    세계에서 가장 큰 광고 지출자인 Procter & Gamble Co.는 특정 소비자를 타겟팅하는 Facebook 광고에서 벗어나며, 이러한 관행이 효과가 제한적이라는 결론을 내렸습니다. Facebook Inc.는 인구 통계, 쇼핑 습관 및 인생의 이정표에 따라 소비자를 집중적으로 타겟팅하는 능력을 개발하는 데 수년을 보냈습니다. Tide와 Pampers를 포함한 수많은 가정용품을 만드는 P&G는 처음에는 십대 면도기 사용자부터 처음 집을 소유한 사람에 이르기까지 일부 쇼핑객에게 직접 마케팅할 기회를 잡았습니다.

    P&G의 최고 마케팅 책임자인 마크 프리처드는 회사가 전략을 너무 과하게 적용했다는 것을 깨달았다고 말했습니다. 그는 인터뷰에서 “우리는 너무 많은 것을 타겟팅했고, 너무 좁게 접근했습니다.”라고 말했습니다. “그리고 지금은 다음과 같은 방법을 고려하고 있습니다. 도달 범위를 최대한 넓히면서도 적절한 정확성을 확보하는 가장 좋은 방법은 무엇일까요?”… 더 넓은 범위에서 P&G의 변화는 Facebook 광고 사업의 초석 중 하나인 대형 브랜드에 대한 이러한 타겟팅의 한계를 강조합니다. 이 소셜 네트워크는 타겟팅 마케팅에 대해 더 높은 가격을 요구할 수 있습니다. 타겟팅이 좁을수록 광고 비용이 더 비쌉니다.

    이러한 내용을 통해 생각할 수 있는 것은 무엇일까? 오히려 처음부터 AI를 중심으로 설계된 신생 기업들이 더 큰 혜택을 볼 가능성이 크다는 점을 시사한다. 기존의 전통적 기업들은 오랜 경험과 인적 자산에 기반해 운영되어 AI의 고정밀 작업을 도입하는 데 어려움을 겪을 수 있으며, 단기적으로는 큰 변화를 기대하기 어렵다고 말한다.

    만약 AI 에이전트에서도 이와 유사한 상황이 펼쳐진다면, 가장 중요한 AI 고객은 주로 신규 기업들이 될 것이며, 그 중 상당수는 ‘배럴(효율적인 조직 구조)’과 ‘탄약(개별 AI 작업 능력)’ 비유를 극단적으로 적용하는 롱테일(long tail) 기업들이 될 것이다. 반면, 전통적인 기업들은 AI를 도입하는 데 어려움을 겪게 될 것이며(메인프레임과 같은 전체 직무 대체를 제외하고), 실제 세계에서 차별화된 가치를 유지하는 기업들이 AI를 완전히 도입하는 데는 수년이 걸릴 가능성이 있다.

  • 메타와 콘텐츠 조정

    Meta and Content Moderation
    Benedict Evans

    두 가지 측면에서 콘텐츠 조정의 어려움을 이야기한다. 첫 번째는 발언이 얼마나 심각한지에 따른 스펙트럼으로, 불법, 해롭지만 합법적, 모두에게 불쾌한 것부터 일부에게만 공격적으로 느껴지는 것까지 다양하다. 두 번째 축은 ‘발행(publish)’ 개념으로, 개인적인 대화와 공공적인 게시물의 구분이 모호하며, 알고리즘이 콘텐츠를 홍보하는지 여부에 따라 책임이 달라진다.

    나는 지난 10년 동안 매우 광범위하게 논의된 이 문제들의 복잡성 중 일부만을 다루었을 뿐이다 — “나쁜 것을 제거하라”고 말하는 것은 쉽지만, 그것이 실제로 무엇을 해야 하는지를 결정해야 할 때는 훨씬 어려워진다.

  • 노동 시장에서 기술에 의한 파괴적 변화

    Technological Disruption in the Labor Market
    NBER

    과거 범용기술의 파급력이 더 컸다는 내용인데, AI도 비슷한 규모의 범용 기술이 될 수 있기에 평가는 이르다고 말한다. 하지만 노동시장 변화가 가속화되고 있는 네 가지 징후를 이야기한다.

    이 논문은 미국 노동시장에서 과거에 발생한 기술적 혼란의 사례들을 탐구하면서, 인공지능(AI)이 미래에 미칠 가능성이 있는 영향을 예측하기 위한 교훈을 얻고자 합니다. 우리는 1세기 이상에 걸쳐 미국 노동시장 구조의 변화를 측정하였습니다. 놀랍게도, 변화의 속도는 시간이 지남에 따라 느려진 것으로 나타났습니다. 1990년부터 2017년까지의 기간은 1880년 이후 측정한 이전의 어떤 기간보다도 덜 혼란스러웠습니다. 이러한 상대적인 둔화는 오늘날 노동시장이 안정되어 있기 때문이 아니라, 오히려 과거에 일어난 변화들이 매우 심오했기 때문입니다. 증기력이나 전기와 같은 범용 기술(GPT)은 20세기 노동시장을 극적으로 혼란시켰으나, 그 변화는 수십 년에 걸쳐 진행되었습니다. 우리는 AI가 과거의 파괴적 혁신들과 비슷한 규모의 범용 기술이 될 수 있다고 주장하며, 이는 AI의 전체적인 영향을 평가하기에는 아직 시기상조임을 의미합니다. 그럼에도 불구하고, 기술 변화로 인해 최근 노동시장 변화의 속도가 가속화되었다는 네 가지 징후를 제시합니다. 첫째, 노동시장은 더 이상 양극화되지 않고 있습니다 — 저임금 및 중간 임금 직종의 고용이 감소하는 반면, 고임금 직종의 고용은 증가하였습니다. 둘째, 저임금 서비스직의 고용 성장이 정체되었습니다. 셋째, 소프트웨어 및 컴퓨터 관련 직종의 성장에 힘입어 2010년 이후 STEM(과학, 기술, 공학, 수학) 직종의 고용 비중이 50% 이상 증가하였습니다. 넷째, 온라인 소매의 기술 발전으로 인해 지난 10년간 소매 판매 직종의 고용이 25% 감소하였습니다. 팬데믹 이후 노동시장은 매우 빠르게 변화하고 있으며, 이러한 변화의 빠른 속도가 앞으로도 지속될 것인지는 중요한 문제입니다.

  • 중국의 생성형AI 검열 및 안전 표준

    China’s GenAI Content Security Standard: An Explainer
    China Talk

    중국의 생성형 AI 검열 및 안전 표준에 관한 내용

    • 이 표준은 31가지 genAI 위험을 정의합니다. 또한 임시 조치와 마찬가지로 이 표준은 검열 등 “콘텐츠 보안”에 초점을 맞춥니다.
    • 모델 개발자는 다음을 포함하여 모델 수명 주기 전반에 걸쳐 이러한 위험을 식별하고 완화해야 합니다.
      • 훈련 데이터 필터링,
      • 사용자 입력 모니터링,
      • 모델 출력을 모니터링합니다.
    • 이 표준은 법적 구속력은 없지만 사실상의 구속력이 될 수 있습니다.
    • 이 표준에서 요구하는 모든 테스트는 정부가 아닌 모델 개발자들이 직접 실시하거나 스스로 선택한 제3자 기관에서 실시합니다.
    • 하지만 이전 게시물 에서 설명했듯이 , 이 표준에 설명된 평가 외에도 당국은 자체적인 배포 전 테스트도 실시합니다. 따라서 이 표준을 준수하는 것은 genAI 모델을 대중에게 공개하기 위한 라이선스를 취득하는 데 필요하지만 충분한 조건은 아닙니다.