[작성자:] haeyeop

  • 소셜 미디어의 비인간성

    Regretful Accelerationism
    Stratechery by Ben Thompson

    직업적으로도 개인적으로도 인터넷 발전에서 많은 혜택을 받았던 벤 톰슨이 (기술적) 진보에 관해 마지 못해 가속주의적 관점을 택하고 있는 이유에 관해 설명한다.

    레디 플레이어 원에는 이스터에그라는 ‘현재진행형’이 존재했고, 주인공이 이스터에그를 찾는 과정이 전 세계의 관심을 불러일으켰습니다. 하지만 이러한 묘사는 현실과 맞지 않습니다. 우리는 거장 건축가가 설계한 단일 온라인 세계가 오프라인의 관심을 유도하는 것이 아니라, 여러 측면에서 부수적으로 발생하는 집단적 히스테리에 의해 인간성이 결여된 수많은 사용자가 계획 지점을 중심으로 결집하는 것을 볼 수 있습니다. 그 결과는 누구도 통제할 수 없습니다.

    레디플레이어원과 달리 인터넷에는 단 하나의 가상세계가 아닌 빅테크 기업이 하위 스택을 모두 통제하는 세계로, HTTP와 같은 프로토콜은 존재하지만 이러한 프로토콜은 온라인에서 돈을 벌 수 있다는 생각 이전에 만들어졌다. 오늘날 API는 모두 상업적 의도를 포함하고 있다.

    현재 온라인 세계에서 두 가지 제약이 사라지고 있는데, 하나는 콘텐츠 제작에 필요한 한계비용이 제거되고 있다는 것이고, 다른 하나는 과거에는 이용자 제작 콘텐츠가 지인에 제한되었지만(페이스북처럼), 현재는 전체 네트워크에서 가장 매력적인 콘텐츠를 노출시키고 있다(틱톡처럼).

    두 가지 흐름은 모든 사용자를 위해 생성된 맞춤형 콘텐츠에 관한 문제를 제기한다. 대규모 언어 모델을 활용하여 상호작용하는 부분에 관한 논의가 이루어지고 있지만, 결국 이러한 노력도 타인과 상호작용을 더 원활하게 하기 위함이다. 하지만 벤 톰슨이 느끼기에 온라인에서 인간 대 인간의 상호작용은 사라진 것 같다고 말하며, 온라인에서 살아남기 위해서는 어쩌면 온라인을 멀리하는 것이 방법일 수 있다는 말을 한다.

    이야기를 한 맥락은 X와 같은 소셜 플랫폼에 관한 회의감에서 시작했을 수 있을 것 같은데, 꽤나 여러가지 이슈를 언급하고 있어 생각해 볼 부분이 많다.

  • 인공지능 예술, 솔츠와 아나돌 논쟁

    Art Critic Jerry Saltz Gets Into an Online Skirmish With A.I. Superstar Refik Anadol

    2022년 뉴욕 현대미술관 1층에 설치되어 최근 미술관 영구 소장품으로 인수된 24피트 높이의 스크린 기반 작품 인 언수퍼바이즈드(Unsupervised )를 둘러싸고 논쟁이 벌어졌습니다. 이 작품은 MoMA의 전체 온라인 카탈로그에 대한 알고리즘의 해석을 나타내는 다차원적인 색채의 파동으로 구성되어 있으며, 모더니즘의 가장 유명한 사조의 형태를 반영하고 있습니다. 아트넷 뉴스의 비평가인 벤 데이비스는 이 작품이 충분히 유쾌하지만 분명히 과대 포장된 작품이라고 평가했으며, MoMA는 “현대 미술의 역사를 재구성하고 과거를 꿈꾼다”고 대담하게 주장했습니다.

    예술 비평가들이 흔히 그렇듯이 솔츠는 아나돌 작품의 문화적 가치를 평가할 때 결코 말을 아끼지 않았습니다. 그는 지난 2월 독수리에 실린 리뷰에서 언수퍼비디드가 관객들에게 큰 인기를 끌었고 심지어 “한 번에 몇 분 동안은 약간 재미있었다”고 인정했지만, 궁극적으로 이 작품이 너무 진부하고 눈에 너무 쉽게 들어왔다고 평가했습니다. “이 극도로 통제되고 방부 처리된 환경에서 예술과 의심은 별개의 침실을 유지합니다.”라고 그는 말했습니다.

    가장 기억에 남는 것은 솔츠가 이 작품을 “거대한 테크노 용암 램프”, “50만 달러짜리 스크린 세이버”라고 묘사했다는 점입니다.

    다른 몇 개 기사를 참고해보면 작품에 관한 평가가 과장된 것인지 아닌지 생각해 볼 수 있을 듯

  • 딥페이크 스캠

    Rob’s Notes 9: Beware Deepfake Scams

    유명 연예인을 ‘미끼’로 사용해 사용자의 클릭을 유도하거나(예: 스타의 사망 또는 체포 암시), 해당 연예인이 해당 제품이나 서비스를 사용하거나 보증한 것처럼 가장하는 ‘셀럽 미끼’를 오랫동안 사용해 온 사기성 광고에 대한 내용.

    이 비디오는 종종 지역 뉴스 소스의 딥페이크 뉴스 보도(위, BBC 뉴스가 디지털 방식으로 변경된 경우)나 영국의 마틴 루이스와 같은 지역 금융계 유명인의 소개로 시작됩니다. 그런 다음 엘론 머스크가 흐릿한 배경(아마도 유출된 Zoom 통화에서 뜯어낸 것일 수 있음)이나 컨퍼런스에서 연설하거나 거래 이미지를 보여주는 다양한 주식 ‘주식 시장’ 비디오 영상과 함께 연설하는 장면이 등장할 수 있습니다. 가짜 머스크는 다음과 같이 설명합니다:

    • 그들은 애플, 구글 등의 엔지니어들과 함께 양자 컴퓨팅 거래 시스템을 개발하는 데 몇 년 동안 10억~50억 달러를 투자했습니다.
    • 항상 성공하는 것은 아니지만, 그의 시스템은 “90% 이상의 효율로 거래에서 승리”합니다.
    • 250파운드부터 시작하여 하루에 5700파운드 이상을 벌 수 있습니다.
    • 루이스 해밀턴, 리처드 브랜슨, 차마스 팔리하피티야 등 많은 유명인들이 이에 참여하고 지지하고 있으며, 때로는 이 계획 자체가 아닌 비트코인에 대해 이야기하는 비디오 영상을 사용하기도 합니다.
    • 영국인들이 더 이상 일할 필요가 없을 것이라는 주장과 기타 주장
  • 스포츠일러스트레이티드 가짜 인공지능 기사

    Sports Illustrated Published Articles by Fake, AI-Generated Writers
    Futurism

    생성형 인공지능을 활용하여 기사를 작성하고, 제휴링크를 통해 수익을 얻는 사례는 수없이 보고되고 있다. 기존 저널리즘으로 유명했던 언론사가 하나 둘 몰락하고 있는 상황에서 인공지능을 활용해 비용을 절약하고 수익을 창출하려는 시도가 꾸준히 등장하고 있는 것이다.

    지난 수십 년간 스포츠 저널리즘으로 수많은 내셔널 매거진 어워드를 수상하고 윌리엄 포크너에서 존 업다이크에 이르는 문학적 거장들의 작품을 출판했던 스포츠 일러스트레이티드에게 AI 콘텐츠는 엄청난 몰락을 의미하기도 합니다.하지만 아레나 그룹이 관리하고 있는 지금, 이 잡지의 일부는 독자의 신뢰를 얻기 위해 가짜 작가들이 허공에서 요리되고, 똑같이 가짜 전기와 전문 지식을 갖추고, 독자가 클릭하면 금전적 리베이트를 제공하는 제품에 대한 제휴 링크를 통해 수익을 창출하는 AI 생성 구매 가이드를 쏟아내는 포템킨 마을로 전락한 듯합니다.

    이와 관련해서 다음과 같이 평가한다.

    공개되지 않은 AI 콘텐츠는 미디어 윤리의 근간을 무너뜨리는 행위이며, 독자의 신뢰를 무너뜨리는 완벽한 방법임은 두말할 나위도 없습니다. 결국, 이는 인지도가 높은 언론사가 정상화하기는커녕 어디에서도 볼 수 없는 매우 무책임한 행동일 뿐입니다.

    진짜 시험대는 유통이라는 이야기도 있다. 생성의 문제를 걱정하지만 결국은 사람들에게 도달해야 하기 때문이다. 보고서에서도 비슷하게 썼지만 스팸의 수준을 벗어나기 어려울 것이라고 생각한다.

  • 구글, 캐나다 링크세

    Google to pay Canada’s “link tax,” drops threat of removing news from search
    Ars Technica

    지나간 일이지만 기록해놓지 않아서 남기는 글.

    C-18 법에는 대형 검색 엔진 및 소셜 미디어 서비스가 뉴스 사업자 또는 뉴스 사업자 그룹과 지불을 협상하도록 요구하는 ‘교섭 의무’가 포함되어 있다. 법 시행 6개월 전인 지난 6월, 구글은 ‘링크세’를 내지 않는 대신 캐나다에서 구글 서비스에 액세스하는 사용자를 위해 구글 검색과 구글 뉴스에서 캐나다 뉴스 소스에 대한 링크를 삭제하겠다고 밝혔다. 구글은 지불에 합의했으나 페이스북은 여전히 돈을 내는 것에 반대 입장을 고수하고 있다.

    캐나다 문화유산부 장관 파스칼 세인트-옹은 오늘 성명을 통해 “구글은 독립 뉴스 사업자와 원주민 및 공식 언어 소수자 커뮤니티를 포함한 전국의 다양한 뉴스 사업자를 위해 물가 상승률에 연동하여 매년 1억 달러의 재정 지원을 제공할 것입니다.”라고 밝혔습니다.

    캐나다 통화로 1억 달러는 미국 통화로 약 7,400만 달러의 가치가 있습니다. 오늘 합의가 이루어지기 전, 연방 정부는 구글이 연간 1억 7,200만 달러를 지불해야 할 것으로 추정했습니다.

    “광범위한 논의 끝에 캐나다 정부는 캐나다인이 관련성 있고 유용한 정보를 찾을 수 있도록 돕는다는 이유만으로 C-18이 링크에 대한 대가를 요구하고 실행 불가능한 협상 과정을 통해 무제한의 재정적 책임을 발생시킬 것이라는 우리의 깊은 우려를 해결하기 위해 여러 가지 변경 사항에 동의했습니다.”라고 구글은 Ars에 제공한 성명에서 밝혔습니다.

    시니컬한 사람은 브라우저 디폴트를 위해 애플에 구글이 지급하는 비용이 200억 달러(약 26조)라는걸 생각하면 7,400만 달러(996억)은 푼돈일 뿐이라는 말을 하기도 한다.

  • GAIA, 언어모델 벤치마크

    FACEBOOK RESEARCHERS TEST AI’S INTELLIGENCE AND FIND IT IS UNFORTUNATELY QUITE STUPID
    The Byte

    새로운 대규모 언어 모델 벤치마크에서 기존 모델의 점수가 형편없다는 기사.

    AI 대부’이자 메타의 수석 과학자인 얀 르쿤이 포함된 연구팀은 아직 동료 심사를 거치지 않은 논문에 따르면 “인간에게는 개념적으로 간단하지만 대부분의 고급 AI에게는 어려운” 466개의 문항으로 구성된 GAIA라는 시험을 고안해냈습니다.

    인간 응답자는 92%의 질문에 정답을 맞힌 반면, 수동으로 선택한 일부 플러그인을 장착한 GPT4는 15%에 불과했습니다. 이 팀이 발표한 GAIA 순위표에 따르면 OpenAI가 최근 출시한 GPT4 Turbo의 점수는 10% 미만이었습니다.

    GAIA 목표가 무엇인지 해당 아카이브 논문의 일부 내용.

    인간에게는 어려운 작업 대신, 개념적으로는 간단하지만 조합 공간이 큰 복잡한 작업 시퀀스를 정확하게 실행해야 하는 작업을 AI 시스템에 요청할 수 있습니다. 컴퓨터에게 해결책을 쉽게 검증할 수 있는 복잡한 문제를 풀도록 요청하는 작업 증명 알고리즘(Jakobsson and Juels, 1999; Dwork and Naor, 1993)과 유사하게, 작업을 성공적으로 완료해야만 결과를 얻을 수 있고 검증이 용이해야 합니다. 다양하고 불확실한 세계에 접근해야 하는 인공지능 비서를 위한 작업은 본질적으로 실제 사용 사례에 뿌리를 두면서 이 기준을 충족해야 합니다.

    우리는 이러한 방향으로 나아가기 위해 466개의 세심하게 만들어진 질문과 그에 대한 답변, 그리고 관련 설계 방법론으로 구성된 일반 AI 어시스턴트의 벤치마크인 GAIA를 제안합니다. 우리의 질문은 만들기도 쉽고, AI 시스템(LLM의 경우 대부분 복잡한 생성이 필요함)에 도전적이지만, 독특하고 사실적인 답변을 인정하여 간단하고 강력한 자동 평가가 가능합니다.

    GAIA는 다음과 같은 목표를 통해 현재 LLM 평가의 함정을 피하고자 합니다:

    • 실제적이고 도전적인 질문. 예를 들어, LLM은 일반적으로 개방적이고 변화하는 웹을 탐색하거나, 다중 모달리티를 처리하거나, 질문에 답하기 위해 여러 단계를 거쳐 추론해야 합니다. 반대로, 많은 LLM 벤치마크는 매우 구체적이거나 폐쇄적이고 합성된 환경으로 제한되어 있습니다.
    • 개념적으로 간단한 작업을 통한 쉬운 해석 가능성(비전문가인 주석가도 만점에 가까운 점수를 나타냄), 관련 추론 추적, 몇 개 되지 않지만 고도로 선별된 질문. 이는 효율성과 신뢰성이 부족한 집계된 벤치마크와는 대조적입니다(Perlitz 외, 2023).
    • 비게임성. 질문에 답하려면 몇 가지 단계를 성공적으로 완료해야 하는데, 이러한 단계는 다양하기 때문에 쉽게 강제할 수 없습니다. 추론의 흔적을 확인할 수 있고, 정답에 요구되는 정확성, 인터넷에서 일반 텍스트로 제공되지 않기 때문에 데이터 오염 가능성을 방지할 수 있습니다. 반면, 객관식 답안(예: MMLU)은 잘못된 추론 추적이 정답에 더 쉽게 도달할 수 있기 때문에 오염 평가를 더 어렵게 만듭니다.
    • 사용의 단순성. 결정적으로, 질문에 대한 답변은 사실적이고 간결하며 모호하지 않습니다. 이 두 가지 속성은 간단하고 빠르며 사실에 입각한 평가를 가능하게 합니다. 우리의 질문은 제로 샷으로 답을 구하도록 설계되어 평가 설정의 영향을 제한합니다. 반대로 많은 LLM 벤치마크는 프롬프트의 수와 성격(Liang 외, 2022b)(섹션 8.2) 또는 벤치마크 구현과 같은 실험 설정에 민감한 평가를 요구합니다.

  • 틱톡에서 불법 영화

    People Are Streaming Pirated Movies on TikTok, One Short Clip at a Time (WSJ)
    by Hacker News

    불법 이용에 관한 WSJ 기사를 두고 해커뉴스에 달린 댓글중에 재미있는 내용이 꽤 있어서 남기는 글. 틱톡에서 짧은 클립을 하나 올리는 것은 공정이용으로 볼 수 있지만, 이러한 방식을 악용해서 영화 한 편을 쪼개서 올리는 사람들이 있다는 이야기. 탑건에 관한 과거 할리웃 리포터의 뉴스기사가 언급되기도 한다(2014년 기사). 불법 이용의 역사는 길고 비슷한 방법은 계속 활용됨에도 불구하고 쿨타임이 지나면 한번씩 나오는 이야기.

  • 주커버그 인터뷰

    퀘스트3를 가지고 메타버스에서 인터뷰를 했다.

  • ChatGPT 설명

    보고서를 쓰면서 읽었던 몇 가지 글. ChatGPT와 같은 언어모델이 어떻게 작동하는지를 설명하는 내용이다. 조금 더 평이한 글로 쓰여진 것도 있고, 약간 수학적인 부분이 포함된 내용도 있다.

    Generative AI exists because of the transformer (FT.com)
    What Is ChatGPT Doing … and Why Does It Work? (Stephen Wolfram)

  • 죽은 NFT 시장

    Dead NFTs: The Evolving Landscape of the NFT Market
    dappGambl

    기사를 보고 정리를 안 하고 있었더니 이미 다른 곳에서도 많이 언급된 이야기

    NFT는 상승세를 보이다 폭락했다. 23년 7월 주간 거래액은 약 8천만 달러로, 2021년 8월 최고치의 3%에 불과했다. 과연 미래는 있을 것인가? NFT 스캔에서 제공한 데이터를 사용해 73,257개 이상의 NFT 컬렉션 (정확히 73,257개)에 대한 종합적인 분석을 작성했다. 결과에 따르면 73,257개의 NFT 컬렉션 중 69,795개의 시가총액이 0 이더(ETH)인 것으로 나타났다. 즉, NFT를 보유한 사람의 95%가 현재 가치가 없는 투자자산을 보유하고 있다고 할 수 있다. 또한 전체 NFT 컬렉션의 79%, 즉 5개 중 4개가 미판매 상태로 남아있다. 그러면서 실제 사용사례에 대해 언급한다.

    시장 침체를 극복하고 지속적인 가치를 가지려면 대체 불가능한 토큰은 역사적으로 관련성이 있거나(초판 포켓몬 카드처럼), 진정한 예술품이거나, 진정한 유용성을 제공해야 합니다.

    • 문화유산 보존: 대체 불가능한 토큰은 문화 유물을 디지털화하고 보호하는 데 사용되어 블록체인에서 고유하고 불변하는 지위를 부여할 수 있습니다.
    • 게임: NFT로 표시되는 고유한 게임 내 자산은 다양한 게임 환경에서 구매, 판매 및 사용할 수 있습니다.
    • 토큰 게이트 액세스: NFT는 보유자에게 이벤트, 콘텐츠 또는 서비스에 대한 특별 액세스 권한을 부여할 수 있습니다.
    • 부분 소유권: 기본적으로 단일 자산을 나타내는 대체 불가능한 토큰은 여러 부분으로 분할할 수 있으며, 주식처럼 생각하면 주식과 같습니다. 이를 통해 여러 소유자가 NFT에 지분을 보유할 수 있으므로, 일반인이 자산/예술에 훨씬 더 쉽게 접근할 수 있습니다.
    • 부동산: 소유한 자산을 대체 불가능한 토큰으로 토큰화하여 블록체인 플랫폼에서 자산을 판매할 수 있으며, 이를 통해 훨씬 쉽게 판매할 수 있는 경로를 제공할 수 있습니다.
    • 디지털 신원: 온라인 익명성에는 위험이 따를 수 있으며, NFT는 온라인 페르소나, 자격 증명 또는 자격이 검증 가능하고 고유한지 확인하는 데 사용될 수 있습니다.