The Supreme Court just kneecapped tech regulation
Axios

적절한 타이밍에 기술 기업을 규제하는 것이 가능할까. 미국에서도 쉐브론 원칙이라고 부르던 것이 축소되면서 기술 기업 규제에 어려움이 생길 것이라고 예상.

대법원의 이번 결정은 의회가 오랫동안 건강 관리, 환경, 통신과 같은 복잡한 기술 영역에 대한 규칙을 제정하는 데 사용해 온 규제 전략을 사실상 무산시켰습니다.

지난 40년간, “Chevron deference”로 알려진 대법원 원칙 하에서 의회는 목표와 계획을 설정하는 폭넓은 원칙을 작성하고, 복잡한 시행 세부 사항과 사례별 결정을 행정부의 전문가에게 맡길 수 있다고 가정해 왔습니다.

Chevron 원칙을 뒤집음으로써, 대법원은 의회가 미래를 예측하는 법을 작성해야 한다고 요구하고 있습니다. 입법자들은 더 이상 기본 규칙을 설정하고, 기관이 새로운 상황에 그 규칙을 적용하도록 할 수 없습니다. 이제는 점점 더 보수적인 법원이 기관들이 권한을 남용했는지 여부를 결정하게 될 것입니다.

이 규제 혁명은 미국 정부가 인공지능의 부상을 새로운 기술 플랫폼으로 인식하기 시작한 시점에 발생했습니다. Chevron 원칙의 종말은 인공지능의 위험에 대한 가드레일을 설정하려는 정부의 어떤 노력도 통과되고 집행되기 어렵게 만듭니다.

The E.U. Goes Too Far
Stratechery

유럽에서 신제품 기능을 출시하는것을 유보한 애플의 결정에 대한 코멘트 (기타 규제 사례도 참고)

유럽연합 집행위원회 부위원장 마그레테 베스타게르는 포럼 유럽에서 다음과 같이 말했다:

“우리가 경쟁을 촉진해야 하는 곳에서 AI를 배치하지 않겠다고 말하는 것은 매우 흥미롭다. 이것은 이미 강력한 위치에 있는 곳에서 경쟁을 무력화하는 또 다른 방법이라는 것을 100% 인식하는 가장 놀라운 공개 선언이다.”

이것은 전혀 말이 되지 않는다; Apple이 AI를 배치하지 않는 것은 사실 경쟁을 촉진시키는 것이며, 이는 Apple의 전화기가 그렇지 않은 경우보다 덜 완전하게 만들기 때문이다! 만약 그녀의 입장이 조금이라도 합리적이라면, 베스타게르는 승리의 축배를 들고 있어야 한다.

벤톰슨은 아무리 규제가 있다 하더라도 기존 빅테크는 유럽 시장에 머무를 가능성이 많지만 오히려 다른 기업이 시장에 진입하는 것은 더욱 어려워질 것이라고 보았다. 결국 유럽 소비자는 더 적은 기능과 혁신을 제공받게 될 것이라고 말한다.

Gen AI: too much spend, too little benefit?

인공지능에 향후 1조 달러 투자가 예정되어 있으나 노동 생산성이 얼마나 증가하게 될지는 자동화의 범위, 비용 효율성, 노동 재배치에 대한 가정 차이로 큰 차이를 보이며, 기술 혁신에 대해 부정하지는 않지만 장기적 관점에서 비용절감과 가격인하가 이루어져야 할 것이라고 본다.

Zero-Clicks Study
Semrush, by Marcus Tober

Semrush의 연구에 따르면, Google 검색 결과에서 클릭이 없는 “Zero-click” 검색의 비율이 데스크탑에서는 25.6%, 모바일에서는 17.3%로 나타남. 이는 사용자들이 검색 결과 페이지에서 바로 정보를 얻고 링크를 클릭하지 않는 경우를 의미. 최근 SGE 이야기를 하며 검색을 통한 트래픽 유입이 줄어들 것을 걱정하는 퍼블리셔나 크리에이터들이 있는데, 어찌보면 이미 제로클릭은 기존부터 꽤나 높은 비율로 존재.

이는 데스크톱과 모바일에서 클릭이 전혀 없는 검색이 전체 검색의 17.3%를 차지한 것에서 알 수 있습니다. 사용자들은 본질적으로 클릭을 피하려고 하는 것이 아니라 정보를 더 빨리 얻고자 하는 것입니다. 현재 검색의 두 가지 기능이 이를 지원합니다: 바로 답변과 모바일에 최적화된 반무한 스크롤 환경입니다.

모바일에서 오가닉 클릭은 증가하지 않았지만 키워드 변경은 증가했다는 사실은 모바일 사용자가 데스크톱 사용자보다 여러 검색에 참여할 가능성이 훨씬 높다는 사실을 입증합니다. 데스크톱에서 새로운 키워드를 실행하는 사용자는 17.9%에 불과한 반면, 모바일에서는 29.3%에 달했습니다. 사람들은 데스크톱보다 모바일에서 더 많이 참여하고 몰입하며, 이는 제로 클릭의 증가와 이러한 간편한 액세스에 대한 수요를 반영합니다.

모바일이 좀 더 낮다는 것은 아마도 제시되는 정보가 제한적이기 때문이지 않을까 하는 생각

AI’s Second Order Effects
a16z, by Alex Rampell

Uber와 같은 것의 “왜 지금인가”는 스마트폰이었고, Workday와 같은 것의 “왜 지금인가”는 클라우드의 수용이었으며, Adobe와 같은 것의 “왜 지금인가”는 GUI PC의 확산이었다고 말한다.

과거에 높은 지원 비용, 영업 비용 등으로 인해 실패했던 비즈니스 모델이 AI 도구의 극적으로 새로운 비용 구조에서 “왜 지금인가”를 발견할 수 있을 것입니다.

AI가 기존 기업의 비용을 절감할 것이라는 데는 의문의 여지가 없습니다 — 여기에 알려진 사실에 대한 것입니다. 그러나 AI는 아마도 AI가 주요 “제공”이 아니지만 소비자가 지불할 의사가 있는 가격대에서 지속 가능한 비즈니스를 허용하는 더 많은 클래식 소프트웨어 회사와 시장을 생성할 것입니다.

The AI Revolution Is Already Losing Steam

AI 혁신이 둔화되었다. OpenAI의 ChatGPT와 Google의 Gemini 같은 대형 언어 모델은 더 많은 데이터를 투입해 성능이 향상되었으나, 이제 추가할 데이터가 부족해 발전에 한계를 겪고 있다. AI 기술이 상업화되면서 성능 개선보다 비용 절감이 더 중요한 문제가 되었고, AI 스타트업들은 자금 부족으로 대기업과 경쟁하기 어려운 상황에 처했다. AI 운영 비용이 막대하여 수익성에 큰 영향을 미쳤으며, 예를 들어 Google은 AI로 생성된 검색 결과를 제공하는 데 드는 비용이 커서 이익률이 감소할 수 있다. 많은 기업들이 AI 도구를 사용하고 있지만, 실제 업무에 필수적으로 사용하는 경우는 적고 유료 사용 비율도 낮아 AI 기술의 실제 업무 활용도가 낮음을 시사했다. 기사 중 생산성에 관한 한 부분.

AI가 생산성 증대 도구로 광고된 것만큼 생산성을 높이지 않는다는 증거도 있다. 예를 들어, University of Pennsylvania의 Wharton School 경영학 교수인 Peter Cappelli는 이러한 시스템이 일부 사람들이 업무를 수행하는 데 도움을 줄 수는 있지만 실제로 그들을 대체할 수는 없다고 말한다. 이는 AI가 급여를 절감하는 데 도움이 되지 않음을 의미한다. 그는 자율주행 트럭이 천천히 도입된 이유 중 하나는 트럭 운전이 트럭 운전사의 업무의 일부일 뿐이라는 점을 예로 들었다.

Why ChatGPT-4’s Score on the Bar Exam May Not Be So Impressive
NYSBA

OpenAI가 ChatGPT-4가 바 시험에서 상위 90%에 들었고, 단 6분 만에 시험을 완료했다고 발표했었지만 이러한 결과가 과장되었을 수 있다는 이야기.

그는 또한 2월 시험 응시자들과의 비교가 GPT-4에게 불공평한 이점을 제공했다고 말했습니다. 2월 시험에 응시하는 예비 변호사들은 주로 7월에 실패한 사람들로, 재시험 응시자들은 처음 시험을 보는 사람들보다 점수가 낮기 때문입니다. … Martinez는 단기적으로 AI가 연구를 간소화하고 사례를 인용하는 데 도움이 될 수 있지만, 변호사들이 해당 사례가 실제로 존재하는지 확인해야 한다고 말했습니다. 하지만 문서를 작성하거나 고객에게 조언을 제공하는 데 있어서의 효율성은 아직 명확하지 않다고 말했습니다.

Will We Run Out of Data? Limits of LLM Scaling Based on Human-Generated Data
EPOCH AI

현재 추세가 계속된다면, 언어 모델들은 2026년에서 2032년 사이에 이 데이터를 완전히 사용할 것으로 예상하는 연구 결과. 따라서 2030년 이후에는 새로운 방식의 혁신이 없다면 꾸준한 성장이 이루어지기 어려울 수도 있다고 이야기함

우리는 인간이 생성한 공개 텍스트 데이터의 총량을 약 300조 토큰으로 추정합니다. 이 추정치는 훈련에 사용할 수 있을 만큼 충분히 고품질인 데이터만 포함하며, 여러 차례 훈련에 사용할 가능성을 고려한 것입니다.

데이터의 총량을 추정한 후, 이 데이터가 언제 완전히 사용될지를 예측합니다. 우리는 데이터셋 크기의 역사적 성장률을 단순히 외삽하는 모델과 훈련 계산량 성장을 예측하고 이에 상응하는 데이터셋 크기를 도출하는 모델을 개발했습니다. 우리의 종합적인 예측에 따르면, 데이터는 2026년에서 2032년 사이에 완전히 사용될 것입니다.

220. Are AI Expectations Too High or Misplaced?
Hardcore Software by Steven Sinofsky

스티븐 시놉스키의 글. LLM(대형 언어 모델)을 일반 웹 검색에 사용하는 것이 잘못된 방향으로 나아가고 있다고 경고. 창의적인 기술의 강점을 충분히 활용하지 못하게 되었다고 비판. LLM도 제한된 영역에 머물고 일반화되지 않을 가능성이 있다고 언급함.

이러한 제품화 순간 중 하나가 발생하면 처음에는 AI의 진보로 찬양받습니다. 그러고 나면 거의 눈 깜짝할 사이에 그 혁신이 더 이상 AI로 여겨지지 않습니다. 세상은 매우 빠르게 새로운 정상으로 재설정되고, 새로운 것은 단지 멋진 것으로 간주되지만 AI로 언급되는 경우는 드뭅니다. 이것이 바로 “작동하면 더 이상 AI가 아니다”라는 오래된 속담입니다.

우리는 지도 방향/경로, 필기, 철자 및 문법, 이미지 인식, Airbnb에서 Bumble까지 일어나는 매칭, 심지어 더 최근의 사진 향상까지 수십 년의 연구를 AI로 여기지 않고 단지 “작동하는 새로운 기능”으로 생각합니다.

Perplexity Is a Bullshit Machine
Wired

챗봇을 통해 자연어로 답변을 제공하고 실시간으로 인터넷에 접근할 수 있다고 주장하지만 이를 위해 부정한 방법으로 데이터를 스크래핑 하고 있다는 와이어드 기사

WIRED 분석 및 개발자 Robb Knight가 수행한 분석에 따르면, Perplexity는 웹 운영자가 봇의 접근을 원하지 않는 영역을 은밀히 크롤링하기 위해 널리 받아들여지는 웹 표준인 로봇 배제 프로토콜(Robots Exclusion Protocol)을 무시하는 방식으로 이를 부분적으로 달성하는 것으로 보입니다. WIRED는 Perplexity와 연결된 머신(더 구체적으로는 Amazon 서버에 위치하고 거의 확실히 Perplexity가 운영하는 머신)이 WIRED.com 및 다른 Condé Nast 출판물에서 이를 수행하는 것을 관찰했습니다.