Keeping AI secret
Axios

비밀리에 생성형 AI 사용이 확산되는 이유는 회사에 가이드라인이 없거나, 즐겨 쓰는 도구가 금지되었거나, 동료보다 경쟁 우위를 차지하려는 욕구 때문이다. 또한 사용 사실이 들킬 경우 “대체 가능한 인력”으로 보일까 두려워하는 심리도 크다.

Why AI is still making things up
Axios

최근의 사례들 몇 가지. 그리고 환각은 줄일 수 있음에도 속도와 확장성을 우선시 한다는 지적을 하고 있다.

매주 사용자들이 이런 경고에 귀 기울이지 않는다는 고통스러운 새로운 증거들이 나타나고 있다.

• 지난주에는 로버트 F. 케네디 주니어의 보건복지부에서 존재하지 않는 연구들을 인용한 보고서가 나왔다. 전문가들은 OpenAI의 도구들이 관련되었다는 증거를 발견했다.
• 그 전주에는 시카고 선타임스가 실제 작가들의 이름은 맞지만 환각으로 만들어진 책 제목들로 가득한 여름 독서 목록이 담긴 인쇄 부록을 발행했다.
• AI 법률 전문가 다미엔 샤를로틴은 변호사들이 AI 환각이 포함된 증거를 사용한 법적 결정들을 추적하고 있다. 그의 데이터베이스는 2025년 5월에만 30건 이상의 사례를 상세히 기록하고 있다. 법조계 관찰자들은 전체 수치가 훨씬 더 높을 것이라고 우려하고 있다.

Meta’s move on AI bias raises risk, eyebrows
Axios

메타는 우파의 각성에 대한 반발을 수용하여 인공지능 모델에서 편향을 제거하려고 한다고. 몇 개의 테스트에서 라마는 우편향적, 챗지피티는 좌편향적 답변을 보인다고 알려지기도 했다. 하지만 생각보다 간단한 일은 아닌듯

작동 방식: Hugging Face의 커뮤니티 및 협업 책임자 바이바브 스리바스타브(Vaibhav Srivastav)는 Axios에 다음과 같이 설명했다.

• 모델 학습 전 단계에서는 어떤 데이터를 포함·제외할지, 그리고 각각의 데이터 출처에 어떤 가중치를 둘지를 결정할 수 있다.
• 후기 학습 단계(파인튜닝)에서는 여러 기법을 사용해 모델의 방향을 조정할 수 있다.
  대표적으로 인간 피드백 기반 강화학습(RLHF) 방식은 선호되는 응답 유형을 모델에 학습시키는 것이다.
• 또 다른 방법으로는 시스템 레벨 프롬프트를 추가해 답변 방식 자체를 바꾸는 것이다.
  그러나 이 방식은 거칠고 예측 불가능한 결과를 낳을 수 있다. 실제로 Meta와 Google은 이 방식으로 편향을 보정하려다, 흑인 미국 건국의 아버지나 다양한 인종의 나치 병사 같은 역사적으로 말이 안 되는 이미지를 생성한 바 있다.

[ … ] Meta와 Grok는 다른 AI 모델들이 좌편향되어 있다고 비판하지만, 전문가들은 실상은 훨씬 복잡하다고 말한다.

편향의 주요 원천은 훈련 데이터이다. 대부분의 주요 AI 모델은 훈련 데이터의 구체적인 내용을 공개하지 않지만, 인터넷에 공개된 대부분의 영어 콘텐츠를 크롤링한 것으로 알려져 있다.

이 때문에 모델은 영어(특히 미국식 영어)에 담긴 관점에 편향될 수밖에 없다.

Commission finds Apple and Meta in breach of the Digital Markets Act
EU Commission

오늘 유럽 집행위원회는 애플이 디지털 시장법(DMA)에 따른 반(反)조종 의무를 위반했으며, 메타(Meta)는 소비자에게 개인 정보 사용량이 적은 서비스를 선택할 수 있도록 해야 하는 DMA 의무를 위반했다고 판단했습니다. 따라서 집행위원회는 애플과 메타에 각각 5억 유로와 2억 유로의 벌금을 부과했습니다.

[…] DMA에 따르면, Apple 앱스토어를 통해 앱을 배포하는 앱 개발자는 앱스토어 외부의 대체 상품에 대해 고객에게 무료로 알리고, 해당 상품으로 고객을 유도하고, 구매를 할 수 있도록 해야 합니다. 위원회는 Apple이 이 의무를 준수하지 않았다고 판단했습니다. Apple이 부과한 여러 제한으로 인해 앱 개발자는 App Store 외부의 대체 유통 채널의 이점을 충분히 누릴 수 없습니다. 마찬가지로, Apple은 앱 개발자가 소비자에게 이러한 혜택을 직접 알리지 못하도록 금지하고 있기 때문에 소비자 또한 대체적이고 저렴한 혜택을 충분히 누릴 수 없습니다. Apple은 이러한 제한이 객관적으로 필요하고 비례적임을 입증하지 못했습니다.

[…] 2023년 11월, 메타는 ‘동의 또는 결제’ 방식의 이진 광고 모델을 도입했습니다. 이 모델에 따라 EU의 페이스북 및 인스타그램 사용자는 개인 맞춤 광고를 위한 개인 정보 결합에 동의하거나, 광고 없는 서비스를 위한 월 구독료를 지불하는 것 중 하나를 선택할 수 있었습니다. 위원회는 이 모델이 DMA(개인정보보호법)를 준수하지 않는다고 판단했습니다. 이 모델은 사용자에게 개인 정보 사용량은 적지만 ‘맞춤형 광고’ 서비스와 동등한 서비스를 선택할 수 있는 구체적인 선택권을 제공하지 않았기 때문입니다. 또한 메타 모델은 사용자가 개인 정보 조합에 자유롭게 동의할 권리를 행사할 수 있도록 허용하지 않았습니다.

Watching o3 guess a photo’s location is surreal, dystopian and wildly entertaining
Simon Willison’s Weblog

사진으로 위치를 추정하게 하는게 한창 유행했었다고. 이런 주제로 방송하는 사람도 있지만 인공지능도 꽤나 유사한 일을 꽤나 정확하게 할 수 있다

이걸 어떻게 이해해야 할까요 ?

우선, 정말 재밌습니다. 모델이 사진을 넘기고, 팬과 줌을 돌리고, 자신이 어디에 있을지에 대한 여러 가지 이론을 논의하는 사고 과정을 지켜보는 건 정말 재밌습니다 . 마치 CSI 드라마 한 편 속에 사는 것 같아요.

또한 매우 디스토피아적 입니다 . 기술은 이제 사진에서 위치를 식별할 수 있습니다. 사람들이 이것이 얼마나 쉬운지 이해하는 것이 매우 중요합니다. 만약 자신의 안전에 대해 조금이라도 걱정할 이유가 있다면, 공유하는 모든 사진, 심지어 제가 위에서 예로 든 것처럼 밋밋한 사진일지라도, 그것이 자신의 위치를 식별하는 데 사용될 수 있다는 것을 알아야 합니다.

The real reason Civit is cracking down
Raddit

CivitAI는 Stable Diffusion 기반 모델과 LORA, 체크포인트 등 사용자 제작 콘텐츠를 공유하는 AI 이미지 생성 모델 플랫폼. 성인 콘텐츠 공유가 활발한 곳 중 하나로, 여러 생성형 모델의 성능을 시험하거나 다운로드하는 사용자 커뮤니티가 있다.

신용카드 시스템은 사람들이 생각하는 것보다 훨씬 더 복잡합니다. 비자와 마스터카드는 누구나 알지만, 실제로는 ‘종합은행’이라는 중개 회사가 많습니다. 여러모로, 좀 더 단순화해서 설명하자면, 비자는 마케팅 회사이며, 실제로 모든 결제 처리는 이 은행들이 비자라는 이름으로 처리합니다. 예를 들어, 비자 신용카드를 발급받는다고 해서 실제로는 캐피털 원 비자 카드나 피델리티 비자 카드인 것은 아닙니다. CivitAI (https://civitai.com/)**는 AI 이미지 생성 모델, 특히 Stable Diffusion 기반 모델과 LORA, 체크포인트 등 사용자 제작 콘텐츠를 공유하는 플랫폼입니다.

성인 콘텐츠 공유가 활발한 곳 중 하나로, 여러 생성형 모델의 성능을 시험하거나 다운로드하는 사용자 커뮤니티가 큽니다.CivitAI (https://civitai.com/)**는 AI 이미지 생성 모델, 특히 Stable Diffusion 기반 모델과 LORA, 체크포인트 등 사용자 제작 콘텐츠를 공유하는 플랫폼입니다.

성인 콘텐츠 공유가 활발한 곳 중 하나로, 여러 생성형 모델의 성능을 시험하거나 다운로드하는 사용자 커뮤니티가 큽니다.CivitAI (https://civitai.com/)**는 AI 이미지 생성 모델, 특히 Stable Diffusion 기반 모델과 LORA, 체크포인트 등 사용자 제작 콘텐츠를 공유하는 플랫폼입니다.

성인 콘텐츠 공유가 활발한 곳 중 하나로, 여러 생성형 모델의 성능을 시험하거나 다운로드하는 사용자 커뮤니티가 큽니다..

미국에서 성인 이미지 AI를 허용하는 상업은행은 에스콰이어 은행 하나뿐이며, 이 은행은 ECSuite라는 회사와 협력합니다. 이 두 회사는 거의 모든 성인 AI 회사, 특히 성인 이미지 생성 분야의 결제를 함께 처리합니다.

최근 비자는 성인 AI에 대한 훨씬 더 엄격한 지침을 담은 새로운 VAMP 프로그램을 도입했습니다. 비자는 에스콰이어 은행/ECSuite가 규정을 준수하지 않는다는 이유로 막대한 벌금을 부과했습니다. 그 결과, 두 회사는 AI 관련 모든 것에 대해 매우 엄격하게 단속하고 있으며, 다른 모든 종합금융기관들은 비자의 과징금 부과를 우려하여 AI 분야 진출을 꺼리고 있습니다.

그래서 성인 AI 기업들은 하나둘씩 비자(또는 비자를 대신하는 상업은행)로부터 접근을 받고 “검열하지 않으면 결제를 처리할 수 없습니다”라는 말을 듣습니다. 대부분의 경우, 관련 기업들은 저항할 힘이 없어 즉시 문을 닫습니다.

Klarna changes its AI tune and again recruits humans for customer service
CXDIVE

클라르나(Klarna)는 AI 챗봇이 700명의 담당자 역할을 할 수 있다고 주장한 지 1년이 지났지만 , 이제 고객 서비스 업무의 더 많은 부분을 사람에게 맡기고 있습니다. […] 고객은 여전히 직접 상담하고 싶어 하며 , 특히 복잡하거나 민감한 문제에 대해서는 더욱 그렇습니다. 3월에 실시된 Five9 설문조사에 따르면 고객의 86%는 우수한 고객 경험을 제공하기 위해 공감과 인간적인 유대감이 빠른 대응보다 더 중요하다고 생각하는 것으로 나타났습니다.

Your A.I. Radiologist Will Not Be With You Soon
NYT

9년 전, 세계 최고의 인공지능 과학자 중 한 명이 멸종 위기에 처한 직업 종을 골라냈습니다.

제프리 힌튼은 “사람들은 지금 당장 방사선과 의사에 대한 교육을 멈춰야 합니다. “라고 말하며, 5년 안에 AI가 해당 분야에서 인간을 앞지르리라는 것은 “완전히 명백한 사실”이라고 덧붙였다.

오늘날, 질병을 진단하고 치료하기 위해 신체 내부를 관찰하는 의료 영상 전문의인 방사선 전문의에 대한 수요는 여전히 높습니다. 미국 방사선학회(American College of Radiology)의 최근 연구에 따르면 2055년까지 방사선 전문의 인력은 꾸준히 증가할 것으로 예상됩니다.

Commission sets course for Europe’s AI leadership with an ambitious AI Continent Action Plan
European Commission

다 어려운 일이지만 주요한 내용은 규제 완화에 관한 내용일 것 같은데. GDPR에도 손을 댈 것 같다는 이야기. 규제 준수 비용이 높은 것으로 널리 알려져있다.

1. 대규모 AI 데이터 및 컴퓨팅 인프라 구축  

위원회는 AI 팩토리 네트워크를 통해 유럽의 AI 및 슈퍼컴퓨팅 인프라를 강화할 것입니다 . 이 팩토리 중 13개는 이미 유럽의 세계 최고 수준의 슈퍼컴퓨터 주변에 구축되어 있습니다. 이 팩토리들은 EU AI 스타트업, 업계, 그리고 연구자들의 AI 모델 및 애플리케이션 개발을 지원할 것입니다.

경쟁력 나침반(Competitiveness Compass) 에서 발표된 바와 같이 , EU는 AI 기가팩토리 구축에도 지원할 예정입니다. 이는 약 10만 개의 최첨단 AI 칩을 탑재한 대규모 시설로, 기존 AI 공장보다 4배 더 많은 용량을 제공합니다. 기가팩토리는 방대한 컴퓨팅 파워와 데이터 센터를 통합하여 전례 없는 규모로 복잡한 AI 모델을 훈련하고 개발할 것입니다. AI 기가팩토리는 차세대 첨단 AI 모델을 선도하고, 공공 및 민간 투자를 통해 핵심 산업 분야와 과학 분야에서 EU의 전략적 자율성을 유지할 것입니다. 관심 있는 컨소시엄의 참여를 위한 공고가 오늘 발표되었습니다.

InvestAI를 통해 기가팩토리에 대한 민간 투자가 더욱 촉진될 것이며 , 이를 통해 유럽 연합 전역에서 최대 5개의 AI 기가팩토리에 200억 유로의 투자를 유치할 예정입니다.

클라우드 용량 및 데이터 센터에 대한 민간 부문의 투자를 촉진하기 위해 위원회는 클라우드 및 AI 개발법(Cloud and AI Development Act) 도 제안할 예정입니다. 이 법의 목표는 향후 5~7년 내에 EU의 데이터 센터 용량을 최소 세 배로 늘리고, 지속가능성이 높은 데이터 센터를 우선적으로 유치하는 것입니다.

2. 대용량 고품질 데이터에 대한 접근성 증가

AI 혁신을 강화하려면 방대한 양의 고품질 데이터에 대한 접근성도 필수적입니다. 실행 계획의 중요한 요소 중 하나는 데이터 랩(Data Labs) 을 설립하여 AI 팩토리(AI Factory) 내 다양한 소스에서 수집된 방대한 양의 고품질 데이터를 통합하고 큐레이션하는 것입니다. 2025년에는 AI 솔루션을 확장할 수 있는 진정한 내부 데이터 시장을 조성하기 위한 포괄적인 데이터 연합 전략이 출범할 예정입니다.

3. EU의 전략적 부문에서 알고리즘 개발 및 AI 도입 촉진

AI의 잠재력에도 불구하고 EU 내 기업 중 AI를 도입한 기업은 13.5%에 불과합니다. 맞춤형 AI 솔루션을 개발하고, 산업 활용을 확대하며, EU의 전략적 공공 및 민간 부문에서 AI 도입을 본격화하기 위해 집행위원회는 향후 몇 달 안에 AI 적용 전략을 발표할 예정입니다 . AI 팩토리와 유럽 디지털 혁신 허브 (EDIH)를 비롯한 유럽 AI 혁신 인프라는 이 전략에서 중요한 역할을 할 것입니다.

4. AI 기술 및 인재 강화

증가하는 AI 인재 수요를 충족하기 위해 위원회는 인재 풀(Talent Pool), 마리 퀴리-퀴리 부부의 ‘MSCA Choose Europe’ 프로그램, 그리고 곧 개교할 AI 기술 아카데미(AI Skills Academy) 에서 제공하는 AI 펠로우십 제도 등의 이니셔티브를 통해 고도로 숙련된 AI 전문가 및 연구자의 국제 채용을 촉진할 것입니다. 이러한 조치는 AI 분야에서 활동하는 비EU 출신 고도로 숙련된 인력의 합법적인 이주 경로 확보에 기여하고, 유럽 최고의 AI 연구자와 전문가들을 유럽으로 다시 유치할 것입니다. 또한, 핵심 분야에서 AI 및 생성 AI 관련 교육 및 훈련 프로그램을 개발하여 차세대 AI 전문가를 양성하고 근로자의 기술 향상 및 재교육을 지원할 것입니다.

5. 규제 간소화

AI법은 시민들의 기술 신뢰를 높이고 투자자와 기업가들에게 유럽 전역에 AI를 확장하고 배포하는 데 필요한 법적 확실성을 제공합니다. 집행위원회는 또한 기업들의 AI법 준수를 지원하기 위해 AI법 서비스 데스크를 출범시킬 예정입니다 . 이 서비스는 AI법에 대한 정보와 지침을 제공하는 중심적인 역할을 할 것입니다.

✨ AI Product Rankings

검색어를 입력하면 주요 챗봇에서 몇 번째 순위가 나오는지 확인할 수 있다. 다양한 LLM이 어떤 분야에서 어떤 브랜드를 추천하는지 색인화하려는 시도