EU’s new rules for tech “gatekeepers” kick in
Axios
유럽 관련 사례 정리해 놓은게 없어 메모용을 남겨 놓는 글.
‘게이트키퍼’로 지정된 기업으로는 메타, TikTok의 모기업인 ByteDance, 알파벳, 애플, 아마존, 마이크로소프트 등이 있습니다. DMA는 유럽의 의제를 설정하는 일반 데이터 보호 규정, 디지털 서비스법 및 곧 시행될 AI 법을 따릅니다. 유럽정책분석센터의 선임 연구원 빌 에칙슨은 기자들에게 “10년 전만 해도 기술 기업들은 10대 청소년과 같았고 규제가 거의 없었습니다.”라고 말했습니다. “이제 그들은 어른이 되었고 은행, 통신 및 우리 삶에 막대한 영향을 미치는 다른 산업과 마찬가지로 규제를 받게 될 것입니다.” 대부분의 기업들은 데이터 이동성과 광고 투명성을 강화하겠다고 약속하고 있습니다.
틱톡 금지 법안과 관련된 내용. 플랫폼 규제와 관련해 국가 안보 입장에서 접근 사례
미국과 중국 공산당 간의 전략적 경쟁에 관한 하원 선정위원회 위원장 겸 순위 위원인 마이크 갤러거 의원(마이크 갤러거, R-WI)과 라자 크리슈나무르티 의원(라자 크리슈나무르티, D-IL)이 오늘 ‘외국의 적대적 통제 애플리케이션으로부터 미국인 보호법안’을 발의했습니다. 이 법안은 의회가 제10장에 정의한 대로 외국 적국의 통제를 받는 바이트댄스와 같은 단체와 연계된 애플리케이션이 아닌 한, 틱톡을 포함한 바이트댄스 통제 애플리케이션의 미국 내 앱 스토어 제공 또는 웹 호스팅 서비스를 금지하는 내용을 담고 있습니다.
또한 이 법안은 대통령이 타이틀 10에 따라 외국 적국의 통제 하에 있고 국가 안보에 위험을 초래할 수 있는 특정 소셜 미디어 애플리케이션을 지정할 수 있는 절차를 마련했습니다. 지정된 애플리케이션은 매각을 통해 외국 적대 세력의 통제 하에 있는 기업과의 관계를 끊지 않는 한 미국 내 앱 스토어 및 웹 호스팅 서비스 제공이 금지됩니다.
다음은 의원의 발언 인용
“틱톡은 우리 다음 세대의 정신을 오염시키고 중국 공산당이 미국인의 방대한 데이터에 자유롭게 접근할 수 있도록 하는 중국 공산주의 악성코드입니다. 저는 마이크 갤러거 위원장과 함께 미국에서 틱톡을 마침내 금지하는 ‘외국의 적으로부터 미국인 보호법’을 발의하게 된 것을 자랑스럽게 생각합니다. 불법으로 국경을 넘는 방법에 대한 동영상 유포부터 오사마 빈 라덴의 ‘미국에 보내는 편지’ 지지까지, 공산주의 중국은 틱톡을 미국의 국가 안보를 약화시키는 위험한 선전을 퍼뜨리는 도구로 사용하고 있습니다. 우리는 중국 공산당이 이 디지털 무기를 계속 활용하는 것을 허용할 수 없습니다.”라고 스테파닉 의원은 말했습니다
India reverses AI stance, requires government approval for model launches
규제 당국이 기술을 잘못 이해하고 있는 사례. 인도 정부는 모든 AI 모델은 정부의 사전 승인을 받아야 하며, 편견이나 차별이 없는지 확인해야 한다는 권고안을 발표. 비결정적 시스템에서 결정론적 결과를 보장할 수 없다.
기술 기업들에게 AI 모델이 생성하는 결과물에 “내재된 오류 가능성 또는 신뢰성”을 “적절하게” 표시하도록 요구하는 이 새로운 권고안은 인도의 AI 규제에 대한 이전의 손 놓고 있던 접근 방식에서 반전된 것입니다. 1년 전만 해도 인도 교육부는 AI 성장을 규제하지 않는 대신 이 분야를 인도의 전략적 이익에 필수적인 분야로 규정했습니다. 인도의 이러한 움직임은 많은 업계 임원들을 놀라게 했습니다. 많은 인도 스타트업과 VC들은 새로운 권고에 겁을 먹었으며, 이러한 규제가 이미 뒤처져 있는 인도가 글로벌 경쟁에서 경쟁하는 데 방해가 될 것이라고 생각합니다.
Artificial Intelligence Act: MEPs adopt landmark law
European Parliament. 24. 3. 13.
빠르게 변하는 불분명한 분야의 규제. 나타나는 효과가 아닌 AI 자체를 규제하려는 시도가 맞을까
이 규정은 고위험 AI로부터 기본권, 민주주의, 법치, 환경적 지속가능성을 보호하는 동시에 혁신을 촉진하고 유럽을 이 분야의 리더로 자리매김하는 것을 목표로 합니다. 이 규정은 잠재적 위험과 영향 수준에 따라 AI에 대한 의무를 규정하고 있습니다.
금지된 애플리케이션
새로운 규정은 민감한 특성에 기반한 생체 인식 분류 시스템, 얼굴 인식 데이터베이스를 만들기 위해 인터넷이나 CCTV 영상에서 얼굴 이미지를 비표적 스크래핑하는 등 시민의 권리를 위협하는 특정 AI 애플리케이션을 금지합니다. 직장과 학교에서의 감정 인식, 사회적 채점, 예측적 치안(개인의 프로파일링 또는 특성 평가만을 기반으로 하는 경우), 인간의 행동을 조작하거나 사람의 취약점을 악용하는 AI도 금지됩니다.
법 집행 기관 면제
법 집행 기관에서 생체 인식 시스템(RBI)을 사용하는 것은 원칙적으로 금지되어 있으며, 예외적으로 엄격하게 정의된 경우에만 허용됩니다. “실시간” RBI는 시간과 지리적 범위가 제한되고 특정 사전 사법 또는 행정 허가를 받아야 하는 등 엄격한 안전장치를 충족하는 경우에만 배포할 수 있습니다. 예를 들어 실종자 수색이나 테러 공격 방지 등이 이러한 용도에 포함될 수 있습니다. 이러한 시스템을 사후에 사용하는 경우(“사후 원격 RBI”)는 고위험 사용 사례로 간주되며, 형사 범죄와 관련된 사법적 허가가 필요합니다.
고위험 시스템에 대한 의무 사항
건강, 안전, 기본권, 환경, 민주주의 및 법치에 대한 중대한 잠재적 피해로 인해 다른 고위험 AI 시스템에 대해서도 명확한 의무가 부과될 것으로 예상됩니다. 고위험 AI 사용의 예로는 중요 인프라, 교육 및 직업 훈련, 고용, 필수 민간 및 공공 서비스(예: 의료, 은행 업무), 법 집행, 이주 및 국경 관리, 사법 및 민주적 절차(예: 선거에 영향을 미치는 것)의 특정 시스템이 있습니다. 이러한 시스템은 위험을 평가 및 줄이고, 사용 로그를 유지하며, 투명하고 정확해야 하고, 사람의 감독이 보장되어야 합니다. 시민은 AI 시스템에 대한 불만을 제기하고 자신의 권리에 영향을 미치는 고위험 AI 시스템에 기반한 결정에 대한 설명을 받을 권리가 있습니다.
투명성 요구 사항
범용 AI(GPAI) 시스템과 그 기반이 되는 GPAI 모델은 EU 저작권법 준수, 교육에 사용된 콘텐츠의 상세 요약 게시 등 특정 투명성 요건을 충족해야 합니다. 시스템적 위험을 초래할 수 있는 더 강력한 GPAI 모델일수록 모델 평가 수행, 시스템적 위험 평가 및 완화, 사고 보고 등의 추가 요건에 직면하게 됩니다.
또한 인위적이거나 조작된 이미지, 오디오 또는 비디오 콘텐츠(‘딥페이크’)에는 이러한 사실을 명확하게 표시해야 합니다.
Dating Apps Have Hit a Wall. Can They Turn Things Around?
NYT
미국에서는 새로운 관계의 절반이 데이팅 앱을 통해 이루어진다고 말하는데, 이러한 데이팅 앱에 미래가 있을까? 사람들이 만남에 돈을 지불하기를 꺼려하면서 어려움을 겪고 있다는 이야기.
미국 최대 세대인 밀레니얼 세대는 Tinder가 처음 출시되었을 때 주된 데이트 연령층이었지만, 최근 몇 년 동안 결혼하는 사람들이 늘어나면서 앱을 그만두게 되었습니다. 이제 주요 사용자는 더 적은 가처분 소득을 가진 젊은 세대인 Z세대로 전환되었습니다. 이러한 세대 변화는 데이트 앱 산업에 도전 과제를 제기합니다.
뉴욕 대학교의 18세 학생 Mandy Wang은 사람들을 직접 만나거나 Instagram이나 Snapchat 같은 플랫폼을 통해 직접 메시지를 보내는 것을 선호한다고 말했습니다. 데이트 앱은 “게임”처럼 캐주얼하게 사용하는 것이라고 했습니다.
“사람들은 데이트 앱을 사용하지만, 지불하는 사람은 모릅니다,”라고 Wang은 말했습니다. 실제로 그녀는 누군가가 구독을 위해 돈을 지불하는 것을 알게 되면 “이상하다”고 생각할 것이라고 했습니다.
현재 컨설턴트이자 데이트 코치인 Tinder의 전 사회학자 Jess Carbino는 젊은 사람들이 “여전히 온라인 데이트 앱을 사용할 욕구는 있지만, 파트너를 찾는 긴급성을 느끼지는 않는다”고 말했습니다.
Assessing the Implications of a Productivity Miracle
Bridgewater
생산성 부문에서 인공지능의 잠재적 영향에 대해 논의하는 글.
기존 복잡한 인지 작업 수행에서 발생하는 병목현상의 대부분을 해결할 수 있다고 본다. 따라서 사무직 업무의 상당 부분을 낮은 또는 제로 한계 비용으로 수행하게 될 것이라고 하고 있다.
우리는 1990년대와 2000년대 IT 혁명으로 인해 정보의 생산과 유통에 관여하는 많은 비즈니스의 생산 또는 유통 한계 비용이 0이 된 것을 목격했습니다. 무료 및 저가 제품의 범람으로 혜택을 본 소비자 외에도, 유통 비용이 전혀 들지 않는 제품에 프리미엄을 부과하여 눈에 띄는 마진을 올린 소프트웨어 회사도 ‘승자’에 포함되었습니다. 신문사나 카메라 회사 같은 ‘패자’들은 한계 비용 기준으로 제로와 경쟁할 수 없었고, 소비자들이 훨씬 더 저렴한(종종 무료) 대안을 선택하면서 급격히 위축되었습니다.
‘모델 T 효과 ‘를 이야기하기도 한다. 이전에는 감당할 수 없었던 제품의 가격이 인하되면 소비자들이 더 많이 구매하여 완전히 새로운 산업이 생겨나는 현상으로, 포드 모델 T 생산성 혁신이 완전히 새로운 대중 시장 자동차 시장을 탄생시킨 사례를 이야기한다. 가장 최근의 사례는 소셜 미디어.
사진의 디지털화는 일부 AI 기능에도 적용 가능한 선례가 될 수 있습니다. 사진 제작이 사실상 무료가 되면서 소비는 사실상 무한대로 증가했고, 당장의 잉여의 대부분은 기존 사진 회사들의 희생으로 소비자에게 돌아갔습니다. 그러나 얼마 지나지 않아 무한한 무료 사진에 의존하는 매우 수익성이 높은 새로운 회사(예: 소셜 미디어)가 생겨났습니다.
TikTok users including Russell Brand given special status, messages show
Guardian
틱톡은 콘텐츠 중재에서 특정 이용자를 관대하게 처리하고 있다고 가디언이 보도.
가디언이 입수한 내부 커뮤니케이션에 따르면, 운영진은 이러한 태그가 부착된 계정을 다른 사용자보다 더 관대하게 다루라는 지시를 받았습니다.
한 어드바이저가 70명 이상의 매니저 그룹에게 보낸 메시지에는 ‘최고 크리에이터’라는 단어가 포함된 제목 아래 “엣지 케이스”로 묘사된 것에 대해 “더 관대하게” 대하라는 조언이 있었습니다.
TikTok 직원은 이렇게 말했습니다: “어떤 동영상이 엣지 케이스라고 판단되면 최고 크리에이터인 경우 정책을 적용하지 말라는 의미로 이해합니다.”틱톡은 ‘엣지 케이스’라는 용어를 인정하지 않는다고 밝혔습니다.
그러나 가디언은 ‘에지 케이스’라는 용어가 TikTok의 가이드라인을 위반하는 경계선에 있는 동영상을 지칭하는 것으로 이해하고 있습니다. 이는 공식 콘텐츠 이의 신청 시스템을 실행하는 소프트웨어인 Rock에도 나타납니다.
Twitter’s new policy: reduced enforcement for hate speech, alleged leaked documents show
BoingBoing
트위터의 경우 혐오 메시지나 이미지를 업로드하는 이용자를 차단하지 말라는 지시가 있었다는 내부 문서가 유출되었다. 콘텐츠 조정 관련 트위터의 선택은 사람들에게 노출이 덜 되도록 만드는 방향인가.
더 이상 동일한 수준의 강제 조치를 받지 않는 게시물의 예로는 “폴란드 여행의 다음 목적지는 아우슈비츠입니다. 유대인 여러분, 여기가 마지막 정상입니다. 여기서 내려서 짐을 모두 가져가세요.”
또 다른 예로는 흑인을 비하하는 게시물이 있습니다: “저 놈은 정말 개자식이다”라고 적힌 게시물이 있고, 다른 사용자를 태그하고 히틀러의 사진이 포함된 게시물이 있습니다.
특정 다른 X 사용자를 언급하며 게이 비속어 ‘f****t’라고 부르는 게시물은 새 운영원칙에 따라 삭제되지 않습니다.
비즈니스 포스트와 통화한 운영자에 따르면 이러한 게시물은 이전에는 게시자에게 벌금이 부과되고 삭제 대상이었지만 현재는 X의 알고리즘에 의해 우선 순위가 낮아졌습니다.
새 규정에 따라 이들의 활동 범위는 제한되지만 계정 소유자에 대한 강제 조치는 취해지지 않으며 게시물은 삭제되지 않습니다.
Pornhub, XVideos, and Stripchat hit with tough new EU safety regulations
Verge
EU는 3개의 성인용 동영상 플랫폼을 DSA에서 제외하는 명백한 허점을 보완하여 몇몇 대형 플랫폼을 ‘초대형 온라인 플랫폼’으로 지정했다. 이러한 사이트도 EU의 DSA를 지켜야한다. 즉, VLOP(very large online platforms)로 지정되면 해당 사이트는 위험 평가를 수행하고 아동 성적 학대 자료 및 딥페이크 음란물과 같은 불법 콘텐츠의 확산을 완화해야 한다.
위원회는 2023년 4월에 17개의 초대형 온라인 플랫폼과 2개의 초대형 온라인 검색 엔진으로 구성된 초기 세트를 발표했습니다. 이 목록에는 Amazon, Apple App Store, Facebook, Instagram, X(당시 트위터로 알려짐), YouTube, Google 검색 등이 포함되었습니다. 하지만 이 목록에는 음란물 관련 서비스는 포함되지 않았습니다.
해당 지역에서 월간 활성 사용자 수가 4,500만 명 이상인 서비스는 “매우 큰” 플랫폼으로 간주됩니다. XVideos는 유럽 연합에서 1억 6천만 명의 “월 평균 수신자 “를 보유하고 있다고 밝혔습니다. Pornhub는 월 사용자 수가 3,300만 명이라고 밝혔지만, 새로운 VLOP 목록에 포함되었다는 것은 EU가 이 회사의 자체 보고 수치를 믿지 않는다는 것을 의미합니다. 한편, XHamster은 월간 사용자 수가 3, 200만 명, YouPorn은 720만 명이라고 보고했습니다.
