Gallagher, Bipartisan Coalition Introduce Legislation to Protect Americans From Foreign Adversary Controlled Applications, Including TikTok

틱톡 금지 법안과 관련된 내용. 플랫폼 규제와 관련해 국가 안보 입장에서 접근 사례

미국과 중국 공산당 간의 전략적 경쟁에 관한 하원 선정위원회 위원장 겸 순위 위원인 마이크 갤러거 의원(마이크 갤러거, R-WI)과 라자 크리슈나무르티 의원(라자 크리슈나무르티, D-IL)이 오늘 ‘외국의 적대적 통제 애플리케이션으로부터 미국인 보호법안’을 발의했습니다. 이 법안은 의회가 제10장에 정의한 대로 외국 적국의 통제를 받는 바이트댄스와 같은 단체와 연계된 애플리케이션이 아닌 한, 틱톡을 포함한 바이트댄스 통제 애플리케이션의 미국 내 앱 스토어 제공 또는 웹 호스팅 서비스를 금지하는 내용을 담고 있습니다.

또한 이 법안은 대통령이 타이틀 10에 따라 외국 적국의 통제 하에 있고 국가 안보에 위험을 초래할 수 있는 특정 소셜 미디어 애플리케이션을 지정할 수 있는 절차를 마련했습니다. 지정된 애플리케이션은 매각을 통해 외국 적대 세력의 통제 하에 있는 기업과의 관계를 끊지 않는 한 미국 내 앱 스토어 및 웹 호스팅 서비스 제공이 금지됩니다.

다음은 의원의 발언 인용

“틱톡은 우리 다음 세대의 정신을 오염시키고 중국 공산당이 미국인의 방대한 데이터에 자유롭게 접근할 수 있도록 하는 중국 공산주의 악성코드입니다. 저는 마이크 갤러거 위원장과 함께 미국에서 틱톡을 마침내 금지하는 ‘외국의 적으로부터 미국인 보호법’을 발의하게 된 것을 자랑스럽게 생각합니다. 불법으로 국경을 넘는 방법에 대한 동영상 유포부터 오사마 빈 라덴의 ‘미국에 보내는 편지’ 지지까지, 공산주의 중국은 틱톡을 미국의 국가 안보를 약화시키는 위험한 선전을 퍼뜨리는 도구로 사용하고 있습니다. 우리는 중국 공산당이 이 디지털 무기를 계속 활용하는 것을 허용할 수 없습니다.”라고 스테파닉 의원은 말했습니다

India reverses AI stance, requires government approval for model launches

규제 당국이 기술을 잘못 이해하고 있는 사례. 인도 정부는 모든 AI 모델은 정부의 사전 승인을 받아야 하며, 편견이나 차별이 없는지 확인해야 한다는 권고안을 발표. 비결정적 시스템에서 결정론적 결과를 보장할 수 없다.

기술 기업들에게 AI 모델이 생성하는 결과물에 “내재된 오류 가능성 또는 신뢰성”을 “적절하게” 표시하도록 요구하는 이 새로운 권고안은 인도의 AI 규제에 대한 이전의 손 놓고 있던 접근 방식에서 반전된 것입니다. 1년 전만 해도 인도 교육부는 AI 성장을 규제하지 않는 대신 이 분야를 인도의 전략적 이익에 필수적인 분야로 규정했습니다. 인도의 이러한 움직임은 많은 업계 임원들을 놀라게 했습니다. 많은 인도 스타트업과 VC들은 새로운 권고에 겁을 먹었으며, 이러한 규제가 이미 뒤처져 있는 인도가 글로벌 경쟁에서 경쟁하는 데 방해가 될 것이라고 생각합니다.

Western countries are more pessimistic about AI

서양권이 인공지능을 업무 활용하는데 더 부정적 인식을 가지고 있다는 기시

Artificial Intelligence Act: MEPs adopt landmark law
European Parliament. 24. 3. 13.

빠르게 변하는 불분명한 분야의 규제. 나타나는 효과가 아닌 AI 자체를 규제하려는 시도가 맞을까

이 규정은 고위험 AI로부터 기본권, 민주주의, 법치, 환경적 지속가능성을 보호하는 동시에 혁신을 촉진하고 유럽을 이 분야의 리더로 자리매김하는 것을 목표로 합니다. 이 규정은 잠재적 위험과 영향 수준에 따라 AI에 대한 의무를 규정하고 있습니다.

금지된 애플리케이션

새로운 규정은 민감한 특성에 기반한 생체 인식 분류 시스템, 얼굴 인식 데이터베이스를 만들기 위해 인터넷이나 CCTV 영상에서 얼굴 이미지를 비표적 스크래핑하는 등 시민의 권리를 위협하는 특정 AI 애플리케이션을 금지합니다. 직장과 학교에서의 감정 인식, 사회적 채점, 예측적 치안(개인의 프로파일링 또는 특성 평가만을 기반으로 하는 경우), 인간의 행동을 조작하거나 사람의 취약점을 악용하는 AI도 금지됩니다.

법 집행 기관 면제

법 집행 기관에서 생체 인식 시스템(RBI)을 사용하는 것은 원칙적으로 금지되어 있으며, 예외적으로 엄격하게 정의된 경우에만 허용됩니다. “실시간” RBI는 시간과 지리적 범위가 제한되고 특정 사전 사법 또는 행정 허가를 받아야 하는 등 엄격한 안전장치를 충족하는 경우에만 배포할 수 있습니다. 예를 들어 실종자 수색이나 테러 공격 방지 등이 이러한 용도에 포함될 수 있습니다. 이러한 시스템을 사후에 사용하는 경우(“사후 원격 RBI”)는 고위험 사용 사례로 간주되며, 형사 범죄와 관련된 사법적 허가가 필요합니다.

고위험 시스템에 대한 의무 사항

건강, 안전, 기본권, 환경, 민주주의 및 법치에 대한 중대한 잠재적 피해로 인해 다른 고위험 AI 시스템에 대해서도 명확한 의무가 부과될 것으로 예상됩니다. 고위험 AI 사용의 예로는 중요 인프라, 교육 및 직업 훈련, 고용, 필수 민간 및 공공 서비스(예: 의료, 은행 업무), 법 집행, 이주 및 국경 관리, 사법 및 민주적 절차(예: 선거에 영향을 미치는 것)의 특정 시스템이 있습니다. 이러한 시스템은 위험을 평가 및 줄이고, 사용 로그를 유지하며, 투명하고 정확해야 하고, 사람의 감독이 보장되어야 합니다. 시민은 AI 시스템에 대한 불만을 제기하고 자신의 권리에 영향을 미치는 고위험 AI 시스템에 기반한 결정에 대한 설명을 받을 권리가 있습니다.

투명성 요구 사항

범용 AI(GPAI) 시스템과 그 기반이 되는 GPAI 모델은 EU 저작권법 준수, 교육에 사용된 콘텐츠의 상세 요약 게시 등 특정 투명성 요건을 충족해야 합니다. 시스템적 위험을 초래할 수 있는 더 강력한 GPAI 모델일수록 모델 평가 수행, 시스템적 위험 평가 및 완화, 사고 보고 등의 추가 요건에 직면하게 됩니다.

또한 인위적이거나 조작된 이미지, 오디오 또는 비디오 콘텐츠(‘딥페이크’)에는 이러한 사실을 명확하게 표시해야 합니다.

Dating Apps Have Hit a Wall. Can They Turn Things Around?
NYT

미국에서는 새로운 관계의 절반이 데이팅 앱을 통해 이루어진다고 말하는데, 이러한 데이팅 앱에 미래가 있을까? 사람들이 만남에 돈을 지불하기를 꺼려하면서 어려움을 겪고 있다는 이야기.

미국 최대 세대인 밀레니얼 세대는 Tinder가 처음 출시되었을 때 주된 데이트 연령층이었지만, 최근 몇 년 동안 결혼하는 사람들이 늘어나면서 앱을 그만두게 되었습니다. 이제 주요 사용자는 더 적은 가처분 소득을 가진 젊은 세대인 Z세대로 전환되었습니다. 이러한 세대 변화는 데이트 앱 산업에 도전 과제를 제기합니다.

뉴욕 대학교의 18세 학생 Mandy Wang은 사람들을 직접 만나거나 Instagram이나 Snapchat 같은 플랫폼을 통해 직접 메시지를 보내는 것을 선호한다고 말했습니다. 데이트 앱은 “게임”처럼 캐주얼하게 사용하는 것이라고 했습니다.

“사람들은 데이트 앱을 사용하지만, 지불하는 사람은 모릅니다,”라고 Wang은 말했습니다. 실제로 그녀는 누군가가 구독을 위해 돈을 지불하는 것을 알게 되면 “이상하다”고 생각할 것이라고 했습니다.

현재 컨설턴트이자 데이트 코치인 Tinder의 전 사회학자 Jess Carbino는 젊은 사람들이 “여전히 온라인 데이트 앱을 사용할 욕구는 있지만, 파트너를 찾는 긴급성을 느끼지는 않는다”고 말했습니다.

Every US federal agency must hire a chief AI officer
Verge

미국 연방 기관들은 이제 모든 AI 시스템을 감독할 고위 책임자를 두어야 하며, 정부는 공공 서비스에서 AI 사용의 안전성을 보장하고자 한다. 주요 내용으로는 1) 모든 미 연방 기관은 AI 시스템을 감독할 고위 책임자를 지정해야 하며, AI 사용의 안전성을 보장하기 위한 조치를 취해야 한다. 2) 기관들은 AI 거버넌스 보드를 설립하여 AI 사용을 조정하고, 매년 AI 시스템 목록, 관련 위험 및 위험 완화 계획을 OMB에 제출해야 한다. 3) 새로운 지침은 바이든 행정부의 AI 행정 명령을 확장한 것으로, 연방 기관들이 AI 안전 기준을 마련하고 AI 인재를 늘리도록 요구한다.

기관의 AI 책임자와 거버넌스 위원회의 책임 중 일부는 AI 시스템을 자주 모니터링하는 것이다. 영은 기관들이 사용하는 AI 제품 목록을 제출해야 한다고 말했다. 만약 어떤 AI 시스템이 “민감하다”는 이유로 목록에서 제외된다면, 그 이유를 공공에 제공해야 한다. 기관들은 또한 사용하는 각 AI 플랫폼의 안전 위험을 독립적으로 평가해야 한다.

연방 기관들은 또한 배포하는 모든 AI가 “알고리즘 차별의 위험을 완화하고, 정부가 AI를 어떻게 사용하는지에 대해 대중에게 투명성을 제공”하는 안전 장치를 충족해야 한다. OMB의 사실 자료는 몇 가지 예를 제시하고 있다:

• 공항에서는 여행자가 TSA 얼굴 인식을 선택하지 않더라도 지연되거나 순서를 잃지 않을 수 있다.
• 연방 의료 시스템에서 AI가 중요한 진단 결정을 지원할 때, 인간이 도구의 결과를 검증하고 의료 접근에서의 격차를 피한다.
• 정부 서비스에서 사기를 감지할 때 AI를 사용하는 경우, 중요한 결정에는 인간의 감독이 필요하며, 영향을 받은 개인은 AI로 인한 피해에 대해 구제를 받을 수 있다.

Commission opens non-compliance investigations against Alphabet, Apple and Meta under the Digital Markets Act

DMA는 디지털 부문의 경쟁 가능하고 공정한 시장을 보장하기 위한 법률로, 게이트키퍼 역할을 하는 대형 디지털 플랫폼을 규제한다. 이러한 게이트키퍼는 비즈니스 사용자와 소비자 간의 중요한 관문을 제공하여 디지털 경제에서 병목 현상을 일으킬 수 있는 힘을 가지고 있다. 2023년 9월, 유럽연합 집행위원회는 알파벳, 아마존, 애플, 바이트댄스, 메타, 마이크로소프트를 게이트키퍼로 지정했다. 이들 게이트키퍼는 2024년 3월 7일까지 모든 DMA 의무를 완전히 준수해야 한다.

• 알파벳과 애플의 조치: 앱스토어에서 소비자를 외부 오퍼로 ‘유도’하는 것과 관련된 규정 위반 여부를 조사한다. DMA 제5조(4)는 게이트키퍼가 앱 개발자가 무료로 외부 오퍼로 소비자를 유도할 수 있도록 해야 한다고 규정하고 있다.
• 알파벳의 자사 우대 조치: 구글 검색 결과에 구글의 자체 서비스(예: 구글 쇼핑, 구글 플라이츠, 구글 호텔)와 유사한 경쟁 서비스에 비해 불공정하게 우대하는지 조사한다.
• 애플의 사용자 선택 의무 준수 여부: iOS에서 소프트웨어 애플리케이션을 쉽게 제거하고, 기본 설정을 쉽게 변경하며, 사용자에게 대체 기본 서비스를 선택할 수 있는 선택 화면을 제공하는 의무를 제대로 준수하는지 조사한다.
• 메타의 ‘지불 또는 동의’ 모델: 메타가 최근 도입한 모델이 사용자에게 진정한 대안을 제공하는지 여부를 조사한다.

The Top 100 Gen AI Consumer Apps
a16z, by Olivia Moore

웹 제품 중 ChatGPT는 여전히 가장 많이 방문되는 사이트로, 월 20억 회 방문을 기록.Gemini(구 Bard), Character.AI, Quillbot가 상위 5위 내에 포함됨.새로운 진입자 중 Liner, Claude, JanitorAI, Spicychat, CrushOn이 높은 순위에 올랐다.

모바일 제품 중 ChatGPT가 1위를 차지했으나, Microsoft Edge와 Photomath가 그 뒤를 이었다. 모바일 앱 상위 50위 중 5개의 AI 기업이 웹과 모바일 모두에서 높은 순위를 기록했다: ChatGPT, Character.AI, Poe, Photoroom, Pixelcut.

Teacher arrested, accused of using AI to falsely paint boss as racist and antisemitic
NBC

인공지능으로 증거자료를 만드는 일이 훨씬 많아질 것이고, 또한 사람들이 유죄를 입증할 수 있는 녹음이 조작되었다고 주장하기가 매우 쉬워질 것이다.

메릴랜드주의 한 고등학교 교사가 인공 지능을 이용해 가짜 음성을 만들어 상사의 목소리에 인종 차별적이고 반유대주의적인 단어를 심은 혐의로 체포됐다고 당국이 목요일 밝혔다.

파이크스빌 고등학교의 체육 교사이자 운동 감독인 다존 다리엔은 지난 1월 교장 에릭 아이즈워트의 목소리를 위조한 혐의로 기소됐다고 당국은 밝혔다.

로버트 맥컬러프 볼티모어 카운티 경찰서장은 토슨에서 기자들에게 “이제 우리는 그 녹음이 진품이 아니라는 결정적인 증거를 확보했습니다.”라고 말했습니다. “이 녹음은 인공 지능 기술을 사용하여 생성된 것으로 확인되었습니다.”

다리엔은 학교 활동 방해 및 기타 혐의로 기소되었습니다.

Commission designates Shein as Very Large Online Platform under the Digital Services Act
European Commission

소셜 네트워크와 의류 소매업체에 모두 적용되는 규칙을 작성할 수 있나

오늘, 유럽연합 집행위원회는 Shein 을 디지털 서비스법(DSA)에 따라 초대형 온라인 플랫폼(VLOP)으로 공식 지정했습니다.

Shein은 유럽 연합에서 월 평균 4,500만 명 이상의 사용자를 보유한 패션 온라인 리테일러입니다. 셰인이 유럽연합 집행위원회에 통보한 이 사용자 수는 VLOP로 지정되기 위한 DSA 임계치를 초과합니다.

오늘 VLOP로 지정됨에 따라 셰인은 통지 후 4개월 이내(즉, 2024년 8월 말까지)에 미성년자를 포함한 온라인 사용자의 권한 부여 및 보호를 위한 구체적인 조치를 채택하고 서비스로 인해 발생하는 모든 시스템적 위험을 적절히 평가 및 완화할 의무 등 DSA의 가장 엄격한 규정을 준수해야 합니다.