[카테고리:] IT

  • 딥페이크 논쟁과 포토샵 역사

    Deep Fakes: Let’s Not Go Off The Deep End

    완전히 새로운 기술로서 딥페이크가 많은 것을 바꾸어놓을 것이라는 두려움이 있으나 실제 지금 발생하고 있는 논쟁은 포토샵이 처음 등장했을 때와 크게 다르지 않다는 점을 지적하는 글이다. 속임수의 역사는 오래되었고 대중의 인식이 증가함에 따라 진실을 파악하기 위한 다른 방식을 도입했다는 이야기.

    나쁜 가짜는 사진 조작에 대한 대중의 인식 증가의 일부일뿐이다. 수 년 동안 패션 잡지는 표지 모델의 외모를 바꾸기 위해 기만적인 기술을 사용했다. 표지에 더 매력적인 모델을 사용하는 잡지는 일반적으로 매력이 떨어지는 잡지보다 많은 부수를 판매하기에 편집자는 사진을 수정하여 대중에게 더욱 매력적으로 보이게 만든다. 불행히도, 이러한 관행은 사회에 비현실적인 아름다움의 이미지를 만들어 냈다. 일단 이러한 수정이 발견되면 건강 단체는 이러한 현상이 야기한 위험 – 특히 식이 장애에 대해 공개적으로 경고하기 시작했다. 그리고 계속되는 대중의 항의로 인해 사람들은 사진 편집 기술과 그것이 할 수 있었던 것에 대해 알게되었다.
    사회적 적응은 더 이상 사진 조작에 아무도 속지 않는다는 것을 의미하는가? 당연히 아니다. 사진에서 진실의 죽음을 이야기하는 대신에 신기술에 대한 인식은 사람들이 제시된 이미지의 진위 여부에 대한 결정을 내리는 데 도움이되는 다른 지표 (예: 출처의 신뢰성)를 사용하도록 권장했다. 결과적으로 뉴스 매체 및 기타 사진 게시자는 정책을 수립하고 사용하는 이미지에 대한 이용자의 신뢰를 육성하는 것을 염두에 둔 의사결정을 내렸다. 예를 들어, 2003 년 로스 앤젤레스 타임스는 이라크 전쟁 사진을 디지털 방식으로 변조 한 기자를 신속히 해고했다. 왜냐하면 편집자들은 조작 된 이미지를 출판하면 독자의 신문 진실성에 대한 인식이 약화될 것이기 때문이다.
    [expand title=eng]
    Bad fakes were only part of the growing public awareness of photographic manipulation. For years, fashion magazines have employed deceptive techniques to alter the appearance of cover models. Magazines with more attractive models on the cover generally sell more copies than those featuring less attractive ones, so editors retouch photos to make them more appealing to the public. Unfortunately, this practice created an unrealistic image of beauty in society and, once this was discovered, health organizations began publically warning about the dangers this phenomenon caused — most notably eating disorders. And due to the ensuing public outcry, families across the country became aware of photo-editing technology and what it was capable of.
    Does societal adaptation mean that no one falls for photo manipulation anymore? Of course not. But instead of prompting the death of truth in photography, awareness of the new technology has encouraged people to use other indicators — such as trustworthiness of the source — to make informed decisions about whether an image presented is authentic. And as a result, news outlets and other publishers of photographs have gone on to establish policies and make decisions regarding the images they use with an eye toward fostering their audience’s trust. For example, in 2003, the Los Angeles Times quickly fired a reporter who had digitally altered Iraq War photographs because the editors realized that publishing a manipulated image would diminish their reader’s perception of the paper’s veracity.[/expand]

  • 더 나은 세상을 만들기 위한 웹

    Our Web Champions
    팀 버너스리와 로즈마리 리스는 32번째 웹 탄생일에 올린 공개서한에서 COVID-19의 어려움에도 더 나은 세상을 만들기 위해 세계의 젊은 사람들을 연결하기 위한 노력이 필요하다고 말했다.

    • Hera Hussain: 성폭력 생존자를위한 자원 봉사자 커뮤니티 Chayn의 창립자
    • Avi Schiffmann: COVID-19 통계를 추적하기 위해 널리 사용하는 웹 리소스를 만든 고등학생
    • Arda Awais / Savena Surana: 디지털 정체성을 탐구하는 예술 프로젝트 인 Identity 2.0의 제작자
    • Peter Okwoko : 웹을 협업 및 정보 공유 도구로 사용하여 플라스틱 폐기물을 자원으로 전환하고 거리에 연결된 청소년을위한 일자리를 창출하는 사회적 기업
  • 기술과 노동자의 분화

    Tech Is Splitting the U.S. Work Force in Two
    By Eduardo Porter, www.nytimes.com

    로봇으로 인한 노동시장의 양극화를 설명하는 글. 기술이 모든 것을 해결해 줄 것이라는 낙관적인 전망도 있으나 이러한 견해에 대해 부정적인 의견을 보인다. 실질적으로 생산성 증가는 고학력 전문가에게서 발생하고 나머지 영역의 생산성이 증가하지 않아서 노동시장이 두 가지로 분화되는 것을 언급하고 있다.

    자동화는 미국 노동력을 두 세계로 분열시키고 있다. 직원당 수십만 달러의 수익을 거두는 인텔 또는 보잉과 같은 회사에서 좋은 임금을 받는 고학력 전문가들이 모인 작은 섬이 있다. 그 섬은 저학력 노동자의 바다 한 가운데 있으며 직원당 적은 수익을 만들어내고 낮은 임금을 통해 생존하는 호텔, 레스토랑, 양로원과 같은 비즈니스에 갇혀있다.
    최근 연구에 따르면 로봇은 노동자 수요를 줄이고 노동자 생산성보다 임금을 낮추고 있는다고 결론지었다. 일부 경제학자들은 지난 30년간 로봇 사용으로 인해 노동자의 지갑으로 가야할 국민 소득 비율이 줄어들었다고 설명했다.
    생산성이 낮은 부분으로 근로자를 끌어 들이기 때문에 자동화는 경제의 골치아픈 패러독스를 설명하는 것을 도와준다. 정보 기술, 로봇, 인공지능의 획기적 확산에도 불구하고 전반적인 생산성 증가가 부진한 상태로 남아있는 경제의 가장 역설적 모순 중 하나를 설명하는 데 도움이 된다.
    [expand title=eng]
    Automation is splitting the American labor force into two worlds. There is a small island of highly educated professionals making good wages at corporations like Intel or Boeing, which reap hundreds of thousands of dollars in profit per employee. That island sits in the middle of a sea of less educated workers who are stuck at businesses like hotels, restaurants and nursing homes that generate much smaller profits per employee and stay viable primarily by keeping wages low.
    Recent research has concluded that robots are reducing the demand for workers and weighing down wages, which have been rising more slowly than the productivity of workers. Some economists have concluded that the use of robots explains the decline in the share of national income going into workers’ paychecks over the last three decades.
    Because it pushes workers to the less productive parts of the economy, automation also helps explain one of the economy’s thorniest paradoxes: Despite the spread of information technology, robots and artificial intelligence breakthroughs, overall productivity growth remains sluggish.[/expand]

  • 이 사람은 존재하지 않습니다.

    이 사람은 존재하지 않습니다

    ‘이 사람은 존재하지 않습니다’ 사이트는 기계 학습을 사용하여 매우 설득력있는 얼굴을 만들어낸다. 사이트명에서 알 수 있듯이 이들은 실제 사람이 아니고 얼굴은 완전 자동으로 생성된다. 일부 인위적인 부분도 발견되지만 거의 완벽한 모습을 보인다. 버츄얼 유튜버나 만들어진 연예인이 실제 사람을 대체하는 것이 자연스러운 시대가 대세가 될 것 같다.

  • 페이스북 좋아요 수 노출 변경

    Facebook tries hiding Like counts to fight envy
    TechCrunch, Josh Costine

    페이스북이 공식적으로 9 월 27일 내일부터 호주에서 게시되는 게시물 좋아요 수를 숨긴다. 게시물의 작성자는 여전히 그 수를 볼 수 있지만 누가 볼 수 있지만, 얼마나 많은 사람들이 좋아요 또는 기타 반응을 보 였는지 볼 수 있던 다른 모든 사람에게 숨겨진다.[expand title=eng]
    That’s why Facebook is officially starting to hide Like counts on posts, first in Australia starting tomorrow, September 27th. A post’s author can still see the count, but it’s hidden from everyone else who will only be able to see who but now how many people gave a thumbs-up or other reaction.[/expand]

    유튜브가 정확한 구독자 숫자를 API에서도 감추기로 한 것에 이어 페이스북도 비슷한 시도를 한다. 다른 사람들의 반응으로 인해 이용자의 기분이 영향받을 수 있기 때문이라고 밝혔다. 과거 페이스북 초기에 비슷한 비판이 있었고 인게이지먼트 숫자를 보여주지 않는 플랫폼에 대한 시도도 있었으나 실패했었다. 플랫폼 성공과 실패의 이유가 그것 하나때문이라고 할 수는 없지만 다른 점은 여전히 작성자는 숫자를 확인할 수 있다는 점이다.

  • 영상 속 인물의 대화 내용 바꾸기

    Text-based Editing of Talking-head Video
    [su_youtube_advanced url=”https://youtu.be/0ybLCfVeFL4″]
    영상 속 사람이 말하는 내용의 일부를 바꾸는 기술에 대한 논문과 영상

  • FTC 데이팅앱 Match 고소

    Dating app maker Match sued by FTC for fraud
    미연방 무역위원회 (FTA)는 사기 행위를 위해 Match, Tinder, OkCupid, Hinge, PlentyofFish 등을 포함한 거의 모든 데이트 앱의 소유자 인 Match Group을 고소했다고 발표했다. FTC에 따르면 Match는 수십만 명의 소비자를 구독 구매로 속이고 사기의 위험에 고객을 노출 시키며 다른 사기 및 불공정 행위에 관여했다.

    FTC에 따르면 대부분의 소비자는 일간 Match 등록의 25 ~ 30 %가 사기꾼으로부터 온다는 것을 알지 못한다고 한다. 여기에는 로맨스 사기, 피싱 사기, 사기 광고 및 강탈 사기가 포함된다. 2013 년부터 2016 년까지 몇 달 동안 Match에서 발생한 커뮤니케이션 중 절반 이상이 회사가 사기로 식별 한 계정에서 비롯되었다.[expand title=eng]
    The FTC says that most consumers aren’t aware that 25 to 30% of Match registrations per day come from scammers. This includes romance scams, phishing scams, fraudulent advertising and extortion scams. During some months from 2013 to 2016, more than half the communications taking place on Match were from accounts the company identified as fraudulent.[/expand]

    예를 들면 연결이 되었다는 메시지를 받고 가입을 했는데 실제가 아닌 봇이나 사기계정이었다는 내용이다. 봇과 스캠은 웹 전반에 많은 논란을 불러오고 있지만 Match의 경우는 이를 통해 간접적으로 이익을 얻었기 때문에 문제가 된다고 본 것이다.

  • 얼굴인식과 인공지능 윤리

    Face recognition and the ethics of AI
    Benedict Evans
     
    얼굴인식 윤리와 관련된 꽤나 긴 글인데 간단히 말하자면 우리가 어떤 것이 좋고 나쁘다고 이야기하기에는 회색 지대가 많다는 내용. 많은 부분 기술이 아니라 사람들이 가지는 인식, 문화, 정치와 관련된 질문에서 비롯한다는 것.
     
    좋은 사람이 나쁜 데이터를 활용할 때
    출처 : François Chollet

    • 수학은 편향될 수 없지만 데이터는 편향될 수 있다. (The maths can’t be biased but the data can be.)
      예) 피부암을 판별하기 위한 데이터 구성에서 인종간 데이터가 고르게 포함되지 않은 경우

     
    나쁜 사람이 좋은 데이터를 활용할 때

    • 경찰이 길 잃은 노인을 식별
    • 계산대에서 고객 식별

    이를 판단하기 위해 몇 가지 기준을 사용한다 (누가 수행하는지, 의도적인지, 익명을 보장하는지 등). 이러한 데이터베이스 문제에 대해 이야기하지만 우리는 공항에서 지문 날인이나 범죄자 생체정보 데이터베이스 구축에는 익숙하다. 즉, 무엇이 나쁜지에 대한 합의가 이루어지지 않기 때문에 실제로 나쁜것이 무엇인지 이야기하기 어렵다는 점이다.
     
    따라서 해결해야하는 과제는 올바른 수준의 추상성을 획득하는 것이라고 말한다.

  • 워드 임베딩의 성적 편향 완화

    Double Hard-Debias: Tailoring Word Embeddings for Gender Bias Mitigation
     
    세일즈포스(salesforce)와 버지니아 대학 연구자들이 제시한 워드 임베딩의 성적 편향을 완화하는 방법에 대한 내용이다.
    워드 임베딩은 단어전체에서 단어를 나타내는 실제 숫자로 이루어진 벡터로 단어와 다른 단어의 관계에 대한 의미론적 구문론적인 뜻을 포착할 수 있게 해준다. 자연어 처리 작업에 널리 활용됨에도 코퍼스에 대한 학습과정에서 의도하지 않은 성적인 편견을 물려받는 것으로 인한 비판을 받았다.
    예를 들면, 다음의 두 가지 기준(남성과 여성 / 젠더중립과 특정젠더)으로 단어를 분류한다면 우수한(brilliant), 똑똑한(genius)과 같은 단어는 젠더 중립적이고 숙녀(ladies), 여왕(queen) 같은 단어는 특정젠더에 속하는 단어이다.
    이와 같은 문제를 알고리즘에 대한 비판으로 접근하는 것과 관련해 사람들이 그러한 방식으로 언어를 사용하기 때문이고, 알고리즘은 이러한 내용을 순수하게 반영하는 것이라는 단순한 실재론에 가까운 입장이었다. 오히려 알고리즘을 의인화하는 방식의 비판에 대해서 부정적이었으나 실제로 이런 학습과 관련된 문제를 적극적으로 교정하는 것이 점차 중요해진다. 예를 들어, 젠더 편견을 가진 시스템으로 이력서 필터링을 하는 경우 어떤 일이 생길 것인가? 이미 비슷한 사례가 많이 제시되었다.
    기존 방식은 사후 처리 과정에서 성별 관련 구성 요소를 주성분 요소를 빼서 편견을 줄이는 방식이라고 한다. 하지만 이러한 방식이 가지는 한계는 단어의 빈도로 인해 제거된 젠더편향이 되살아날 수 있다는 점이다. 본 연구에서 제시한 방식은 워드 임베딩을 빈도가 없는 하위 공간으로 전환하는 과정을 거친다는 것이다. 대충 느낌은 오지만 실제로 데이터를 돌려봐야 정확하게 파악할 수 있을 것 같다.

    일부 전문가들은 단어 삽입에서 편견을 완전히 제거 할 수 없다고 생각하는 것은 가치가 있습니다. 뮌헨 기술 대학 (Technical University of Munich)의 최근 메타 분석에서, 기고자들은 단어의 의미 론적 내용이 항상 사회의 사회 정치적 맥락에 묶여 있기 때문에 자연적으로 발생하는 중립적 텍스트와 같은 것은 없다고 주장합니다. [expand title=eng]
    It’s worth noting that some experts believe bias can’t be fully eliminated from word embeddings. In a recent meta-analysis from the Technical University of Munich, contributors claim there’s “no such thing” as naturally occurring neutral text because the semantic content of words is always bound up with the sociopolitical context of a society.[/expand]

    알고리즘도 현실을 반영하는 하나의 미디어로 결국은 언어와 세상에 관해 어떤 관점을 가져가는지에 대해 고민할 필요가 있다. 완전 중립적이라는 것은 존재하지 않지만 이러한 편향을 줄이는 것이 가지는 의미에 대해 생각해볼 필요가 있지 않을까.

  • 얼굴 기반의 범죄예측 알고리즘

    Over 1,000 AI Experts Condemn Racist Algorithms That Claim to Predict Crime
    By Janus Rose, Vice
    얼굴을 기반으로 범죄여부를 예측하는 알고리즘을 제시하는 연구에 대해 많은 인공지능 전문가가 비판했다는 내용.

    이 공개 서한은 하버드, MIT, 구글, 마이크로 소프트의 학계 및 인공 지능 전문가들에 의해 서명되었으며 출판사 스프링거에게 다가오는 논문의 출판을 중단 할 것을 요구했다. 이 논문은“80 %의 정확성”과“인종의 편견이없는”얼굴 사진만으로 범죄를 저지를 지 여부를 저자가 주장 할 수있는 시스템을 설명합니다.[expand title=eng]
    The public letter has been signed by academics and AI experts from Harvard, MIT, Google, and Microsoft, and calls on the publishing company Springer to halt the publication of an upcoming paper. The paper describes a system that the authors claim can predict whether someone will commit a crime based solely on a picture of their face, with “80 percent accuracy” and “no racial bias.”
    [/expand]

    업데이트 한 뉴스에 따르면 네이쳐에 투고한 논문은 게제불가를 받아서 확인할 수는 없지만 가짜 프로필을 만드는데 얼굴이 왜 중요한지에 대해 생각해보다가 떠오른 기사. 하지만 동양에서는 얼굴을 가지고 판단하는 관상이라는 문화가 익숙하지 않은가? 연구와 관계없이 데이터가 있다면 유사한 아이디어로 한 번 시도해보고 싶은 내용이다.