얼굴인식과 인공지능 윤리

Face recognition and the ethics of AI

Benedict Evans

 

얼굴인식 윤리와 관련된 꽤나 긴 글인데 간단히 말하자면 우리가 어떤 것이 좋고 나쁘다고 이야기하기에는 회색 지대가 많다는 내용. 많은 부분 기술이 아니라 사람들이 가지는 인식, 문화, 정치와 관련된 질문에서 비롯한다는 것.

 

좋은 사람이 나쁜 데이터를 활용할 때

출처 : François Chollet

  • 수학은 편향될 수 없지만 데이터는 편향될 수 있다. (The maths can’t be biased but the data can be.)
    예) 피부암을 판별하기 위한 데이터 구성에서 인종간 데이터가 고르게 포함되지 않은 경우

 

나쁜 사람이 좋은 데이터를 활용할 때

  • 경찰이 길 잃은 노인을 식별
  • 계산대에서 고객 식별

이를 판단하기 위해 몇 가지 기준을 사용한다 (누가 수행하는지, 의도적인지, 익명을 보장하는지 등). 이러한 데이터베이스 문제에 대해 이야기하지만 우리는 공항에서 지문 날인이나 범죄자 생체정보 데이터베이스 구축에는 익숙하다. 즉, 무엇이 나쁜지에 대한 합의가 이루어지지 않기 때문에 실제로 나쁜것이 무엇인지 이야기하기 어렵다는 점이다.

 

따라서 해결해야하는 과제는 올바른 수준의 추상성을 획득하는 것이라고 말한다.

By |2019-10-02T13:18:21+09:0010월 2nd, 2019|IT|0 Comments

FTC 데이팅앱 Match 고소

Dating app maker Match sued by FTC for fraud

미연방 무역위원회 (FTA)는 사기 행위를 위해 Match, Tinder, OkCupid, Hinge, PlentyofFish 등을 포함한 거의 모든 데이트 앱의 소유자 인 Match Group을 고소했다고 발표했다. FTC에 따르면 Match는 수십만 명의 소비자를 구독 구매로 속이고 사기의 위험에 고객을 노출 시키며 다른 사기 및 불공정 행위에 관여했다.

FTC에 따르면 대부분의 소비자는 일간 Match 등록의 25 ~ 30 %가 사기꾼으로부터 온다는 것을 알지 못한다고 한다. 여기에는 로맨스 사기, 피싱 사기, 사기 광고 및 강탈 사기가 포함된다. 2013 년부터 2016 년까지 몇 달 동안 Match에서 발생한 커뮤니케이션 중 절반 이상이 회사가 사기로 식별 한 계정에서 비롯되었다.eng

The FTC says that most consumers aren’t aware that 25 to 30% of Match registrations per day come from scammers. This includes romance scams, phishing scams, fraudulent advertising and extortion scams. During some months from 2013 to 2016, more than half the communications taking place on Match were from accounts the company identified as fraudulent.

예를 들면 연결이 되었다는 메시지를 받고 가입을 했는데 실제가 아닌 봇이나 사기계정이었다는 내용이다. 봇과 스캠은 웹 전반에 많은 논란을 불러오고 있지만 Match의 경우는 이를 통해 간접적으로 이익을 얻었기 때문에 문제가 된다고 본 것이다.

By |2019-09-27T13:46:21+09:009월 27th, 2019|IT|0 Comments

페이스북 좋아요 수 노출 변경

Facebook tries hiding Like counts to fight envy
TechCrunch, Josh Costine

페이스북이 공식적으로 9 월 27일 내일부터 호주에서 게시되는 게시물 좋아요 수를 숨긴다. 게시물의 작성자는 여전히 그 수를 볼 수 있지만 누가 볼 수 있지만, 얼마나 많은 사람들이 좋아요 또는 기타 반응을 보 였는지 볼 수 있던 다른 모든 사람에게 숨겨진다.eng

That’s why Facebook is officially starting to hide Like counts on posts, first in Australia starting tomorrow, September 27th. A post’s author can still see the count, but it’s hidden from everyone else who will only be able to see who but now how many people gave a thumbs-up or other reaction.

유튜브가 정확한 구독자 숫자를 API에서도 감추기로 한 것에 이어 페이스북도 비슷한 시도를 한다. 다른 사람들의 반응으로 인해 이용자의 기분이 영향받을 수 있기 때문이라고 밝혔다. 과거 페이스북 초기에 비슷한 비판이 있었고 인게이지먼트 숫자를 보여주지 않는 플랫폼에 대한 시도도 있었으나 실패했었다. 플랫폼 성공과 실패의 이유가 그것 하나때문이라고 할 수는 없지만 다른 점은 여전히 작성자는 숫자를 확인할 수 있다는 점이다.

By |2019-09-27T13:19:06+09:009월 27th, 2019|IT|0 Comments

이 사람은 존재하지 않습니다.

이 사람은 존재하지 않습니다

‘이 사람은 존재하지 않습니다’ 사이트는 기계 학습을 사용하여 매우 설득력있는 얼굴을 만들어낸다. 사이트명에서 알 수 있듯이 이들은 실제 사람이 아니고 얼굴은 완전 자동으로 생성된다. 일부 인위적인 부분도 발견되지만 거의 완벽한 모습을 보인다. 버츄얼 유튜버나 만들어진 연예인이 실제 사람을 대체하는 것이 자연스러운 시대가 대세가 될 것 같다.

By |2019-02-21T07:02:40+09:002월 21st, 2019|IT|이 사람은 존재하지 않습니다.에 댓글 닫힘