Face recognition and the ethics of AI

Benedict Evans

 

얼굴인식 윤리와 관련된 꽤나 긴 글인데 간단히 말하자면 우리가 어떤 것이 좋고 나쁘다고 이야기하기에는 회색 지대가 많다는 내용. 많은 부분 기술이 아니라 사람들이 가지는 인식, 문화, 정치와 관련된 질문에서 비롯한다는 것.

 

좋은 사람이 나쁜 데이터를 활용할 때

출처 : François Chollet

  • 수학은 편향될 수 없지만 데이터는 편향될 수 있다. (The maths can’t be biased but the data can be.)
    예) 피부암을 판별하기 위한 데이터 구성에서 인종간 데이터가 고르게 포함되지 않은 경우

 

나쁜 사람이 좋은 데이터를 활용할 때

  • 경찰이 길 잃은 노인을 식별
  • 계산대에서 고객 식별

이를 판단하기 위해 몇 가지 기준을 사용한다 (누가 수행하는지, 의도적인지, 익명을 보장하는지 등). 이러한 데이터베이스 문제에 대해 이야기하지만 우리는 공항에서 지문 날인이나 범죄자 생체정보 데이터베이스 구축에는 익숙하다. 즉, 무엇이 나쁜지에 대한 합의가 이루어지지 않기 때문에 실제로 나쁜것이 무엇인지 이야기하기 어렵다는 점이다.

 

따라서 해결해야하는 과제는 올바른 수준의 추상성을 획득하는 것이라고 말한다.