누가 알고리즘을 두려워하는가


Columbia Journalism Review에 올라온 Who’s afraid of a big bad algorithm?라는 글이다. 개인적으로 재미있는 내용이고 요새 살펴보고 있는 주제와 관련있어 전문 번역을 해볼까 했으나 내용이 좀 길다. The Washington Post에 최근 올라온 Caitlin Dewey의 글로 시작하고 있다.

Dewey의 주요 주장은 대부분의 밀레니얼들이 현재 페이스북을 통해 뉴스를 얻고 있고, 페이스북은 우리의 편견의 일부에 기반하여 무엇을 볼지 영향을 미치는 알고리즘을 가지고 있다는 것이다. 그렇기 때문에 밀레니얼들은 뉴스 전체에 대한 그림을 얻지 못한다. 더 나쁜 점은 이러한 알고리즘은 돈을 벌려는 거대한 기업에 의해 통제되고 대중들의 관심을 완전하게 설명할 수 없는것처럼 보인다. 그러나 현재의 알고리즘의 위험에 대한 많은 논의는 그것들이 어떻게 작동되는지에 대해 단순화하는 경향이 있는 것 같다. 첫째, 알고리즘은 사람에 의해 만들어지고, 우리가 생각하는 것보다 훨씬 복잡하다는 것을 뜻한다. 알고리즘에 내장된 사람의 영향력은 우리가 종종 무시하는 다층적인 품질 관리를 제공한다. 둘째, 좋은 알고리즘은 우리가 읽고 싶어하는 것을 보여줄것이지만, 사람들의 즉각적인 관심사 외부에 놓여있는 새로운 콘텐트를 제공하면서 지속적으로 제안을 정교화할 것이다.

English
Dewey’s central claim is that since most millennials now get their news from Facebook, and Facebook has an algorithm that dictates what we see based in part on our biases, millennials in particular will not get a full picture of the news. Even worse, these algorithms are controlled by giant corporations out to make money, and seem completely unaccountable to the public interest. But many current arguments about the dangers of algorithms tend to simplify how they work. First, algorithms are made by people, meaning they are often more sophisticated than we might think; this built-in human influence also offers a layer of quality control that is often ignored. Second, a good algorithm will show you what you want to read, but it will also continually refine its suggestions, introducing new content that lies outside your immediate interests.

Science에 나왔던 페이스북 뉴스피드 관련 실험결과를 생각해봐도 다양하게 노출되는 뉴스들 중에서도 어떤 것을 볼 것인지는 개인의 선택에 더 큰 영향을 받는다. Mark Zuckerberg는 알고리즘과 관련해서 너무 걱정하지는 않는다며 “앞마당에서 죽어가는 다람쥐가 아프리카에서 죽어가는 사람보다 지금 현재 당신의 흥미와 관련될 수 있다”고 말했다.

그러나 우리가 걱정해야 하는 것이 무엇인지 알기 위해서, 알고리즘이 테크노 디스토피아 선전과 비교해서 무엇이 새롭고 어떤 것이 다른지 구분할 필요가 있다.

English
But to be most aware of what should concern us, we need to separate what is new and different about an algorithm from the techno-dystopian hype.

개인적으로 알고리즘에 대한 논의가 알고리즘에 대한 공개나 투명성으로 가는 것이 적절한지 계속 생각해보게 된다. 저널리즘이 어떤 주의(ism)를 표방한다면 알고리즘이 공개된다고 저널리즘의 원칙에 어떤 변화가 있을 수 있을까.