에버노트의 창업자 Phil Libin이 인터뷰에서 인공지능과 로봇에 대한 재미있는 의견을 밝혔다. 인공지능이 너무 발달하여 똑똑해지면 모든 인류를 몰살시키는 일이 발생할 것이라는 주장에 대한 반론이다. Vox에 실린 인터뷰의 일부 발췌 내용이다.

나는 인공지능을 두려워하지 않는다. 나는 인공지능에 대한 논쟁은 지나치게 과장된 것이라고 생각한다. 사실 약간 이상한 점을 발견했다. 이점을 포함해서 여러가지 면에서 이상하다. 가설은 우리가 수퍼 인공지능 머신을 만들 것이고, 그들이 기하급수적으로 똑똑해지며, 우리보다 똑똑해져서 사람들을 죽이는 것이 최선이라는 논리적인 결정을 내릴 것이라 말한다.

사건의 연속에서 몇 가지 빠진 단계가 있는 것 같다. 똑똑한 것이 왜 모든 인간을 죽일 것인지 이해할 수 없다. 똑똑해질수록 사람들을 죽이고 싶지 않아진다! 왜 정말로 똑똑한 기계들이 도움이 되고 싶지 않아하겠는가? 똑똑한 것이 모든 인간을 죽일 것이라고 생각하게 만드는 종으로서 우리의 죄책감은 무엇인가? 그것은 실제로 무엇이 일어날지에 대한 것보다 우리가 느끼는 죄책감에 대해서 더 많은 것을 이야기한다고 생각한다.

만약 우리가 정말로 현명한 결정이 인류를 없애버리는 것이라고 생각한다면, 인공지능을 제한하려고 시도하는 대신에, 우리가 무엇에 그렇게 죄책감을 느끼는지 그리고 그것을 어떻게 고칠지에 대해 생각하는 것이 훨씬 더 유용할지도 모른다.

English

I’m not afraid of AI. I really think the AI debate is kind of overdramatized. To be honest with you, I kind of find it weird. And I find it weird for several reasons, including this one: there’s this hypothesis that we are going to build super-intelligent machines, and then they are going to get exponentially smarter and smarter, and so they will be much smarter than us, and these super-smart machines are going to make the logical decision that the best thing to do is to kill us.

I feel like there’s a couple of steps missing in that chain of events. I don’t understand why the obviously smart thing to do would be to kill all the humans. The smarter I get the less I want to kill all the humans! Why wouldn’t these really smart machines not want to be helpful? What is it about our guilt as a species that makes us think the smart thing to do would be to kill all the humans? I think that actually says more about what we feel guilty about than what’s actually going to happen.

If we really think a smart decision would be to wipe out humanity then maybe, instead of trying to prevent AI, it would be more useful to think about what are we so guilty about, and let’s fix that?

로봇이라는 단어 자체가 가지고 있는 특징이 문제에 대한 논의를 인간 vs. 로봇의 대결구조로 이끈다는 점이다. 로봇 저널리즘이라는 용법에 대해서도 어떤분이 지적했던 것처럼 알고리즘 저널리즘이 아닌 로봇 저널리즘이라는 단어로 인해 논의가 불필요하게 로봇 vs. 기자의 구조로 간다는 이야기에 공감한다. 로봇이 기자의 일을 대체하는 것에 대한 두려움을 느낀다면 그것 역시 기자들의 죄의식에서 온 것일까?