넥서스/유발 하라리 지음/김명주 옮김/김영사/684쪽/2만 7800원

올해 노벨 과학상의 화두는 ‘인공지능’ (AI)이다. 현재의 AI 시대를 있게 만든 두 사람이 물리학상을 받고 ‘알파고의 아버지’ 데미스 허사비스 구글 딥마인드 최고경영자(CEO)가 화학상을 수상했다. 그런데 놀라운 점은 ‘AI의 아버지’로 받들어지는 물리학상 수상자들의 입에서 AI의 위험성을 경고하는 목소리가 나왔다는 것이다.



●AI는 인공지능 아닌 ‘외계 지능’

AI가 가진 잠재적 위협에 관해 우려하는 이들이 점점 늘고 있다. ‘사피엔스’의 저자로 유명한 이스라엘의 석학 유발 하라리(위 사진)도 그중 한 명이다. 새 책 ‘넥서스’는 그가 AI의 세계적인 대두를 경계하기 위해 낸 책이다. 결론은 간명하다. “통제할 수 없는 힘(AI)을 불러내지 말라”는 거다. 이런 결론으로 가는 서사는 전작들과 마찬가지로 방대하기 이를 데 없다. 벽돌책이지만 술술 읽힌다.

AI는 ‘Artificial Intelligence’(인공지능)의 약자로 인식된다. 저자의 생각은 다르다. ‘Alien Intelligence’(외계 지능)라는 것이다. ‘외계’ 정보 네트워크가 불량해지면 기존의 인간 갈등을 증폭시켜 AI 군비 경쟁과 디지털 냉전으로 몰아갈 수 있다.

AI 혁명에 긍정적인 이들은 신문과 라디오가 민주주의를 이끌고 산업혁명이 삶을 개선한 것처럼 AI도 그러하리라 믿는다. 하지만 다른 게 있다. 이제껏 인간이 만든 발명품들은 인간에게 힘을 실어 줬다. 새로운 도구가 아무리 강력해도 그것을 어디에 쓸지 결정하는 건 항상 인간의 몫이었다. 칼과 폭탄은 누구를 죽일지 스스로 결정하지 않는다. 반면 AI는 스스로 정보를 처리할 수 있으며 인간을 대신해 결정을 내릴 수 있다. “AI는 도구가 아니라 행위자”라는 말이다.

정보는 접착제와 같아서 네트워크를 하나로 결속시킨다. 문제는 정보의 오염이다. 대부분은 정보 네트워크의 작동 방식에 대해 오해하고 있다. 로널드 레이건 전 미국 대통령은 1989년 베를린 장벽이 무너지기 몇 달 전 “전체주의적 통제라는 골리앗은 마이크로칩이라는 다윗에 의해 빠르게 무너질 것”이라고 했고, 버락 오바마도 “정보는 산소 같은 것”이라며 “정보가 자유롭게 흐를수록 사회가 튼튼해진다”고 했다. 저자는 이를 “정보에 대한 순진한 관점”이라고 꼬집었다. 정보에 대한 순진한 관점은 전체 그림의 일부만 본다. 저자는 가장 흔한 정보 오염의 예로 페이스북을 든다. 2016~2017년 사이 미얀마에서는 불교를 믿는 다수의 버마족과 이슬람을 믿는 소수 로힝야족 사이에 오염된 정보가 생성됐다. 이는 걷잡을 수 없는 폭력을 불렀다. 그 숙주가 페이스북이었다.

●새로운 신의 자리를 AI가 누릴 수도

이쯤에서 의문이 생긴다. 당신과 나는 정보 오염 과정에 무관한 사람이며 당연히 분열과 상잔에서 자유롭다고 믿어도 될까. 옮긴이의 말에서는 회의적인 분위기가 읽힌다. “어쩌면 인간은 새로운 신의 자리를 정보(AI)에 내주어야 할지도 모른다.”