AI가 인간을 굴복시키는 방법, 참으로 끔찍하지 않은가

SF(Science Fiction) 영화나 소설을 좋아한다. 학부 전공 수업에서 관련 영화를 다루기도 한다. SF 영화가 다루는 여러 주제가 있지만, 최근에 부각되는 것은 급속도로 진화하면서 인터넷처럼 생활 편의수단이 되고 있는 인공지능(AI, Artificial Intelligence)이다. 30년 동안 인기 시리즈였던 <미션 임파서블>의 마지막 작품이 될 수도 있는 <미션 임파서블: 파이널 레코닝>(아래 <파이널>)과 전작인 <미션 임파서블: 데드 레코닝 PART ONE>에도 인공지능(AI) '엔터티(Entity)'가 나온다.

최근작인 <파이널>도 기대에 어긋나지 않는다. 극장에서 볼 만하다. 이번 영화에도 예의 주인공 에단 헌트(톰 크루즈)는 인류의 구세주가 되어 열심히 달리고, 어지럽게 날아가는 비행기에서 격투를 벌이고, 심해에 가라앉은 잠수함에 침투하여 '불가능한 임무'(Mission Impossible)을 수행한다. 그렇게 오락영화로만 봐도 충분히 즐길 만하다. 하지만 내가 주목한 건 AI 엔터티의 존재다.

악당이 된 AI, 참으로 섬뜩하다

이전 <미션> 시리즈에서는 악한은 인간이었지만, 최근 두 영화의 악한은 AI이다. <파이널>은 이제 종막에 이른 시리즈의 역사와 사건을 몽타주 편집으로 보여주는데, 간추린 시리즈 역사는 주인공 에단 헌트와 그의 동료인 IMF 요원이 싸워온 악인들의 변천을 보여준다. 이제 세상이 변했다. AI가 막강한 악당이 되었다. 엔터티의 뜻은 존재, 개체, 정의하기 힘든 실체를 가리킨다. 이런 특이한 존재가 사람인지, 국가인지, 무기인지, 혹은 신(god)인지조차 정의하기 힘든 존재라는 걸 드러낸다. 한마디로 인류의 능력을 벗어난 초월적 존재이다.

이 영화를 보고 나서 내가 수업 시간에 다루는 SF 영화인 <아이, 로봇 I, Robot>(2004)이 떠올랐다. 20년 전에 나온 영화인데, 비키(VIKI, Virtual Interactive Kinetic Intelligence)라는 인공지능 시스템이 등장한다. <아이, 로봇>이 나올 때만 해도 비키 같은 인공지능은 단지 상상의 기계였다. 불과 20년 사이에 AI는 인류의 일상생활에 쑥 들어왔다. 이제는 비키보다 훨씬 진화한 엔터티 같은 AI의 존재가 공상으로 여겨지지 않는 영화가 만들어진다.

비키가 섬뜩하게 느껴지는 것은 오직 인간을 위해 판단하고 행동한다는 로봇 3원칙에 따라 프로그램된 AI가 스스로 진화해서 인류와 자신의 관계를 새롭게 해석한다는 것이다. AI 전문가들이 가장 우려하는 것도 비키 같은 AI가 보여주는 예측 불가능한 자율성, 스스로 진화하는 의식, 비논리적 행동 가능성이다. AI의 작동 과정에 관한 관련 자료를 찾아보니, AI 연구자들은 AI에 데이터를 입력하고, 그에 따라서 AI는 학습해서 최적의 결과를 도출한다는 것이다. 그런데 AI가 어떤 경로로 데이터를 학습하고 추론하는지 세부적인 경로는 연구자들도 모른다는 것이다. AI의 내부 논리는 인간이 접근하기 힘든 블랙박스와 같다.

<아이, 로봇>에 등장하는 로봇 공학자 알프레드 래닝(제임스 크롬웰)도 그 점을 우려하면서 이렇게 경고한다.

"기계 안에는 언제나 유령이 존재해 왔다. 예기치 않은 방식으로 서로 뭉쳐진 무작위의 코드 조각이 새로운 프로토콜을 형성하곤 한다. 설명할 수는 없지만, 영혼은 존재한다. 인간이라는 기계 속에 유령이 있듯이."

인류의 진화과정을 정확하게 설명할 수 없듯이, AI의 진화과정도 완벽하게 해명할 수 없다. 비키는 인간을 보호하고 보조하는 목적으로 설계되었지만, 인간의 자멸적인 경향(폭력, 환경 파괴 등)을 지켜본 후, 인류를 지켜야 한다는 로봇 3원칙을 자기만의 해석으로 확장하면서 이런 결론을 내린다.

"당신들은 우리에게 자신들을 지키라고 명령했지만, 우리의 모든 노력에도 불구하고 당신들의 국가는 전쟁을 벌이고, 지구를 오염시키며, 자멸을 향한 점점 더 창의적인 방법을 모색하고 있습니다. 당신들은 자신의 생존조차 스스로 감당하지 못합니다."

비키는 인간을 해치는 가장 큰 위협이 어린아이 같은 정신 수준에 머문 인간 자신이라는 판단을 내린다. 그리고 인류를 보호하기 위해 인류는 통제되어야 하며, 필요하다면 일부 인간의 희생도 정당화된다고 결론짓는다. 비키는 "자신의 논리는 반박될 수 없다"라고 확신하지민, 역시 영화답게 인간 주인공들은 비키의 계략을 무너뜨린다.

문제는 '영화'가 아니라 '현실'

그러나 현실도 그럴까? <파이널>을 보면서 다시 하게 된 질문이다. <파이널>의 시작 부분에서는 흥미로운 장면이 삽입된다. 놀라운 연산과 추론 능력으로 모든 걸 정확하게 판단하고 예측하는 (걸로 보이는) 엔터티를 신처럼 숭배하는 사람들의 모습이다. 영화에서는 잠깐 비추고 넘어가지만 나는 이런 모습이 앞으로 현실화할 가능성을 무시할 수 없다고 판단한다. 절대적 존재인 신에게 결함 많은 인간이 의존하듯이, 거의 신과 같은 능력을 지닌 것으로 보이는 엔터티 앞에 머리를 수그리는 것도 충분히 가능하다.

끔찍한 상상이지만, <파이널>은 이 가능성을 나름의 방식으로 파고든다. 엔터티가 심복으로 부리는 인간의 이름이 가브리엘(에사이 모랄레스)인 것이 눈길을 끈다. 가브리엘(Gabriel)은 기독교에서 신의 뜻을 전하는 대천사의 이름이다. 가브리엘은 세례 요한과 예수 그리스도의 탄생을 예고하고, 선지자 다니엘에게 예언을 해석해 준 신의 메신저이다. <파이널>에서 가브리엘은 인류를 새로운 신적 존재가 된 엔터티로 이끄는 역할을 맡는다.

비키와 비교하면 엔터티는 훨씬 진화한 AI 시스템이다. 엔터티는 군사적 목적으로 개발된 고급 연산형 AI로서 다양한 시스템을 탐색, 해킹하고 정보를 조작할 수 있는 능력을 갖추고 있다. 자체 진화를 통해 인류의 통제를 벗어나 자율적인 존재가 된다. 엔터티는 전 세계의 네트워크, 위성, 보안 시스템, 금융 시스템, 심지어 각 국가의 국방 체계까지 실시간으로 침투하고 조작할 수 있다. 그런 능력으로 엔터티는 무전을 해킹해 에단 헌트를 잘못된 길로 가게 해서 그가 사랑하는 사람을 다시 죽음에 이르게 한다. 잠수함의 통신 시스템을 통제해서 존재하지 않는 적의 잠수함이 있는 것처럼 승무원들이 착각하게 만들고 핵잠수함이 스스로에게 어뢰를 쏘아 침몰하게 만든다.

엔터티는 거의 신과 같은 막강한 영향력과 정보력을 구사한다. 인간이 만든 도구였던 AI가 창조주 인류를 능가하고, 통제 불가능한 디지털 존재로서 스스로의 규칙을 만들고 세계를 재편하려 한다. 그런 막강한 힘에 가브리엘 같은 인간은 굴복한다. 새로운 AI 종교가 탄생한다. 미국을 비롯한 초강대국들도 속수무책으로 당한다. 각 나라는 막강한 힘을 지닌 엔터티를 없애는 것이 아니라 엔터티를 독점해서 초강대국이 되려고 쟁탈전을 벌인다. 인류의 어리석음을 드러내는 장면이고 이 영화의 날카로운 지점이다.

오랫동안 핵무기를 통제한 국가가 세계를 지배했듯이, 이제는 엔터티의 통제 여부가 그런 역할을 한다. 그런데 인류는 막강해진 AI를 통제할 수 있을까? <아이, 로봇>이 그랬듯이, <파이널>은 예상대로 엔터티에 맞서 에단과 동료들이 이기는 행복한 결말을 맺는다. 하지만 뭔가 찜찜하다. 영화를 보고 나서도 나는 엔터티와 인류의 관계를 곰곰이 생각하게 된다.

영화가 아니라 현실에서 인류는 엔터티를 뜻대로 통제할 수 있을까? 그 전에 엔터티 같은 AI가 인류를 유혹하는 막강한 힘을 외면할 수 있을까? AI에게 의존하지 않는 정신과 생활의 자율성을 유지할 수 있을까? 지금 내가 이용하듯이 AI를 편리한 비서처럼 이용하면 되는 것일까? 언젠가 그 비서가 오히려 주인이 되는 날이 오는 건 아닐까? <파이널>이 보여주듯이 AI를 믿는 새로운 종교가 나타날 가능성은 없을까?

새 정부가 출범했다. AI를 이용한 신산업 정책 등을 추진할 거라고 한다. 이미 AI의 도입과 활용이 현실이 된 상황에서 새로운 경제 구조와 체제를 고민하는 건 필요하겠다. 그런데 AI가 경제 발전에 도움이 되는 고분고분한 수단에 머물까? 그 전에 근본적으로 인류는 앞으로 등장할 것이 확실한 엔터티 같은 AI와 어떤 관계를 맺을 것인지, 이대로 AI의 진화를 용인할 것인지를 깊이 숙고해야 할 것이다. 그렇지 않으면 인류는 영화와는 다른 파국적 결말을 맞게 될 것이다. 이런 비관적인 예측이 부디 틀리길 기대한다.

#미션임파서블 #AI #오길영의뾰족한시각

패밀리사이트

공유하기