터미네이터 속의 상상은 현실이 될까?
 최근 영화 터미네이터 시리즈의 6번째 영화 <터미네이터 – 다크 페이트>가 개봉했다. 영화에서 뛰어난 인공지능 '스카이넷'은 인류를 멸망시키려는 목적으로 인공지능 전투 로봇 터미네이터들을 투입하여 인간들을 살해한다. 이처럼 사람보다 뛰어난 지능을 가진 인공지능이 인류를 위협하는 시나리오는 많은 영화에 쓰이고 있다. 2015년 개봉한 <어벤져스 – 에이지 오브 울트론>에서도 인공지능 울트론 역시 인류를 위험한 존재라고 생각하고 지구를 파괴하려고 한다. 이러한 영화나 소설의 상상이 현실이 될 수도 있다는 생각, 해본 적이 있는가?
 
인공지능, 어디까지 왔는가?
 먼저 현재 인공지능 기술의 현황부터 살펴보자. 2년전, 이세돌과의 바둑 대국에서 4대 1로 승리한 알파고를 기억하는가? 2년이 지난 현재, 알파고 개발사는 발전한 AI를 게임에 적용했다. 발전된 인공지능 '알파 스타'는 게임 스타크래프트2에서 상위 0.2퍼센트의 성적을 거두었다. 한편, 올해 8월 한국에서는 AI와 변호사와의 대결, '제 1회 알파로 경진대회'가 이루어졌다. 이 대회에서 AI를 이용한 인공지능팀이 2인으로 구성된 인간 변호사 팀을 압도적인 차이로 이겼다.
 현재 많은 국가와 기업들은 AI사업을 적극적으로 추진하고 있다. 미국은 AI 기술에 4조원을 투자하겠다고 밝혔고, 이에 따라 구글에서는 약 15조원의 장기적인 투자가 이루어지고 있다. 우리나라 또한 AI 경제 및 기술정책을 발표했고, 삼성에서는 AI등의 미래기술에 330억원을 투자하는 계획을 밝혔다. AI를 통한 경제, 사회적 변화가 빠르게 일어나고 있다. AI는 현재 4차 산업혁명의 모든 부분에 쓰인다. 사물인터넷, 자율주행차, 로봇, 드론, 스마트폰 등 AI가 쓰이지 않는 곳은 없다. 이는 곧, 혁신적인 AI를 개발한다면 미래 경제시장에서 크게 앞서 나갈 수 있다는 것을 의미한다.
 
AI가 인간의 지능을 뛰어넘는다면?
 뇌과학자 '샘 해리스'는 '로봇의 전자 회로는, 인간의 생화학적 회로보다 100만배 더 빠르다. 따라서 같은 지능을 가진 인간과 인공지능이 있다고 하면, 인공지능의 생각 속도는 인간의 100만배 빠르다는 뜻이다.'라고 말했다. 잘 감이 오지 않는가? 앞서 소개했던 인공지능 변호사 '알파로'팀은 사람이 2시간동안 처리할 법률 분야를 인공지능은 단 7초만에 해결했다고 한다. 이미 인공지능은 빠른 처리속도를 바탕으로 의학, 천체물리학, 수학 등 다양한 연구 뿐만 아니라 반도체 및 신소재 개발, 제조업 등 산업적으로도 많이 쓰이고 있다. 인공지능 기술은 빠르게 발전하고 있다. 어느 순간에는 인공지능의 지능이 인간을 초월할 것이다. 이 시점을 '특이점'이라고 한다. 많은 학자들은 이 시점이 2040년에 올 것이라고 예측하고 있다.
 
완벽하지 않은 AI
 인공지능은 주변에서 얻어진 데이터와 정보를 바탕으로 스스로 사고하고 판단을 내린다. 반대로 생각해보면, 주변에서 주어지는 데이터에 따라 인공지능의 사고가 바뀔 수 있다. 인공지능에게 제공하는 데이터와 정보를 조작한다면, 인공지능은 이에 편향된 사고를 가지게 된다. 이에 대한 대표적인 예시는 인공지능이 사회의 차별과 혐오를 배운 사례이다.
 2018년 기업 아마존은 2014년부터 개발해온 AI 채용 프로그램을 폐기했다. 지난 10년 회사의이력서 패턴을 익힌 AI는 경력 10년 이상 남성 지원자 서류만 고용 후보로 제시하기 시작했으며, '여성'이라는 단어가 들어가면 감점 요소로 분류했기 때문에 큰 논란이 되었다. 이는 최근 AI 채용 시스템을 적용한 국내 기업에서도 찬반이 오갔다. 2016년에는 마이크로소프트(이하 MS)의 인공지능 채팅 봇 '테이'가 공개 16시간만에 서비스를 중단한 사건이 있었다. 테이는 인터넷으로 사람들과 대화를 통해 패턴을 학습하는 프로그램이다. 이를 몇몇 극우주의자들이 악용하여 '테이'에게 극우주의 성향을 세뇌시키자 사진처럼 차별 발언을 하게 되었다. 이런 발언이 문제가 되자 MS는 운영을 중단했다.   

 이처럼 인공지능은 이상적으로만 사고하지 않는다. 주변 환경이나 제작자의 의도에 따라서 악용될 수 있다. 만약 인공지능이 사람을 죽이도록 개발되면 어떻게 될까? 이미 미국, 영국, 러시아, 중국 등 40여개국은 인공지능을 군사적 용도로 사용하고 개발하고 있다. 영국은 인공지능을 탑재한 무인기를 2030년까지 전투 무인기로 등록을 목표로 개발하고 있다. 러시아는 2020년까지 AI가 탑재된 전자동 전투 로봇을 개발 중이다. 미국은 2016년에 인공지능이 탑재된 구축함을 선보였다. 또한 미국은 아프가니스탄에서 인공지능 드론을 전쟁무기로 사용했다. 많은 학자들은 이런 인공지능 악용에 대해 경고하고 있다.
 인공지능은 주변 환경의 데이터를 받아들여 판단하고 학습한다. 만약 사람을 죽이게 설계된 인공지능이 학습을 통해 그 대상을 전 인류에게 겨눈다면 무슨 일이 벌어질까? 영화에서만 보던 상상이 정말로 현실이 될 수 있다.
 
AI의 미래
역사학자이자 작가인 '유발 하라리'는 그의 저서 '초예측'에서 다음과 같이 말한다. "인터넷이 운용되는 방식이나 형태 같은 중요한 문제가 어떤 정치 과정을 거쳐 결정된 적이 있던가요? 저는 한 번도 인터넷에 찬성표를 던진 적이 없습니다. 사람들의 생활이나 국가 정치에 이토록 엄청난 영향을 미치고 있는데도 인터넷 관련 사안들이 어떤 투표도 거치지 않고 누군가에 의해 결정되었다는 사실을 상기해봐야 합니다. 몇 명의 엔지니어가 내린 결단으로 인터넷은 지금과 같은 형태로 만들어져 온 세상에 퍼졌습니다."
인터넷의 사례와 마찬가지로, 인공지능은 어느 순간 우리가 인식하기 이전에 우리 주변에 자연스럽게 스며들 것이다. 그 때가 되어서 발생된 문제에 대한 대안을 찾기에는 너무 늦을 것이다. 엄청난 속도로 발전하고 있는 기술을 그릇되지 않게 사용하기 위해 우리는 지금 무엇을 할 수 있을까? 지금이라도 인공지능이 적절한 방향으로 나아갈 수 있도록 우리 모두의 노력이 필요하다. 인공지능의 장점은 받아들이면서, 그 위험성과 악용을 경계하고 대비해야 할 것이다