[#1] <먼저 온 미래> AI 이후의 세계를 경험한 사람들

"바둑을 컴퓨터에게 지게 될 때, 그때가 인류가 끝나는 날입니다. 로봇에게 인간이 지배당하는 날입니다. 그런 때가 옵니다."

장강명 작가의 책 <먼저 온 미래>는 조치훈 9단의 말로 시작한다. 알다시피 그는 일본 바둑계의 전설로 꼽힌다. 그가 이 말을 한 건 지금으로부터 10년 전인 2015년 4월이다. 그리고 열한 달 뒤인 2016년 3월, 이세돌 9단은 구글 딥마인드가 만든 인공지능(AI) 알파고에 압도당하고 만다.

어느새 9년이 흘렀다. 바둑계에선 그동안 어떤 일들이 벌어졌을까. 장 작가는 2023년 12월부터 두 달 동안 전·현직 프로 바둑기사 30명과 전문가 6명을 만나 이야기를 들었다. 그리고 이 책에 'AI 이후의 세계를 경험한 사람들'이라는 부제를 달았다.

"내가 알고 있던 세계가 무너져 내린 것 같은 기분이었어요. '지금까지 나의 노력은 어떤 가치가 있었을까, 그 시간은 헛된 시간이었을까' 그런 생각이 들었어요." - 구글 딥마인드 챌린지 매치 5국 심판 이다혜 5단

바둑의 역사는 길게 보면 무려 오천 년에 달한다고 한다. 그 긴 세월 인간이 공들여 쌓아 올린 포석들이 이른바 바둑의 '정석'이 되었고, 프로기사들은 정석을 공부하면서 실력을 키워왔다. 하지만 이제 인간이 만든 모든 바둑 이론은 의미를 잃었다. AI는 정석을 따르지 않았지만 인간보다 훨씬 더 강했으니까.

알파고(알파고 리)가 이세돌을 이긴 이듬해인 2017년 10월, 구글 딥마인드는 '알파고 제로'라는 새 버전을 내놓았고, 이 새로운 AI는 알파고와 달리 인간의 바둑(기보)을 전혀 학습하지 않았다고 한다. 바둑 규칙만을 알려줬다는 뜻이다. 이 새로운 AI는 겨우 36시간 동안 혼자 바둑을 둔 뒤 선배인 '알파고 리'를 이겼다. AI는 인간이 감히 넘볼 수 없는 '바둑의 신'이 돼버렸다.

AI와의 대결을 앞두고 이세돌은 승리를 자신했다고 한다. 그가 믿었던 건 인간의 '창의성'이었다.

"하지만 사람만이 갖는 무언가, 그런 창의성... 이건 컴퓨터가 아직 따라올 수가 없잖습니까. 그런 점에서 아무래도 제가 승리하지 않을까, 그렇게 자신감이 있는 거죠."

하지만 그는 내리 세 판을 진 뒤, 가까스로 한 판을 이겼고, 마지막 판에서 또 졌다. 둘의 첫 대국, 사람들은 알파고가 잘못된 수를 계속 두고 있다고 생각했지만, 어느 순간 알파고가 이세돌을 압도하는 형세임을 깨달았다(바둑에선 초반 형세를 파악하는 게 어렵다고 한다). 그러니까 알파고는 인간의 정석대로 두지 않았을 뿐, 줄곧 이기는 수를 두고 있었고, 이세돌을 비롯한 어떤 인간 기사도 그 수를 이해하지 못했던 것이다.

결국 이세돌은 몇 년 뒤 바둑계를 떠났다. 그는 "AI라는 절대 넘을 수 없는 장벽 앞에서 느끼는 허무와 좌절"이 은퇴의 이유라고 털어놨다. '창의성'이라는 건 정말로 인간에게만 있는 것일까, '인간다움'이란 게 정말로 있기는 한 걸까, 이 책은 묻는다.

프로기사들은 이제 AI가 초반에 알려주는 수를 그대로 외워서 둔다. 한 수 한 수의 의미도 모른 채 말이다. 누구나 성능 좋은 컴퓨터만 있다면 실력을 키울 수 있는 '평평한' 시대를 반기는 이들도 있긴 하다. 하지만, '인간다움'은 점점 설 자리를 잃고 있는 걸로 보인다.

"예전에는 정석이 있어도 그걸 비틀 수가 있었어요... 그런데 지금은 비틀 수가 없어요. AI가 정해주니까. AI를 사용하면 이길 확률이 바로 뜨니까 '이 수는 아웃' 이렇게 돼요. 전보다 더 견고한 성에 답답하게 갇혀버린 느낌이에요." - 김효정 3단

장강명 작가는 정말 심각한 문제는 우리가 AI를 전혀 알지 못한다는 데 있다고 꼬집는다. "사실 우리는 인공지능이 구체적으로 무엇을 발견했는지, 어떻게 '생각'하는지 모른다"고. 심지어 알파고를 만든 이들조차도 말이다. 그러니 그저 AI가 인간보다 무언가를 잘 해낸다고 해서 그에게 그 모든 것들 – 의료, 경영, 건축, 사법, 교육, 창작 그리고 정치... - 을 맡겨도 되는지, 더 늦기 전에 물어야 한다는 게 그의 생각이다.

[#2] <AI 미디어 생태학> 인공지능이 재편하는 지식과 권력

이광석 서울과학기술대학교 교수가 쓴 <AI 미디어 생태학>은 AI가 등장한 뒤 우리가 겪고 있는 여러 사회 현상들의 의미를 잘 정리한 책이다. 이 교수는 책에서 오늘날 AI 알고리즘이 "인간 신체는 물론이고 의식과 감정 노동 영역으로 잠입해 들어와 자본주의적 포섭이 이뤄지는 국면을 창출"했다고 말한다. 그는 인간 두뇌가 AI에 '정신적 포섭(mental subsumption)'을 당했다고도 했다.

"이제 AI 알고리즘 장치는 일상 삶은 물론이거니와 인간 의식과 감정을 파고들며 인지 노동과 활동의 자동화 공정을 확대한다. 이는 궁극에 사회적으로나 노동시장에서나 인간 뇌 활동과 사유 과정의 새로운 '탈숙련화(deskilling) 효과를 만들어 낸다."

산업혁명과 기계화·자동화를 거치면서 인간의 육체노동이 '탈숙련화' 되었다면 이젠 인간의 사유 과정마저 같은 처지에 놓이게 되었다는 뜻이다. 그는 우리가 사회를 살아가며 품어왔던 여러 의문은 사라지고 숙의나 토론도 잦아들게 되었다고 꼬집고 있는데, 여기에 더해 앞으로는 현실로의 의식적 개입 여지도 줄어들고, 인간 의식이 사회적으로 점차 무뎌질 것이라는 섬뜩한 경고도 내놓는다.

"갈수록 우리는 AI 설계자가 제시하는 챗봇에서 제공되는 데이터나 지식을 크게 의문시하거나 되묻지 않은 채 소비하고, 그들의 소셜미디어 알고리즘이 채널화 하는 대로 비슷한 정서를 공유하는 이들끼리 동일 정보를 반복적으로 소비하며, '필터 버블'에 갇히고 이로 인해 제한적인 소통에 쉽게 길들여지는 환경에 놓일 확률이 더 커졌다."

그는 <뉴욕타임스>가 윤석열의 계엄령을 "유튜브 알고리즘 중독이 초래한 세계 최초 내란"으로 규정한 점을 들어 "점점 탈진실의 정치학이 우세해"지는 현실을 걱정했다.

이광석 교수도 인간의 '창의성', 혹은 '인간다움'을 새롭게 정의할 수밖에 없다고 했다. 그는 AI가 대체할 수 없을 것이라 믿어왔던 인간의 창의력조차 "인공지능이 그 패턴을 파악하고 이를 분해해 새롭게 연산처리 과정을 거칠 수 있는 자동화 영역이란 점이 분명해졌다"면서 "앞으로 인공지능이 인간의 반복적이고 단순한 업무뿐만 아니라 창의적이고 인지 활동을 필요로 하는 일자리와 노동까지 빠르게 대체하지 않을까 하는 깊은 고민이 생겼다"고 털어놨다.

그는 결국 창작 과정도 '탈숙련화'로 이어질 것이라고 내다봤다. 벌써 AI와의 '협업' 과정에서 작가·창작자의 능동적 선택과 개입은 크게 줄어들고 있다. 그는 창작자들이 "그 스스로 인공지능 보조형 창작 방식의 암묵적 거래를 용인하는 유혹에 노출될 공산이 크다"고 했다.

이 교수는 AI의 '기술 폭주'를 제어할 법·제도적 제동장치와 사회적 숙의의 장이 절실하다고 했다. 그는 "어떤 사회적 합의 과정이나 영향 평가도 없이 무분별하게 생성형 AI를 전방위로 도입하려는 빅테크의 폭주하는 행보에 제동을 걸어야 한다"고 믿는다.

[#3] <제3의 응전> 기계·인터넷·AI, 기술 혁명에 응답한 인간의 전략

연세대학교 모종린 교수가 쓴 <제3의 응전>은 앞서 두 책보다는 조금 희망적이다. 모 교수는 책에서 역사학자 아놀드 토인비의 '도전과 응전'의 개념을 빌려와 대안을 제시한다. 그는 "모든 문명은 특정한 환경적, 사회적 도전에 직면하게 되며, 이에 대한 성공적인 응전이 문명의 성장을 가져"왔다고 믿는다.

"AI와 같은 새로운 기술 도전을 단순히 위협으로 인식하고 저항하거나 반대로 무비판적으로 수용하는 것이 아니라, 이를 인간의 가치와 필요에 맞게 창조적으로 재구성하는 응전이 필요하다는 것이다."

인류에게 닥친 첫 번째 도전은 18세기 말부터 19세기 중반까지 진행된 산업 혁명으로, 기계화된 생산 기술이 인간의 물리적 노동을 대체하거나 변형시컸다. 두 번째 도전은 20세기 중반 등장한 대중 사회로, 표준화된 대량 생산과 대중 미디어 기술이 인간의 문화적 정체성과 주관성을 형성하고 조작했다. 그리고 세 번째 도전이 바로 오늘날 우리가 맞닥뜨린 빅테크의 등장이다. 빅데이터와 AI의 등장은 인간의 가장 근본적인 능력인 창조적 사고, 의사결정, 지식 생산 등의 영역을 위협하고 있다.

그가 제기하는 제3의 응전을 한마디로 정리하면 "인간 중심적 가치를 보존하면서도 기술의 잠재력을 실현할 수 있는 '제3의 길'을 모색하는 창의적 응전"이다. 그는 "기술 발전의 방향과 활용 방식을 인간의 본질적 가치와 필요에 부합하도록 재구성하는 과정"으로 '기술 인간화'(Humanization of Technology)란 개념도 제시하고 있다,

"대안적 가치와 상상력의 핵심은 기술이 인간의 삶에서 어떤 역할을 해야 하는지, 그리고 어떤 삶이 가치 있는 삶인지에 대한 근본적인 질문을 다시 제기하는 것이다. 이는 기술이 효율성과 편리함을 넘어, 인간의 의미 있는 삶과 공동체적 연결, 생태적 지속 가능성 등의 가치에 기여할 수 있는 방향을 모색하는 과정이다."

그는 산업 혁명이 낳은 대량 생산 체제와 노동의 기계화에 대한 비판적 응전이었던 19세기 미술 공예 운동에 주목한다. 그는 미술 공예 운동이 주는 첫 번째 교훈으로 "기술의 '인간화'가 가능하다는 것"을 꼽는다.

"미술 공예 운동은 기계를 거부하거나 무조건 수용하는 대신, 그것을 인간의 창조적 목적에 맞게 재구성했다. 오늘날 우리도 AI를 단순히 인간을 대체하는 도구가 아니라, 인간의 창조적 잠재력을 확장하는 협력자로 설계하고 활용할 수 있을 것이다."

20세기 들어 등장한 인간의 두 번째 응전은 산업 사회의 획일적이고 파괴적인 생활 방식에 대해 근본적으로 저항한 '대항문화 운동'이었다. 이들은 대규모 산업 기술을 거부하면서 인간적이고 생태적인 기술의 가능성을 모색했다. 애플을 창업한 스티브 잡스도 이 운동의 영향을 받았다. 그는 컴퓨터를 단순한 계산 도구가 아닌, 사람들의 창의력을 확장하는 도구로 만들고자 했다.

모 교수는 대항문화 운동의 가장 중요한 교훈으로 "기술에 대한 단순한 저항보다 창조적 전환이 더 효과적이라는 점"을 꼽았다. 또한 주변적 현상처럼 보이는 문화적 응전이 장기적으로는 기술과 사회의 진화 방향에 깊은 영향을 미칠 수 있다는 점도 놓쳐선 안 된다고 말한다.

"1960년대 히피들이 오늘날의 디지털 경제를 형성했다는 사실은 문화적 실험의 잠재적 영향력을 보여주는 것이다. 오늘날의 메이커 운동, 크리에이터 문화, 공유 경제 실험 등 다양한 문화적 움직임도 미래 기술 발전의 방향을 형성하는 중요한 씨앗이 될 수 있다."

AI가 없는 시대로 돌아갈 순 없다. AI에 마냥 거리를 두고 사는 것도 쉽지 않다. 적어도 AI를, 또 AI가 미치고 있고, 앞으로 미칠 영향을 살피고 우리가 무엇을 할 수 있고, 또 해야 하는지 함께 머리를 맞대고 찾아야 하지 않을까. 이 세 권의 책이 도움이 되리라 믿는다.