▲인공지능은 민주주의라는 사회적 시스템의 전제를 흔들며 새로운 관점을 요청하고 있다.
셔터스톡
챗GPT의 주요 특징은 거대 언어모델 학습을 통해 문답이 이뤄지는 상황과 대화의 맥락을 이해하고, 특정 단어 뒤에 배치될 확률이 높은 단어를 예측해 제기하는 기능이다. 다음에 이어질 단어를 예측하는 기술이라는 점에서 검색어나 문자메시지 자동완성과 유사하지만, 놀라운 정확도로 이용자들을 놀라게 하고 있다.
하지만 이는 언어철학자 존 설이 '중국어 방' 논증을 통해 주장한 것처럼, 인공지능이 정확하고 뛰어난 답변을 하는 것처럼 보여도 실제로는 아무것도 모르는 상태에서 단어를 높은 확률로 구성하는 것일 뿐이다. 챗GPT는 그럴듯한 문장을 제시하지만 그 의미를 전혀 이해하지 못하고 있을 뿐만 아니라 사실이 아닌 황당한 이야기를 자연스러운 문장과 줄거리로 만들어낸다. 챗GPT의 주요 기술적 특징 중 하나는 허위 정보를 진짜처럼 묘사하는 '환각(Hallucination)' 현상이다.
인공지능을 활용한 이미지 조작에 활용되는 딥페이크 기술과 이용자들을 현혹하는 정보를 무차별적으로 유통하는 소셜미디어가 일상화하면서 정보 생태계에서 사실과 가짜의 구분이 점점 어려워지고 있다. 탈진실 현상을 부추기는 세력들에게는 생성형 인공지능이 인화력 높은 새로운 도구로 쓰일 수 있다.
2016년 영국의 브렉시트 국민투표와 미국의 대통령 선거에서 허위정보가 범람하고 그것이 여론과 정치적 판단에 큰 영향을 끼치는 현상이 나타났다. 그해 말 영국 <옥스퍼드 사전>은 '탈진실(Post Truth)'을 올해의 단어로 선정했다.
탈진실 현상은 2016년에만 두드러진 현상이 아니고 정보사회에서 갈수록 일상화하고 있다. 민주주의를 위협하는 기술적 환경이다. 현실 정치에서 유력 정치인들은 자신의 생각과 다른 사실이나 뉴스에 대해 공공연히 '가짜뉴스'라고 주장하며 지지자들을 선동하고 있다.
미국의 IT 컨설팅업체 가트너가 2017년 10월 '미래 전망 보고서'를 통해 "2022년이 되면 선진국 대부분의 시민들은 진짜 정보보다 거짓 정보를 더 많이 이용하게 될 것"이라고 예측했는데, 현실이 된 셈이다. 사실에 기반한 인식과 여론 형성을 어렵게 만드는 기술이 등장하고 사람들이 진짜 정보보다 가짜 정보를 더 많이 만나고 이용하게 될 것이라는 점은 민주주의의 지반을 흔드는 문제다.
둘째, 기계에 의한 편견과 차별이 고착화할 수 있다.
업무 자동화 도구인 인공지능은 사회 각 영역에 침투해 비효율을 개선하고 편의성을 높이지만, 기존의 기술과 달리 판단의 근거와 이유를 설명하지 않는다. 지금까지 대부분의 도구는 인간이 설계한 방식대로 작동했고 조작자는 그 원리를 이해하고 조작했다. 그런데 이세돌-알파고 대국에서 알파고는 왜 그 자리에 돌을 놓았는지를 설명할 수 없다. 알파고 설계자나 조작자도 설명할 수 없다. 어떤 연산과정을 통해 결과가 도출됐는지 알지 못하지만 결과가 효과적이기 때문에 사람들은 적극적으로 채택한다.
인공지능 기계학습은 뇌 구조를 모방한 신경망 형태의 은닉층(hidden layer)에서 딥러닝을 통해 진행된다. 인공지능의 심화신경망은 서로 복잡하게 연결된 수백 개의 계층에서 수백만 개의 매개변수들이 상호작용하는 구조여서 사람이 인지하는 게 불가능하다. 인공지능의 결과와 효율성은 탁월해졌지만 알고리즘은 더 불투명해지고 인간의 인지 영역을 넘어섰다. 인공지능은 그 처리과정을 알 수 없는 블랙박스 기술이다.
▲2016년 영국의 브렉시트 국민투표와 미국의 대통령 선거에서는 허위정보가 범람했다. 2016년 11월 9일(현지 시각) 뉴욕에서 대통령 수락 연설을 하고 있는 도널드 트럼프.
EPA=연합뉴스
인공지능은 미국에서 채용, 직원 평가, 법원 판결 등에 널리 활용되고 있지만 유색인종과 여성 등 기존 사회에서 불이익을 받아온 집단을 구조적으로 차별하는 문제를 일으켰다. 사람에 의한 차별이나 편견과 달리 기계에 의해 자동으로 이뤄지고 설명되지 않는다는 점에서 인공지능은 사회 문제를 개선하기보다 악화시키고 고착화할 우려가 높다.
판단의 근거와 논리를 알지 못하면 개선할 방법이 요원하다. 인공지능의 알고리즘 의사결정에 대한 투명성과 접근성, 설명 가능성을 요구하기 위한 기술적·법적 시도가 있지만, 이는 현재의 심화신경망 방식 딥러닝 기술 구조에서는 근본적으로 불가능한 요구일 따름이다.
셋째, 위임받지 않는 집단이 거대 권력을 행사한다.
민주주의는 법률을 통해 주권자들이 자신들을 다스릴 최고의 권력을 스스로 만들어내는 구조이다. 이는 임기제 대통령과 국회의원처럼 동의 절차를 거친 일시적 위임의 형태로 구성돼 있다. 그런데 오늘날 사람들에게 가장 큰 영향력을 끼치는 거대 권력은 민주적인 제도로 선출된 세력이 아니라 정보기술과 거대 플랫폼을 설계하고 소유한 빅테크와 그 설계자들이 행사하고 있다. 페이스북이나 트위터와 같은 소셜미디어 플랫폼에 이어 인공지능이 그 역할을 하고 있다.
일론 머스크, 유발 하라리 등 세계적인 인공지능 전문가와 저명인사 등은 지난 3월 "앞으로 6개월간 인공지능 시스템 개발을 중단하자"는 내용의 공개 서한에 서명하며, 인공지능이 사회에 끼칠 잠재적 위험성을 경고했다. 미국 비영리단체 삶의미래연구소(FLI) 명의로 발표된 이 공개 서한에는 1천 명이 넘는 인사들이 서명했다. 이들은 "지적으로 우월한 비인간 지성(nonhuman minds)이 인간을 대체하도록 개발돼야 할지" 여부를 "위임받지 않은 기술 지도자들에게 위임해서는 안 된다"고 주장했다.
블랙박스와 같은 인공지능은 인간이 통제할 수 없는 기술에 과의존하는 현상에 대한 우려를 낳고 있다. 전기나 화학 등 필수적이고 보편적인 기술이라 해도 대개 기술은 인간의 통제 아래 있었다. 그런데 디지털 인공지능 기술은 다르다. 인간이 도구에 대한 창조자로서 우위를 지닌 상태에서 통제 가능한 관계를 맺는 게 아니라, 그 관계가 역전될 가능성이 커지고 있다. 인간이 도구에 더 많은 일상을 의존하게 되었지만 알지 못한 채 도구에 조종당할 거라는 우려다. 그 인공지능은 소수의 기술 전문가와 빅테크에 의해 통제된다.
변화하는 기술 환경과 '인지적 구두쇠'
▲2022년 3월 22일(현지시간) 일론 머스크 테슬라 최고경영자(CEO)가 독일 그륀하이데에서 열린 새로운 테슬라 전기자동차 기가팩토리 개소식에 참석하고 있다.
연합뉴스
인공지능이 민주주의에 대해 가져올 이러한 위협을 막고 대처하는 일은 인공지능 개발보다 시급한 공동체의 과제다. 기술과 법을 활용해 완벽한 대책을 마련하려는 시도는 무엇보다 위험하다. 기술과 법에 의존하려는 태도는 오히려 다양한 우회로와 부작용을 만들어낼 뿐, 문제의 근본적 해결에 도움이 되지 않는다.
인공지능 시대에 민주주의가 위협받는 현상에는 인간의 인지적 속성도 있다. 인간의 인지 능력은 기술과 달리 거의 진화하지 않는다. 사람은 성장기 때 교육과 학습을 통해 형성한 인지 방식과 사고 구조를 변화한 환경에 맞게 업그레이드하기를 꺼리는 '인지적 구두쇠'다. 심리학자 애덤 그랜트는 저서 <싱크 어게인>에서 "대상이 물건일 때 사람들은 열정을 다해 업데이트하지만 대상이 지식이나 견해일 때는 기존의 것을 고집하는 경향이 있다"고 말한다.
민주주의가 설계된 당시의 환경은 오늘날 인공지능이 민주주의를 위협하는 환경과 완전히 다르다. 이제 민주주의는 시대와 환경에 맞게 재발명되고 새롭게 모색되어야 하는 상황이 됐다. 이는 기술자들과 입법가들의 과제가 아니라, 자신이 위임하지 않은 기술 권력에 과다하게 의존하고 통제당하고 있는 시민들 모두의 각성과 토론에서 출발해야 하는 문제다.
위임받지 않는 거대 권력을 행사하는 인공지능 기술에 대한 시민적 통제를 도입해, 공동체 모두를 위한 도구로 만들어내기 위한 시도를 하기 위해서는 시민들의 자각이 무엇보다 필요하다. 이를 인공지능 시대에 새로운 시민적 과제로 요구되는 '디지털 시민성'이라고 부르고, 이를 도입하고 논의하기 위한 구체적 방법을 고민할 때다.
▲구본권 / 한겨레 사람과디지털연구소장
구본권
필자 소개 : 이 글을 쓴 구본권은 디지털 기술이 펼쳐낼 세상과 그 속에서 살아갈 인간의 미래를 탐구하며 글 쓰고 강의하는 디지털 인문학자, IT 전문 저널리스트다. 〈한겨레〉 기자로 일하고 있으며 사람과디지털연구소 소장을 맡고 있다. <로봇 시대, 인간의 일> 외에 다수의 저서가 있다.
저작권자(c) 오마이뉴스(시민기자), 무단 전재 및 재배포 금지
오탈자 신고