AI가 인간을 대신할 수 없는 한 가지

큰사진보기

2023년에 개봉한 가레스 에드워즈 감독의 〈크리에이터(The Creator)〉는 인공지능(AI)과 인간의 미래를 묻는 SF 영화입니다. 핵폭발의 주범으로 지목된 AI를 제거하려는 서구 세계와 AI와의 공존을 선택한 '뉴 아시아'의 대비가 이야기의 중심축입니다.

주인공 조슈아는 AI를 파괴하라는 명령을 받고 '뉴 아시아'에 잠입하지만, 그곳에서 인간보다 더 인간적인 AI 아동 '알피'의 물음 앞에서 갈등합니다.

"왜 우릴 죽이려 하죠?"

이 짧은 질문은 기술과 인간의 관계를 묻습니다. 기술은 인간의 욕망이 낳은 산물이지만, 그 기술이 인간의 통제를 벗어나는 순간 인간은 그를 파괴해야 하는 모순에 직면합니다. 그리고 이 모순의 근원은 기술이 아니라 기술을 만든 인간의 오만과 두려움, 책임 회피라는 메시지입니다. 1980년대의 〈터미네이터〉가 기술의 반란을 그렸다면, 〈크리에이터〉는 이렇게 인간의 오만이 빚어낸 문명의 자기모순을 보여줍니다.

그렇다면 지금, 우리는 이 모순에서 벗어나기 위해 무엇을 해야 할까요? AI 시대는 단순한 통제나 규제의 범위를 훌쩍 뛰어넘는 3차원의 전환을 요구합니다. 윤리적 전환, 제도적 전환, 그리고 민주적 전환입니다.

[윤리적 전환] 기술을 다시 인간의 문제로

이미 반세기도 더 전에 하이데거는 <기술에 대한 물음>(1953)에서 기술을 단순한 수단이 아니라 "인간이 세계를 드러내는 하나의 방식"으로 보았습니다. 기술은 인간이 목적을 이루기 위해 사용하는 단순한 도구에 불과한 것이 아니라, 인간이 세상을 이해하고 구성하는 방식 자체라는 것입니다.

그런데 오늘의 기술문명은 세계를 의미화하는 이 구성의 권한을 인간에서 기술로 이전하고 있습니다. AI가 그 상징입니다. 데이터를 입력하는 건 인간이지만, '딥러닝'을 통해 스스로 학습하고 판단하는 것은 기술입니다. 통제의 대상이던 기술이 이제 인간과 함께 세계를 구성하는 '주체'로, '행위자'로 등장하고 있는 것입니다. 이때 우리가 물어야 할 것은 "기술의 결과에 대한 윤리적 책임을 어디까지로 정할 것인가"입니다.

이 지점에서 우리는 한스 요나스가 <책임의 원리>(1979)에서 제시한 '윤리적 전환'을 다시 떠올릴 필요가 있습니다. 요나스는 현대 기술문명이 인간 행위의 결과를 미래 세대와 지구 생명 전체로 확장하고 있음에 주목했습니다. 그리고 "당신의 행위가 인간 생명의 지속가능성을 위협하지 않도록 하라"는 윤리를 제시하며, 기술이 초래할 수 있는 장기적·비가역적 결과에 대한 예방적 책임을 강조했습니다.

이 원리는 비단 AI뿐 아니라 원자력과 생명공학에도 적용됩니다. 비록 그 형태는 다르지만, 세 기술 모두 인간이 완전히 통제할 수 없는 거대 기술이며, 미래 세대와 생태계에 대한 장기적 책임을 요구합니다. AI가 '의사결정의 인간성'을 시험한다면, 원자력은 '세대 간 정의'를, 생명공학은 '생명에 대한 인간의 권한과 한계'를 시험합니다. 결국 기술문명의 문제는 속도를 조절하는 것이 아니라, 기술을 감당할 사회의 윤리적 역량을 얼마나 성숙하게 구축하느냐의 문제입니다.

[제도적 전환] 정의로운 전환과 전환 안전망

따라서 기술문명의 윤리적 전환은 필연적으로 제도적 전환을 요구합니다. 윤리의 성찰이 개인 차원에 머무를 때 그것은 경고에 그치지만, 제도 속으로 내재화되면 비로소 사회의 지속가능성을 뒷받침하는 규범이 됩니다. 이를 가능하게 하는 개념이 '정의로운 전환(Just Transition)'입니다.

1980~90년대 국제노동기구(ILO)와 노동운동에서 출발한 이 개념은, 기술 변화의 이익과 비용을 사회 전체가 공정하게 나누자는 제안입니다.

19세기 초 영국의 러다이트 운동은 '기계를 부순 사람들'로 기억되지만, 사실 그들의 분노는 기술이 아니라 사회의 무책임을 향했습니다. 기계가 생산성을 높였지만, 그로 인한 개인과 가정의 파괴를 사회가 외면했고, 기술은 날로 발전하는데 제도가 따라가지 못하자 그 틈새에서 나타난 것이 폭력적 저항이었던 것입니다.

오늘날의 4차 산업혁명은 그보다 훨씬 복잡하고 광범위합니다. AI, 로봇, 데이터, 바이오, 플랫폼 기술이 사회 전반을 뒤흔드는 가운데, 기술의 속도를 늦출 수 없다면 사회의 수용 능력을 높여야 합니다. 울리히 벡이 말한 '성찰적 근대화'(1986), 곧 근대화의 위험을 인식하고 그 원리 자체를 다시 짜는 자기비판이 지금 우리 사회에 절실합니다.

이를 위한 장치가 '전환 안전망(Transition Safety Net)'입니다. 이는 단순한 복지정책이 아니라 기술 변화에 대응하기 위한 21세기형 사회계약입니다. 노동시장 재교육, 지역산업 재생, 사회적 대체소득 제도 등을 통합해 기술 변화의 충격을 완화하는 완충 장치입니다.

우리나라에서도 2022년 '탄소중립전환기금'이 출범했습니다. 그러나 논의는 여전히 산업 지원과 감축 사업 중심에 머물러, 정의로운 전환의 본래 취지인 사회적 형평과 참여적 책임 구조를 충분히 구현하지 못하고 있습니다.

이런 상황에서 김성환 기후에너지환경부 장관이 취임 직후 "에너지 체제 개편과 정의로운 전환 문제를 미루지 않고 로드맵을 세워 추진하겠다"고 밝힌 것은, 정부가 기술 중심의 성장 패러다임에서 사회적 책임의 패러다임으로 이동하려는 신호로 읽힙니다. 그의 발언은 '속도'보다 '방향'을, '정부'보다 '사회'를 강조하며, '기후·생태·국민 안전의 조화'라는 가치로 이 전환의 철학을 선언한 것으로 해석됩니다.

그러나 이 전환은 제도만으로 완성되지 않습니다. 시민 참여와 사회적 숙의가 뒷받침되어야 합니다. 핵심은 단순히 피해를 보상하거나 사양산업을 신산업으로 대체하는 지원이 아니라, 기술의 방향과 속도를 사회 전체가 함께 논의하고 조정하는 제도적 구조를 만드는 데 있습니다. 그리고 바로 이 지점에서 정의로운 전환은 윤리의 문제를 넘어 민주주의의 문제로 확장됩니다.

[민주적 전환] 공존의 민주주의를 향하여

기술이 인간의 노동을 대신할 수는 있어도, 합의를 대신할 수는 없습니다. AI 시대의 민주주의는 더 많은 데이터가 아니라 더 깊은 숙의가 있어야 합니다. 기술이 사회를 효율적으로 만드는 것과 그 기술을 사회적으로 정당한 것으로 받아들이는 것은, 완전히 다른 문제이기 때문입니다.

정부와 전문가 중심의 결정은 효율적일지 몰라도, 시민들이 그를 정당한 것으로 수용하지 않는 한 지속될 수 없습니다. 기술이 공동체의 규범과 가치에 뿌리내리려면, 시민이 그 방향과 속도를 결정하는 과정에 참여해야 합니다.

그 핵심이 바로 '기술 시민의회'입니다. 시민의회는 납세자 시민이 기술의 위험과 이익, 속도와 윤리를 직접 논의하는 숙의의 장이자, 기술문명 시대의 신뢰를 복원하는 민주적 장치입니다. 숙의가 빠지면 민주주의는 형식만 남고 신뢰를 잃게 됩니다.

원자력 정책의 반복적 번복이 그 예입니다. 정권마다 '탈원전'과 '탈탈원전'을 오가는 동안 지역경제와 기술 생태계가 흔들렸고, 재생에너지·데이터 윤리·플랫폼 노동 등 기술정책 전반이 출렁였습니다. 사회적 합의가 아니라 선거 일정이 기술의 방향을 결정하는 한 정의로운 전환도, 사회적 신뢰도, 기술 혁신도 지속되기 어렵습니다.

우리 시대에 던져야 할 진짜 질문은 '누가 기술의 오너십을 가질 것인가'가 아니라 '누가 기술의 방향을 결정하고 책임질 것인가'입니다. 기술의 민주주의는 소유의 문제가 아니라 책임의 제도화에서 시작됩니다. 기술 시민의회는 그 책임과 합의를 제도화하는 실험대가 될 것입니다.

<크리에이터>의 메시지도 결국 여기에 맞닿습니다. 기술이 인간을 대체하는 것이 아니라, 인간이 책임을 다하지 못할 때 기술이 그 책임을 떠안게 됩니다. AI 시대의 정의로운 전환은 기술의 문제가 아니라 민주주의의 문제입니다. 기술이 미래를 열어간다면, 그 미래를 인간답게 만드는 질서는 민주주의가 되어야 합니다. 공존의 민주주의, 그것이야말로 기술문명 시대를 지속가능하게 만드는 새로운 사회계약입니다.