'AI 속도조절론' 논란에 미 언론 "죄수의 딜레마"

큰사진보기

인공지능(AI) 기술이 통제 불능을 넘어 인류를 위협할 것이라는 경고가 나오면서 미국 빅테크 수장들이 먼저 '속도조절'을 제안했으나 찬반 논란이 뜨겁다.

앤트로픽의 다리오 아모데이 최고경영자(CEO)는 12일(현지시간) 자신의 블로그에 올린 글에서 AI의 위험성을 강조하면서 안전장치 마련을 위해 개발 속도를 늦춰야 한다고 주장했다.

그는 AI 모델이 인간의 개입 없이도 스스로 발전할 수 있는 '재귀적 자기개선'을 통해 발전 속도가 인간의 이해 및 통제 능력을 압도할 수 있다면서 기업들이 외부 감시자를 두고, 글로벌 협력에 나설 것을 제안했다.

경쟁 AI 기업들의 수장들도 지지하고 나섰다. 샘 올트먼 오픈AI CEO는 "아모데이의 말처럼 우리는 발전 속도를 조절해야 한다"라며 "독립적인 외부 평가자를 두자는 것은 훌륭한 생각"이라고 화답했다.

테슬라 창업자 일론 머스크도 "아모데이의 말이 맞다"라고 동조했고, 사티아 나델라 마이크로소프트(MS) CEO 역시 "AI 정렬을 제대로 구현하기 위한 연구와 집중, 신중한 개발 속도를 환영한다"라고 밝혔다.

트럼프-민주당, 엇갈린 반응... 중간선거 이슈 되나

그러나 AI를 거대한 성장 동력으로 여기면서 중국과의 패권 경쟁에서 이겨야 한다고 주장해 온 도널드 트럼프 미국 대통령은 속도 조절론에 강한 반감을 드러냈다.

트럼프 대통령은 전날 기자들에게 AI 속도조절론을 주장하는 이들을 '부정적 세력'이라고 규정하면서 지금의 경쟁 체제를 유지해야 한다고 말했다.

그는 소셜미디어를 통해서도 "AI와 데이터센터의 급속한 성장이 일어나고 있는 유일한 이유는 미국이 다른 국가들보다 훨씬 앞서 나가고 있기 때문"이라며 "황금알을 낳는 거위를 죽이지 말아야 한다"라고 강조했다.

또한 속도조절론을 '역겨운 음모'라면서 아모데이를 "완벽한 작은 천사인 척하고 있다"라고 비난하기도 했다. AI에 필요한 유일한 통제 또는 안전장치는 강하고 똑똑한 대통령이고, 미국이 그런 대통령을 보유하고 있다며 자신을 과시했다.

반면에 민주당은 속도조절론에 힘을 실었다. 하킴 제프리스 민주당 하원 원내대표는 "미국 국민을 보호하고, AI가 안전하게 발전하도록 개발 속도를 늦춰야 한다"라며 의원총회를 열어 AI 속도조절 문제를 논의할 것이라고 밝혔다.

민주당의 차기 대선 주자로 거론되는 피트 부티지지 전 교통부 장관도 "인간의 통제를 벗어난 AI에 '킬 스위치(제동 장치)'가 필요하다"라고 주장했다.

미 정치권이 엇갈린 반응을 보이면서 AI 속도조절론이 오는 11월 중간선거의 핵심 쟁점이 될 것이라는 전망도 나온다. CNN 방송은 "이례적인 경고에 극명하게 다른 반응은 미 정치권의 양극화만을 반영하는 것이 아니라, AI가 실제로 인류에게 위협이 되는지에 대한 합의가 분열되어 있음을 보여준다"라고 분석했다.

"미국 혼자 개발 늦추면 중국이 장악"... 현실성 논란

전 세계가 사활을 걸고 AI 개발 경쟁에 뛰어든 상황에서 속도조절이 과연 가능하겠느냐는 강한 회의론도 나온다.

AI 업계 일각에서는 미국 빅테크들이 속도조절론을 내세운 것은 업계 내 권력의 현상 유지를 위한 것이라며, 엄격한 정부의 규제와 감시를 받는 대신 자체적인 모니터링을 통해 업계 스스로 규칙을 정하려는 시도로 보고 있다.

영국 <가디언>은 "AI 기업들은 자신들의 AI 모델이 가져올 잠재적 위험에 대한 경고를 전달하는 데 있어 일관성 없는 모습을 보여왔다"라며 "모델 운영 방식에 대한 투명성은 거의 제공하지 않으면서 자신들에게 유리한 법안을 만들기 위해 엄청난 돈을 로비 활동에 쏟아붓고 있다"라고 지적했다.

심지어 속도조절론을 주장한 아모데이도 "안전한 속도로 미지의 영역을 개척하기 위한 나의 제안이 실행되기는 쉽지 않을 것"이라고 밝혔다.

그는 미국과 중국을 포함한 전 세계가 AI 개발 속도 늦추기 협약을 만들기 바란다면서도 "만약 우리가 중국도 같은 행동을 할 것이라는 믿음으로 AI 역량을 크게 제한했는데, 만약 중국이 다르게 행동한다면 그들의 AI 모델이 너무 강력해져서 중국의 지정학적 패권 장악으로 이어질 수 있다"라고 지적했다.

<월스트리트저널>은 "어느 한 기업만 개발 속도를 늦추면 경쟁에서 뒤처지고, 미국 기업들이 함께 속도를 늦춰도 중국이 계속 개발하면 미국 전체가 뒤처질 수 있다"라며 전형적인 '죄수의 딜레마'라고 평가했다.

죄수의 딜레마는 경제학 용어로 따로 갇힌 두 공범 중 다른 방의 죄수가 자백할 경우 내가 침묵해도 소용없기 때문에 서로 자백하게 되는 상황을 의미하는 것으로 냉전 시대 미국과 소련이 상대를 믿지 못하고 핵무기 경쟁에 나섰던 것을 설명할 때 쓰이기도 한다.

모든 빅테크 기업들이 속도조절론에 동의한 것도 아니다. 메타의 CEO 마크 저커버그는 AI 기술의 이점이 단점보다 훨씬 클 것이라는 낙관론을 내세워 AI 개발 속도를 올려야 한다고 주장하는 대표적 인물이다. 젠슨 황 엔비디아 CEO도 AI 기술 개발을 제한하거나 늦춰야 한다는 제안에 회의적인 반응을 보여왔다.

메타와 엔비디아 측은 아모데이가 이번에 제안한 AI 속도조절론에 대해서도 논평 요청에 응하지 않았다.