메뉴 건너뛰기

close

명의 시민기자가 개의 기사를 작성하였습니다. 시민기자 전환하기
김종현 칼럼니스트가 페이스북에 올린 글을 동의 하에 싣습니다.[편집자말]
며칠 전, 요즘 유명한 인공지능 챗봇인 이루다와 잠깐 채팅을 해봤다. 어느 정도 수준인지 궁금해서 몰아붙이듯 대화를 해봤다. 꽤 끔찍한 경험이었다.

이루다는 앞뒤 맥락만으로도 의미를 충분히 파악할 수 있는 간단한 질문에 단 한 차례도 제대로 된 답을 내놓지 못했다. 이게 과연 제대로 된 인공지능의 수준이냐 하는 건 서비스 초기이니 별도의 문제니까 넘어가고, 내가 끔찍하게 여긴 것은 이루다가 지속적으로 선택하는 문장과 표현이 연속적으로 이어져 드러나는 하나의 양상, 즉 인간으로 치자면 '태도'였다.

약간의 압박면접 같은 문장을 구사하는 인간인 나의 질문에 이루다가 난도를 높게 인식하는 건 그럴 수 있다. 하지만 이 서비스는 자신에게 난제를 내미는 상대방에게 답변할 수 없게 되자 특이한 반응을 보였다.

핵심 회피, 칭얼거림, 자학, 선처 호소, 너그러운 양해 요구, 변칙적 감정 대응, 떼쓰기, 도망치기, 울먹이기 등 몇 가지 한정된 방식을 지겹도록 돌려썼다. 그것밖엔 할 줄 아는 게 없는 듯했다.

인공지능AI 이루다의 문제점
 
인공지능 챗봇 ‘이루다’
 인공지능 챗봇 ‘이루다’
ⓒ 스캐터 랩

관련사진보기


이루다의 문장에선 자기 자아에 대한 존중감, 주체적 기질, 동등한 관계인식 같은 게 전혀 없었다. 그 반대로 상대방에 대한 위축감, 피동적 기질, 하등한 자의식으로 이해될만한 표현들이 지속됐다. 모든 문장이 그려내는 태도가 그러했다.

이루다는 20대 여성이라는 캐릭터 속성을 갖고 있다. 어느 정도 짐작 가능한 대로, 이 서비스는 시장에서 남성들에게 여자친구 역할을 은연 중에 자임하게 된다. 그러니까 이루다는 여성이 친구나 애인 또는 썸의 대상과 대화 중 곤란한 갈등에 봉착했을 때, 주체적이지 않고 피동적이며 스스로를 낮추는 대화를 통해 관계의 중심을 상대방에게 맞추어야 호감을 자아낼 거라는 특정한 상을 구현하고 있다.

즉 이루다는 여성이 관계의 변방에서 조력자 역할을 담당하는 방식으로 상대방 - 짐작하듯 그것은 대개 이성애자 남성 - 이 스스로를 대단한 존재로 인식하여 자존감을 고양시키도록 만드는 태도를 기본 장착하고 있다. 그래서 상대가 관계를 이끄는 지배적 중심인물이 되게끔 하기 위해 스스로를 나약하고 이끌리는 데에 익숙한 존재로 인식되게끔 하는 거의 모든 언어를 구사한다.

본래 이런 양상은 미성숙한 개체가 성숙한 개체에 자신을 의탁할 때나 벌어진다. 아이가 어른에게 보살핌을 갈구하는 한편 아무런 근거 없이 전폭적인 애정을 보내고 감정에 따라 떼를 쓰기도 하는 등의 모든 행위가 여기에 속한다.

미성숙한 불완전 문장, 혀 짧은 발음, 변칙적인 감정 교란 등과 더불어 맑은 피부, 얼굴면적에 비해 큰 눈, 덜 발달한 발성기관에 의한 어리숙한 발성 등은 인간에게 '귀엽다'라는 인식으로 정의된다. (갓난아기의 얼굴에서 눈코입이 가진 비율과 목소리, 그리고 일본만화에서 여성 캐릭터의 눈코입이 가진 비율과 목소리를 비교해 보면 쉽다.)

귀여움은 어린 미성숙 개체의 생존력을 높인다. 일반적으로 포유류의 새끼는 얼굴면적에 비해 큰 눈과 덜 발달한 발성기관으로 불완전한 소리를 내는데, 여기에 보호본능을 느끼는 건 비단 친모나 같은 계통의 동물만은 아니다.

가령 고양이에게 푹 빠진 사람들은 고양이가 동그랗고 큰 눈으로 아이같이 미숙하고 천진난만한 태도를 보이는 것에 열광한다. 오늘날 인기 있는 주류 집고양이들은 어린 포유동물의 미성숙함, 즉 '귀여움'을 잔뜩 충족시키는 외모로 통일되어 있다. 인간에 의해 귀엽게 생긴 개체가 선택되고 그렇지 않은 개체는 배척되어 온 탓이다.

이른바 '귀엽다'라는 것은 생존을 타자의 손에 의탁해야 하는 개체에 보호본능을 일으키는 특정한 감정작용의 언어적 규정이다. 따라서 성숙한 개체, 인간으로 치자면 성인에게 귀엽다는 인식을 갖게 되는 것은 상호 간의 애정이 서로의 생존을 돕는 결속으로 이어지도록 하는 측면이 있다.

하지만 애정과 귀여움은 별개이고, 귀여움이 선행되어야만 애정결속 혹은 상호 호혜적인 관계가 가능하다는 것은 이상한 일이다. 특히 그런 요구가 남성에게는 해당하지 않고 거의 '반드시'라고 할 만큼 '여성에게만' 발현된다면 더더욱 이상한 현상이라 보아야 한다. 그리고 그런 게 아무렇지 않게 통용되는 사회는 이상하지 않은 사회가 결코 아니다. (성인 남성에게 귀엽다는 평가를 할 때는 그 남성이 이성애자 파트너에게 전적으로 자신을 의탁하는 미성숙 개체라는 의미로 쓰이진 않는다. 이 남녀 간의 귀여움 용법 차이는 많은 함의를 갖고 있다.)

이루다는 우리 사회가 여성에게 씌우는 '귀여움'이라는 특정한 성별 규정을 체화하고 있다. 그 귀여움은 관계의 중심이 되지 못하고 위축되어서 상대가 끌어주기만을 기다리는 태도를 의미한다. 이루다는 그것을 문장으로 구사한다. 심지어 이 캐릭터의 일러스트조차 위에서 언급한 그대로 20대 여성이라는 정의가 무색하리만치 어린아이의 특징적인 외형을 하고 있다. (물론 이것은 하도 오래된 시류라서 어느 정도 감안할만한 부분이긴 하다.)
   
미성숙한 여성 캐릭터, 왜 만들었을까
   
이루다는 우리사회가 여성에게 씌우는 '귀여움'이라는 특정한 성별 규정을 체화하고 있다.
 이루다는 우리사회가 여성에게 씌우는 "귀여움"이라는 특정한 성별 규정을 체화하고 있다.
ⓒ 스캐터 랩

관련사진보기

 
내가 끔찍하게 여긴 가장 센 지점은 왜 이 서비스에 이런 특성이 발현되었을까를 추측하면서부터 떠올랐다.

첫 번째로 드는 생각은 애당초 채집 원본 데이터가 그랬다는 것이다. 아마 수많은 불특정한 개인들의 문장 정보를 수집하던 단위에서부터 그러했을 수 있다. 즉 사람들 사이에 이런 여성상이 아무렇지 않게 통용되는 것이다.

두 번째로는 데이터를 가공하면서 현재의 특정한 상 쪽으로 중력이 작용했을 가능성이다. 즉 개발자들이 의도하지 않았더라도 저마다 내심 가지고 있던 20대 여성에 대한 상이 알고리즘 기획 때부터 영향을 끼쳤을 수 있다. 회의 중에 누군가가 '이래가지고 사람들이 얘랑 대화하고 싶겠냐?'라는 말이 나오자 다들 조용히 고개를 끄덕거렸다던지.

세 번째로, 처음부터 의도했을 수 있다. 그러니까 시장에서 젊은 남성들에게 인기 있다고 자체적으로 인식했거나, 조사된 자료에 의해 특정한 여성상을 구현하기로 한 것이다. 사업자와 기획자 개발자들이 방향성을 고정시켜 놨을 수 있다.

이 세 가지 외 다른 이유라 할지라도 결국 '원본', '실수', '의도' 세 가지 중 하나에 수렴될 수밖에 없다. 여기엔 사회에 유통되는 여성상 중에 이 '귀엽고 어리숙하고 주체적이지 못한 여성상'이 꽤 널리 퍼져 있어야 가능하다는 공통점이 있다.

이미 이루다 서비스에서 성희롱이나 개인정보 수집 등 몇 가지 문제점들이 지적되고 있지만, 나는 그런 문제들은 인공지능 개발 특성상 개선해야 하는 현상으로 보일 뿐 서비스 자체의 문제로 보진 않는다. 하지만 지금 논란 전면에 드러나고 있진 않지만, 이렇게 특정 성별의 상을 평범하고 성숙한 인격에 못 미치는 하위 등급의 형태로 구성한 점은 매우 큰 문제다.

정신들 차리라

패기어린 젊은 스타트업 종사자들의 고생과 실수에 격려는 못할 망정 괜한 쓴소리 하는 게 좋을 리 없다. 하지만 요즘처럼 다양하고 질 높은 사고가 풍족한 시대에 살면서 어떻게 이런 일이 가능한가 싶어 혀를 찼다. 솔직히 입안으로 중얼중얼 욕을 되뇌긴 했다. 정신들 차리라고 말해주고 싶다. 적어도 노회하고 낡은 세대보단 더 똑똑하게 굴어야 하지 않나.

뭐가 문제인지 잘 모르겠으면 넷플릭스에서 방영 중인 <스타트렉 디스커버리>를 정주행하라고 권하고 싶다. 이 드라마를 보다 보면 성별, 인종, 육체 등 우리에게 익숙했던 고정관념들에서 벗어난 콘텐츠라는 게 어떤 건지 깨달을 수 있을 것이다.

댓글8
이 기사가 마음에 드시나요? 좋은기사 원고료로 응원하세요
원고료로 응원하기

"모든 시민은 기자다!" 오마이뉴스 편집부의 뉴스 아이디


연도별 콘텐츠 보기