우리의 일상에서의 크고 작은 행동이 사실 누군가의 조작에 의한 것이라면 어떨까? 당신이 구독 중인 유튜브 채널, 팔로우 중인 인스타그램 계정, 심지어 어젯밤에 주문한 옷까지. 사실은 온전히 당신의 '자유 의지'에 의해서 선택한 것이 아닐 수 있다는 말이다.
넷플릭스 오리지널 시리즈 <소셜 딜레마>(2020)는 페이스북, 트위터, 인스타그램, 유튜브 등으로 대표되는 소셜 네트워크 서비스(Social Network Services, 이하 SNS) 산업의 이면을 파헤친 다큐멘터리 영화다. 스마트폰에 지나치게 노출된 어린 자녀의 학업 성적이 걱정되는 부모들만을 위한 영화가 아니다. 영화에서 다루는 내용은 그보다 훨씬 더 깊고 끔찍하며 두렵기까지 하다.
영화의 주요 내러티브를 이끌어가는 트리스탄 해리스(Tristan Harris)는 실리콘 밸리에 남은 마지막 양심이라고 불린다. 전 구글 디자인 윤리학자이자, 현 '휴먼 테크놀로지 센터(Center for Human Technology, 이하 CHT)'의 창립자인 그는 모든 SNS가 사용자의 편리성이 아니라 중독성을 극대화하기 위해 설계된 것이라고 지적한다. 그를 포함한 다양한 업계의 내부 고발자들은 현시대의 SNS는 오직 사람들이 최대한 오래, 자주 접속하도록 만드는 것에만 혈안이 되어있다고 입을 모은다.
우리는 고객이 아니라 '상품'이다
▲ 전 페이스북 수익 창출 이사였던 팀 켄달 ⓒ 넷플릭스
미국 IT업계에는 이런 말이 있다고 한다.
'상품의 대가를 치르지 않으면, 당신이 상품이다.'
많은 사람들이 SNS를 하면서 '공짜'라고 생각한다. 구글은 그저 검색 엔진이고, 페이스북/인스타그램은 사람들의 일상을 볼 수 있는 곳이며, 유튜브는 재미있는 동영상을 볼 수 있는 곳이라고만 생각한다. 이 모든 것에 특별히 돈이 들지 않으니 무료라고 생각하는 건 당연하지도 모른다.
그러나 실상은 콘텐츠를 보는 우리가 플랫폼에 '관심'을 제공하고 있는 셈이다. 좋은 서비스를 공짜로 누린다고 생각했는데, 우리는 고객이 아니었다. SNS 기업의 진짜 고객은 광고주다. 사람들이 재밌는 콘텐츠에 관심이 팔려있을 때 중간중간 보게 하는 광고에 대한 대가로 받는 수익이 그들의 주된 돈줄이 되는 셈이다.
▲ 페이스북 공동창업자인 저스틴 로젠스타인 ⓒ 넷플릭스
나보다 나를 잘 안다는 알고리즘의 비밀
실리콘밸리의 컴퓨터과학자 재런 래니어 (Jaron Lanier)는 SNS 기업이 광고주에게 파는 것은 단순히 관심이 아니라, 사람들의 행동과 사고방식 그리고 정체성을 점진적으로 변화시키는 것이라고 말한다. 그 변화는 아주 천천히 일어나서 인지하기도 어려울 정도다. SNS를 쓰면 쓸수록 가랑비에 옷 젖듯이 그들이(정확히는 광고주) 바라는 대로 변화한다는 것이다.
내가 내 스마트폰으로 보고 싶은 것을 봤을 뿐인데 실은 조종당하고 있는 것이라니! 그들이 우리를 조종할 수 있는 힘은 바로 '데이터'에 있다. SNS 기업들은 사용자의 모든 데이터를 수집하고 분석한다. 바로 '확실한 시장'을 구축하기 위해서다. 광고주가 팔고 싶은 제품을 살 확률이 가장 높은 사람들만 따로 추려 놓은 확실한 시장 말이다.
내가 필요한 것이 무엇인지 나보다 더 잘 아는 알고리즘이 알아서 제품을 추천해 주는 것은 좋은 것처럼 들릴지 모른다. 그런데 확실성을 최대한 높이기 위해서 당신의 일거수일투족을 모두 추적하고 그에 관한 데이터를 수집한다면 어떤가? 누구를 만나 어떤 대화를 하고, 어떤 콘텐츠에 더 오래 머물렀으며, 심지어 밤 11시에 전 애인의 인스타그램 계정을 염탐했던 사실마저 추적이 되고 있었다면?
그들은 가장 정확한 예측 모델을 만들기 위해서 사용자들의 모든 것을 추적하고, 수집하고, 분석한다. 마치 당신이 스크롤을 내리고 있는 스마트폰 화면 반대편에 내로라하는 권위 있는 전문가들이 실시간으로 회의를 하면서 어떻게 하면 당신을 그들이 원하는 방식으로 움직이게 할지 실험을 하고 있는 것만 같다.
그렇다. 기업 입장에서 우리는 '실험 쥐'와 다를 바가 없다. 어떤 자극에 어떤 반응을 보이는지를 세심하게 관찰하고 기록하고 분석하는 것이 그들이 하는 일이다. 이렇듯 SNS 기업의 이익 창출의 극대화를 위해서 사용자의 모든 데이터를 수집하는 것을 '감시 자본주의'라고 일컫는다. SNS를 이용하는 동안은 그 누구도 이로부터 자유로울 수 없다.
SNS 중독이 생길 수밖에 없는 이유
SNS에 중독된 사람들이 의지가 약한 것이 아니다. SNS는 사람들이 중독될 수밖에 없는 체계적인 구조로 설계되었다. 따라서 소위 학창 시절에 공부 좀 했다는 의사, 변호사, 엔지니어, 과학자들조차 SNS 중독에서 자유로울 수 없다. 심지어 영화 속 전문가들 조차도 스마트폰의 유혹을 통제하기 어렵다고 고백한다.
인류는 지금껏 수많은 새로운 기술들을 직면해왔고 거기서 파생된 여러 가지 문제를 슬기롭게 극복해왔다. 그렇기 때문에 이런 SNS로 대두되는 문제들도 자연스럽게 극복을 해나갈 것이라는 낙관적인 전망도 있다. 그러나, 그들이 간과하고 있는 것이 있다. 바로 기술의 발전 속도 즉, 인공지능(AI)의 연산 속도가 인류가 개발한 그 어떤 기술의 발전 속도보다도 전례 없는 수치를 보이고 있다는 것이다.
게다가 SNS를 설계한 자들은 사람들의 행동을 변화시키기 위한 온갖 심리학과 설득 기술을 체계적으로 배우고 훈련한 전문가들이다. 이렇게 인간 심리의 깊숙한 영역까지 침투하여 행동과 사고에 영향을 끼쳐 자신들의 서비스를 더욱 오래 사용하도록 만드는 것을 '그로스 해킹(Growth Hacking)'이라고 부른다. 그것을 주업으로 삼는 '그로스 해커(Growth Hacker)'들은 SNS 기업 성장의 핵심 인력으로 활동한다.
SNS가 사회에 미치는 폐해
영화의 배경이 된 미국의 경우 SNS의 이용이 활발한 Z세대(90년대 중반부터 2000년대 초반에 태어난 세대)에서 자해 및 자살이 급증했다. SNS가 등장한 이후로 미국 10대 소녀들의 자살률은 70~151%까지 상승했다. 이유가 무엇일까?
'좋아요'로 대표되는 SNS의 주요 기능에 그 답이 있다. 트리스탄은 인간의 뇌는 주위의 칭찬과 비평에 관심을 갖도록 진화했지만, 수많은 사람들에게서, 5분마다 평가받도록 진화하지는 못했다고 지적한다. 태어날 때부터 스마트폰이 존재하던 Z세대는 다른 세대에 비해 온라인상의 평판에 대해 훨씬 더 민감하게 반응할 수밖에 없는 것이다.
10대만 영향을 받는 것이 아니다. SNS는 보고 싶은 대로 보고 듣고 싶은 대로 듣는 인간의 '확증편향' 성향을 더욱 강화한다. SNS 이전의 인터넷 시대엔 그나마 자신이 찾고자 하는 정보를 스스로 검색을 했어야 했다. 이제는 가만히 앉아만 있어도 알고리즘이 내가 좋아할 만한 정보를 떠먹여준다.
문제는 내가 필요할 때만 그렇게 하는 것이 아니라, 세상의 모든 정보를 그렇게 알고리즘이 알려준 대로만 받아들이게 되는 것이다. 구글에서 기후변화에 대해서 검색하면 그 사람이 어느 지역에서 접속했는지(아마 지역에 따라 정치적 성향이 다를 테니까)에 따라 다른 추천 검색어와 검색 결과를 보여준다는 사실은 대단히 충격적이었다.
SNS는 알고리즘을 통해 모두가 각자 자신만의 '반향실(反響室- 뉴스 미디어가 전하는 정보를 이용하는 이용자가 갖고 있던 기존의 신념이 닫힌 체계로 구성된 커뮤니케이션에 의해 증폭, 강화되고 같은 입장을 지닌 정보만 지속적으로 되풀이 수용하는 현상)에 갇혀 살도록 만든다. 우리는 입맛에 맞는 정보만 제공받으면서 우리가 아는 것이 세상의 전부라고 믿고 산다. 스스로 정립한 가치관이라고 생각할지 모르지만 실상은 알고리즘이 우리의 신념과 가치관의 상당 부분을 만든 것이다.
'어떻게 다들 저렇게 멍청하지? 여기 있는 이 팩트(Fact)를 좀 보라고!'
자신만의 세계관이 확고해질수록 이렇게 생각하는 사람들이 많아진다. 다른 이들은 자신이 본 정보를 보지 못하는 것이 당연하다. 다른 이들은 그들의 입맛에 맞는 정보만 추천받아 보고 있을 테니 말이다. 이렇게 편향된 정보들로 세상을 채워나가면 자신과 다른 의견의 존재 자체를 인정하지 않게 된다. 사회가 양극화되어 청군과 백군처럼 서로 자기 말이 옳다고 우기며, 반대편 집단은 배척한다. 현재 미국 사회는 지난 20년을 통틀어 가장 개인적, 정치적으로 분극화됐다고 한다.
우리는 함께 이해할 수 있는 '합의된 진실'이라는 현실에 발을 딛고 살 필요가 있다. SNS는 우리가 현실과는 동떨어져 살게 만든다. 무엇이 진실인지에 대해 모두가 동의할 수 있는 것이 없는 세상이 도래한다면 문제 해결의 실마리조차 잃어버리게 될지도 모른다.
이제는 변해야 할 때
SNS 그 자체가 나쁜 것은 아니다. 모든 기술이 그렇듯 그 자체가 아니라, 사회의 어두운 면을 이끌어 낼 수 있는 기술의 능력과 기술을 사용하는 사람의 의도와 목적이 위험한 것이다. 기술이 개인의 가치관을 바꾸고 나아가 사회와 세상을 바꾸고 있다면, 그로 인해 SNS를 하지 않는 사람들의 세상마저 무너뜨릴 수 있다면, 우리는 그 기술을 사용하는 기업들의 독주를 두고 보고만 있어서는 안 될 것이다.
기업은 본질 자체가 이윤을 추구하는 집단이다. 그러나 이윤 추구에도 넘지 말아야 할 선이란 것이 존재한다. 그 선의 역할을 하는 것이 바로 규제다. 광고 수익을 통해 돈을 버는 비즈니스 모델은 TV나 언론사와 같은 기존의 미디어에서도 활용하던 방식이다. 그러나 SNS와 달리 방송이나 신문 등의 매체에는 악의적 사용을 방지하는 많은 규제가 뒤따른다.
이제부터라도 잘못된 것들을 바로잡아나가야 한다. 영화 속 전문가들은 SNS 기업들이 그 책임의 선봉에 서야 한다고 말한다. 사용자들의 데이터를 채굴 가능한 자원으로 생각하지 않아야 하며, 중독을 유발하는 것이 아니라 이로움을 제공해야 한다고 말한다.
개인으로서의 우리는 기업이 바뀔 때까지 기다리고 있을 수만은 없다. SNS에 쏟는 시간만큼 기업은 지금 이 순간에도 막대한 돈을 벌고 있다. 그 돈은 다시 우리를 중독시키는 데 쓰인다. 알고리즘(AI)의 두뇌를 발달시키기 위한 부품이 되는 것을 거부하자.
가장 좋은 것은 모든 SNS 앱들을 삭제하는 것이다. 그것이 어려울 경우, 푸시(push) 알림이라도 모두 끄는 것을 제안한다. 이용자의 검색 기록을 저장하지 않는 '콴트(https://www.qwant.com/)'와 같은 검색 엔진을 사용하는 것도 좋다. 그리고 유튜브의 '추천'이나, 인스타그램의 '둘러보기'와 같은 알고리즘이 추천하는 콘텐츠는 가급적 보지 않는 것이 좋다. 필요한 정보가 있다면 직접 검색을 하자.
저작권자(c) 오마이뉴스(시민기자), 무단 전재 및 재배포 금지
오탈자 신고