▲트리스탄 해리스(Tristan Harris). 전 구글 디자인 윤리학자이자 기술 윤리 운동가. 넷플릭스 다큐멘터리 <소셜 딜레마>와 TED 강연을 통해 기술이 인간의 주의와 행동을 어떻게 설계·조작하는지 경고해왔다.
TED
TED 강연보다 5년 전에 방영된 넷플릭스 다큐멘터리 <소셜 딜레마>에서도 해리스는 같은 맥락으로 '새로운 기술'에 대한 양심적인 내부 고발과 경고를 했다. 해리스는 소셜 미디어를 단순한 커뮤니케이션 도구가 아니라 인간의 행동과 사고를 체계적으로 조작하는 시스템으로 규정한다. 기술 비판이 아니라, 설계된 인센티브 구조가 만들어낸 결과라는 것이다.
해리스가 <소셜 딜레마>에서 지적한 핵심 내용은 ▲ 소셜 미디어의 진짜 고객은 '사용자'가 아니다. 소셜 미디어 사용자는 고객이 아니라 상품 ▲ 알고리즘은 중립적이지 않다 개인을 대상으로 한 미세한 조작(micro-manipulation)의 연속 ▲ 개인의 문제가 아니라 '시스템의 문제'다. 소셜 미디어의 부작용은 '개인의 자제력 부족'이나 '사용 습관 문제'가 아님 ▲ 소셜 미디어는 사회 전체의 정보 환경을 바꾸고, 민주주의의 작동 조건을 약화 ▲ 소셜 미디어의 문제는 기술이 나빠서가 아니라, 어떤 가치를 기준으로 설계되었는가의 문제라는 것이다.
해리스가 내놓은 해법은 설계 윤리의 변화, 규제와 책임 강화, 시민 사회의 문제 인식이다. 이 문제를 기술자나 기업만의 문제가 아니라 사회 전체의 선택 문제로 다룰 것을 요구한다. 해리스의 궁극적인 문제의식은 '우리가 통제하지 않으면, 기술이 우리를 통제한다'는 것이다. 그리고 질문을 던진다. "우리는 인간의 심리를 조작하는 기술을 통제할 준비가 되어 있는가?"
<소셜 딜레마>는 소셜 미디어의 부작용에 대해서 말하고 있지만, 다가올 AI 시대를 이해하기 위한 중요한 예고편 역할도 하고 있다. '기술은 중립적이지 않고, 기술을 방치하면 그 방향은 언제나 이윤과 속도를 향하게 된다'는 메시지를 분명히 하고 있다. 다큐 <소셜 딜레마>는 2020년 1월 '선댄스 영화제(Sundance Film Festival)'에서 처음 방영됐고, 같은해 9월 넷플릭스를 통해 전 세계에 공개됐다.
※ 2월 20일에 열리는 오마이포럼 'AI 권력의 시대 : 인간다움과 민주주의의 미래'에 참석을 희망하는 분들은 2월 13일까지 온라인으로 신청하면 됩니다. 참가비는 1인당 10만원(10만인클럽 회원은 8만원)이며, 고급 도시락 점심식사를 제공합니다. 좌석이 한정돼 있어서 선착순 마감합니다. 이번 행사와 관련해 궁금한 사항은 오마이뉴스 사무국(☎ 02-733-5505, 내선 108)으로 연락하거나, 이메일(forum@ohmynews.com)로 문의하면 됩니다.
[오마이포럼 참가 신청] AI 권력의 시대, 인간다움과 민주주의의 미래 (https://omn.kr/aiforum)
저작권자(c) 오마이뉴스(시민기자), 무단 전재 및 재배포 금지
오탈자 신고
진실과 정의를 추구하는 오마이뉴스를 후원해주세요!
후원문의 : 010-3270-3828 / 02-733-5505 (내선 0)