"AI를 민주화하라" 빅테크 독점과 국가 패권에 맞선 동아시아 시민사회

큰사진보기

[기사 수정 : 21일 오전 9시 54분]

"기술이 민주주의를 결정하게 하지 말고, 민주주의가 기술의 방향을 결정하게 해야 합니다. 소수를 위한 AI가 아닌 모두를 위한 AI로 나아가야 합니다."

19일 서울 성동구 헤이그라운드 성수시작점 브릭스에서 빠띠, 하인리히뵐재단, 코드포코리아 주최로 '2026 동아시아 시민사회 컨퍼런스'가 개최됐다. 행사에는 활동가와 연구자 등 70여 명이 참석했다. 이날 컨퍼런스는 패권 경쟁과 이윤 추구에 밀려난 시민권과 노동권, 그리고 공론장의 위기를 진단하고 국경을 넘는 대안을 모색하고자 마련됐다.

"느리고 비싼 사실"의 생략과 플랫폼 알고리즘이 삼킨 공론장

개회사를 맡은 이성훈 인권평화민주주의대사는 AI를 둘러싼 패권 경쟁 담론을 비판했다. 이 대사는 "우리는 AI를 말할 때 특히 경쟁의 언어를 사용한다. 누가 더 좋은 AI를 만드는가, 어느 나라가 AI 강국이 되는가를 이야기한다. 그러나 시민사회의 관점에서는 그보다 먼저 물어야 할 것들이 있다. AI는 누구를 위한 것인가, 누가 위험과 비용을 부담하는가, 그 결정에 시민은 어떻게 참여하고 있는가이다"라고 질문을 제기했다.

또한 "기술이 민주주의를 결정하게 하지 말고, 민주주의가 기술의 방향을 결정하게 하자"며 국경을 넘는 연대를 주문했다.

큰사진보기

발제에 나선 전치형 카이스트 교수는 사실, 전문성, 신뢰의 삼중 위기를 경고했다. 전 교수는 사실이 그냥 주어지는 것이 아니라 오랜 절차와 검증 메커니즘을 거쳐 도달하는 사회적 합의물이라고 짚었다.

전 교수는 "사실을 확립하는 데에는 각종 정보를 수집하고 측정하고 기록하고 비교하고 검증하고 또 다투는 사회적 메커니즘이 작동해야 하는 것"이라며 "따라서 사실은 굉장히 느리고 비싼 것"라고 정의했다. 그는 생성형 AI가 이 지루한 과정을 비효율로 규정해 생략 가능하게 만들고 있다고 지적했다. AI 필터 오류로 인한 시민과학 데이터 왜곡, 챗지피티의 거짓 판례 제출로 인한 사법 지연, AI가 논문을 쓰고 AI가 심사하는 학계의 붕괴 우려 등이 그 예다. 전 교수는 사실 생산 비용이 급감하면서 거대한 불신의 비용을 치르는 '팩트체크의 쳇바퀴'에 빨려 들어가고 있다고 꼬집었다.

김소형 서울과학기술대학교 강사는 유튜브 등 플랫폼 배후의 정치경제적 독점과 알고리즘이 유도하는 자극적 정량 지표의 문제를 지적했다. 구독과 좋아요 같은 정량화된 지표는 이성적 숙고 과정을 말살하고 즉각적인 정서적 자극만을 유도하여 '정동의 정치'를 발생시킨다.

김 강사는 이 구조 속에서 "우리의 민주주의가 얼마만큼 이윤화되고, 잘 세일링되는가의 문제"로 변질되고 있다고 비판했다. 아울러 상위 10% 미만의 크리에이터가 수익을 독점하는 이면에서 최저임금의 절반에도 못 미치는 저임금과 가혹한 감정 노동에 시달리는 90% 이상의 아마추어 노동 실태를 조명하며, 공익적 목소리가 고사하지 않도록 대안적 미디어 인프라 보장을 촉구했다.

김연수 빠띠 이사는 소셜 미디어와 알고리즘이 유도하는 필터 버블과 반지성주의를 경고했다. 김 이사는 "소셜 미디어와 플랫폼 알고리즘이 확증 편향을 촉진한다. 필터 버블에 갇혀 가지고 만나는 사람만 만나고 갈등하게 되는 것을 정치적 양극화라고 할 수 있을 것 같다"라고 진단했다.

김 이사는 "정부와 시민 사회 두 차원의 투트랙 접근으로 디지털 민주주의 플랫폼을 만들고 활성화해 나갈 필요가 있을 것 같다"며 빠띠가 개발한 시민 공론 플랫폼 '캠페인즈' 등을 대안으로 제시했다. 특히 그는 "민주주의 정의상 AI가 주체가 아니라 국민이 주체여야 되는데 AI한테 판단을 맡겨 버리면 안 된다"라고 역설했다.

지워진 소수자의 데이터, 노동 감시와 기후위기의 물리적 위협

오경미 오픈넷 연구원은 국가 수량화 체계의 사각지대에서 발생하는 '데이터 부정' 문제를 고발했다. 인구주택총조사 설계 단계에서 성소수자 존재를 집계하지 않는 '절대적 배제'가 대표적이다. 또한 여성 비정규직 노동의 지표를 남성 정규직 중심 통계 기준 속에 매몰시키는 '범주화의 실패'도 지목됐다.

고용노동부가 남성 육아휴직자 비율을 강조하면서도 실제 사용 기간 데이터를 누락하거나, 경찰청이 디지털 성범죄 성별 통계 분류를 거부하다 항의 끝에 공개한 피의자 98.8%가 남성이라는 수치가 보여주듯, 오 연구원은 데이터 정의가 단순히 데이터의 양을 늘리는 것이 아니라 '구조적으로 지워졌던 존재들을 기록하고 가시화하는 포용적 설계'에 달렸다고 보았다.

큰사진보기

김석 민주노총 정책국장은 "반도체와 데이터 센터 등으로 대변되는 정부의 AI 정책이 실상은 노동 시간 연장과 비정규직 사용 완화 등 재계의 숙원을 반영하는 명분으로 남용되고 있다"고 지적했다. 정리해고를 기술 혁신으로 은폐하는 '인공지능 워싱'을 규정하고, 편향된 지표를 무비판적으로 복제하는 AI 모델들이 '확률적 앵무새'에 불과하다고 비판했다. 라이더 노동자들이 정체불명의 알고리즘에 소속되고 현장 노동자들이 동의 없이 고성능 AI CCTV 감시에 노출되는 구조 속에서, 법안들은 기업의 원본 개인정보 무단 사용을 허용하려 하고 있다는 것이다. 김 국장은 3GW급 해남 데이터 센터 등 추가 인프라 가동이 초래하는 전력 폭증과 기후위기 위협을 경고하며 범아시아적 노동 국제 연대를 촉구했다.

김희순 참여연대 권력감시1팀장은 3대 AI 강국 목표 하에 진행되는 입법의 규제 완화 꼼수를 폭로했다. 익명화 없이 원본 개인정보를 기업 개발용으로 열어주는 개인정보보호법 개악 움직임에 대응하여 'AI시민행동'의 5만 국민동의청원 등 시민 공동행동을 전개했다고 밝혔다. 또한 최근 빅테크 기업들의 무단 스크래핑으로 참여연대 웹페이지 트래픽이 폭증했으나, 시민사회의 대항 담론이 AI 학습 과정에서 고사하는 것을 막기 위해 차단 대신 서버 비용을 전액 자부담하며 공익적 대응을 이어간 구체적 사례를 공유했다.

조선 실학의 대안과 인도네시아 '게모이' 아바타가 남긴 경고

권오현 빠띠 이사장은 데이터와 인프라 전반이 공공 공유지로 귀속되는 '데이터 주권 정책'을 피력했다. 그는 조선 후기 실학파의 이념인 "이용, 후생, 정덕" 사상을 AI 민주적 거버넌스의 나침반으로 제시했다. 유용한 기술 개발인 '이용', 시민의 디지털 기본권을 보장하는 '후생', 결정 구조의 정의로움을 담보하는 '정덕'이 조화를 이루어야 기술 종속을 방지할 수 있다는 성찰이다. 권 이사장은 2027년 민주화 운동 40주년과 2028년 G20 한국 개최라는 기회의 창을 활용해 동아시아 연합을 결성할 것을 제안했다.

큰사진보기

인도네시아 아세안 정부간 인권위원회(AICHR) 대표인 아니타 와히드 교수는 2024년 대선에서 동원된 생성형 AI 비주얼의 정교한 이미지 세탁 전술을 경고했다. 군부 정권의 대량 학살 의혹과 심각한 인권 침해 혐의를 받던 프라보워 후보 진영은 AI를 통해 그를 무해하고 사랑스러운 아기 아바타로 세탁했다. 청년 대중은 이에 열광하며 '친근하다'는 의미의 신조어인 '게모이'라는 애칭으로 그를 소비했다.

아니타 대표는 과거의 사실을 부인하기보다 "어쩔 수 없는 필요였다"라며 대중을 교묘하게 리프레임한다고 지적했다. 이어 혐오를 조장하지 않고 팩트체크도 무력화하는 감정적 조작 캠페인에 시민사회가 마비되었던 현상을 시민사회 마비의 역설로 규정하며, 귀여움의 포장 뒤에 숨은 정치적 맥락을 복구해야 한다고 당부했다.

이성훈 대사는 인간권에 기반한 민주적 AI 대안 거버넌스를 아시아 전체의 주체적인 실천 강령으로 수립해 나갈 것을 재차 당부하며 행사를 마무리했다.