▲벤자민 렉트의 <비이성적인 의사결정: 우리는 어떻게 컴퓨터에게 판단을 위임했는가>(2026) 표지
Princeton Univ Press
벤자민 렉트의 신간 <비이성적인 의사결정: 우리는 어떻게 컴퓨터에게 판단을 위임했는가>는 통계학과 컴퓨터를 이용한 분석, 의사결정의 역사와 맥락을 소개하는 책이다. 미국 캘리포니아대 버클리 캠퍼스의 전기전자컴퓨터공학과 교수인 저자는 신호처리와 인공지능을 오랫동안 연구하면서 과학계의 통계적 관행에 대해 많은 의문을 갖게 됐다고 한다.
여기서 말하는 통계적 관행이란 통계적 유의성을 바탕으로 명제의 참 거짓을 가르는 일을 말한다. 저자는 통계적 분석에 지나치게 많은 의미를 부여하는 현대 연구자들을 보면서 이러한 관행과 의존의 역사에 대해 공부한 내용을 이 책을 통해 정리했다.
현재는 우리가 당연하다고 생각하는 다양한 정량적 분석이 보편화된 것은 한 세기조차 되지 않는다. 예를 들어 통계적 유의성에 대한 개념은 1930년에 개발됐으므로 이제 막 90살을 넘겼지만 이전에도 과학적 발견은 계속 이뤄졌다. 이 개념이 여러 분야에 일반화된 것이 2차 세계대전 이후라는 점을 감안하면 실제 역사는 80년도 채 되지 않는다.
이는 뉴턴의 운동법칙보다 300년 늦었고, ABO식 혈액형의 발견보다 50년은 늦은 것이다. 아서 에딩턴이 개기일식을 관찰하며 얻은 일반상대성이론의 첫 번째 경험적 증거 역시 1919년에 수집됐고, 이론 자체는 알버트 아인슈타인이 1915년에 발표하였다. 사실여부를 통계학으로만 판단하는 현대의 관점에서 본다면 20세기 중반 이전의 모든 발견은 혈액형 같은 생물학적 발견뿐만 아니라 물리법칙까지도 비과학적인 것이 되고 만다.
저자는 과거로 돌아가 이 문제에 대한 답을 찾는다. 통계학은 본질적으로 최적화의 과학이다. 통계학 교과서에 흔히 등장하는 "최대"우도추정이나 "최소"자승법 모두 집단을 대표하는 표본에 대한 함수를 최소화하거나 최대화하는 최적화 문제의 일종이다. 이러한 최적화 문제는 2차 세계대전 시기 전쟁을 수행하며 물자를 최적화하고픈 정부와 이들에 고용된 과학자들의 상호작용 속에서 본격적으로 탐구됐다.
존 폰 노이만이나 노버트 위너 같은 과학자들은 최적화 문제를 실제로 풀기 위해서는 강력한 계산 장치가 필요하다는 사실을 인지했고 이는 현대적인 컴퓨터의 개발로 이어졌다. 곧이어 컴퓨터를 설계하는 일 자체가 최적화 문제의 일종임을 간파한 캘리포니아대 연구자들에 의해 컴퓨터 성능이 폭발적으로 발전하기 시작했다. 최적화 이론의 발전과 컴퓨터의 발전이 선순환의 고리를 만들어낸 것이다. 이러한 설계 기술은 현대까지 이어져 실리콘밸리의 기술적 바탕이 되었다.
컴퓨터와 최적화 이론의 발전은 다른 분야로 퍼져나갔다. 폰 노이만과 오스카 모르겐슈테른은 1949년 경제학이 지금은 우리가 게임이론이라고 부르는 최적화 문제로 환원될 수 있다고 주장했다. 이것이 경제학이 다른 사회과학에 비해 수학을 많이 활용하는 역사적 배경 중 하나이다.
1946년 브래드포드 힐은 의학적 치료의 효과성을 무작위배정임상시험(Randomized Controlled Trial, RCT)으로 평가해야 한다고 믿었고 이 주장은 50년이 지나서 근거중심의학(Evidence Based Medicine, EBM)이라는 이름으로 의학에 정착했다. 책의 저자는 그러한 시도들이 성공적일 수 있었던 조건들을 분석하고 그 조건 밖으로 같은 시도를 확장하는 것의 위험을 경고한다. 위험과 편익이 수량적으로 명확하게 정의될 수 있는 상황 밖에서 최적화 이론을 맹신해서는 안 된다는 것이다.
'숫자' 뒤 논의는 어디에? '객관성' 환상에서 벗어나야
숫자에 기댄 얄팍한 정치평론은 저자가 경고하는 최적화 이론의 잘못된 활용의 대표적인 사례이다. 오세훈 후보를 지지하면 보수이고 정원오 후보를 지지하면 진보인가? 정치성향을 몇 개의 숫자로 간단하게 정의할 수 없음을 생각하면 이치에 전혀 맞지 않다는 것을 알 수 있다.
데이터 분석가를 자처하는 많은 이들이 숫자에 기반한 가벼운 분석에 천착하는 것은 그것이 정확하기 때문이 아니라 그저 편리하고 간편하기 때문이다. 하나의 지표와 숫자를 만들어내기 위해 필요한 복잡한 논의를 뒤로하고 최종적인 결과만 던짐으로써 쉽게만 가려는 것이다.
이러한 행태는 비단 정치평론에만 국한되지 않으며 의료계에서도 흔히 볼 수 있는 일이다. 방대한 데이터를 바탕으로 개인화된 치료를 추구하는 정밀의료가 많은 곳에서 판치고 있지만 통계학적 최적화에 기댄 이러한 시도들은 근원적으로 개인이 아닌 집단적 수치를 최적화하는 것에 불과하다.
빅데이터와 인공지능을 활용하는 정밀의료는 개인에게 최적화된 맞춤치료를 제공함으로써 최적의 치료효과를 추구한다고 주장하지만 그 내용물은 조건부처치평균효과(Conditional Average Treatment Effect, CATE)를 예측하는 것이다. 이는 치료대상자를 여러 특성에 따라 분류한 다음 소집단에서의 평균적인 치료효과를 계산한 것이다. 이름에 들어간 "평균"이라는 단어에서 보듯이 개인의 치료효과(Individual Treatment Effect, ITE)를 예측하는 것과는 거리가 멀다. 집단을 더 세세하게 분류한다고 하여 치료효과를 더 예측한다는 보장이 없기 때문이다.
문제는 개인의 치료효과를 알아내는 것은 수학적으로 불가능하고 조건부처치평균효과에 근거한 치료는 특정한 방식으로 정해진 집단의 지표를 향상시키는 일에 불과하다. 최적화하려는 지표와 숫자가 무슨 의미인지 모르고, 또 알려고도 하지 않기 때문에 일어날 수밖에 없는 일로 정확히 책의 저자가 경고하는 실수에 해당한다.
이 책의 저자가 최근 자신의 블로그에서 밝힌 것처럼 이와 같은 통계학적 최적화에 대한 집착은 되려 프랑스 철학자 장 리오타르가 이론화한 포스트모더니즘 사조에 정확히 부합하는 예시이다. 리오타르에 따르면 세계에는 관점에 따라 여러 개의 진실이 존재할 수 있으며 특정한 지표를 전면에 내세우는 것은 그런 여러 관점 중 하나에 불과하다. 과학적 데이터 분석으로 불리는 많은 행위들은 현상을 이해하려고 하기보다 그 현상을 계산할 수 있는 몇 개의 지표로 환원시켜 그 지표로 현실을 대체하고 만다.
앞서 언급한 관찰하기 힘든 개인의 정치성향을 후보의 득표율로, 계산할 수 없는 개인의 치료효과를 집단의 치료효과로 대체하여 분석하는 행위들이 여기에 해당한다. 이들은 숫자를 통해 객관적 진실을 전달한다고 주장하지만 그 본질은 불투명하고 복잡한 현실을 하나의 관점으로만 파악하는 것에 불과한 것이다.
저자는 마지막으로 현실을 전적으로 숫자에 투영하는 것의 정치적 위험에 대해 경고한다. 정치참여자의 가치와 목표 대신 계산과 관찰이 쉽다는 이유만으로 선택된 숫자들이 점점 더 의사결정에 큰 영향을 미치고 있다. 이러한 경향은 컴퓨터 자원과 자본의 집중과 만나서 다양한 숫자를 더 쉽게 생산할 수 있는 소수의 인원이 사회 전체를 쥐고 흔들 수 있는 상황으로 이어진다.
소수의 기업이 인터넷과 인공지능 시장을 장악하는 현 상황은 저자가 얘기하는 위협과 정확하게 맞아떨어진다. 통계가 주는 객관성의 환상에서 벗어나 숫자 이면에 담긴 의도와 목적을 파악하려는 노력이 절실하다.
[용어해설]
개인처치효과(Individual Treatment Effect, ITE): 특정한 개인이 의료적 처치나 정책적 개입에 반응하는 정도를 말한다. 처치가 이뤄진 세계선의 개인과 그렇지 않은 개인을 비교하여 얻는 상상 속의 값이다.
조건부처치효과(Conditional Average Treatment Effect, CATE): 주어진 조건을 만족하는 집단에서 의료적 처치나 정책적 개입이 개개인에게 미치는 효과의 평균값을 말한다. 조건을 만족하는 개인처치효과의 평균값이기도 하며 개인처치효과와 다르게 상황이 갖춰지면 실제 데이터에서 추정할 수도 있다.
무작위배정임상시험(Randomized Controlled Trial, RCT): 의학적 처치의 평균처치효과를 알기 위해 시행하는 임상시험이다. 치료군과 비치료군에 연구참여자가 무작위로 배정된다. 이 상황은 실제 데이터로부터 조건부처치효과를 측정할 수 있는 경우 중 하나이다.
저작권자(c) 오마이뉴스(시민기자), 무단 전재 및 재배포 금지
오탈자 신고
진실과 정의를 추구하는 오마이뉴스를 후원해주세요!
후원문의 : 010-3270-3828 / 02-733-5505 (내선 0)