21.08.02 07:08최종 업데이트 21.08.02 07:08
  • 본문듣기
 
최근 독일 법원은 테슬라가 '오토파일럿'과 '완전자율주행'을 제품 소개와 홍보에 사용할 수 없도록 금지 처분을 내렸습니다. 실제로 보조수단밖에 되지 않는 기술을 잘못 인식해 사고를 유발할 수 있기 때문입니다. Ian Maddox
 
2020년 7월, 테슬라에 예상치 못한 악재가 터졌습니다. 이 전기 자동차사가 독일에서 더 이상 '오토파일럿'과 '완전자율주행'이라는 표현을 쓸 수 없게 된 것입니다. '오토파일럿(Autopilot)'과 '완전자율주행(Full-Self Driving)'은 테슬라 자동차에 장착된 운전자 보조시스템의 공식 명칭으로, 주행 중 가속, 정지, 차선유지와 변경 등의 조작을 돕는 첨단 장치를 말합니다. 뮌헨 법원은 테슬라가 홍보에 써온 이 명칭이 운전자에게 그릇된 인식을 심어 치명적 사고를 유발할 수 있다고 판단했습니다.

비록 이 금지 판결은 독일 내에서만 유효하지만, 독일은 유럽 최대의 자동차 시장입니다. 그리고 테슬라가 본사를 둔 미국에서도 '오토파일럿' 등의 표현을 두고 우려가 확산하던 터였습니다. 미국 <시앤앤>(CNN)은 "오토파일럿에서 가장 위험한 부분은 '오토파일럿'이라는 이름"이라고 지적하기도 했지요. 독일 법원의 금지 결정은 다른 나라들도 비슷한 조치를 취하는 계기가 될 수 있기에, 최고경영자 일론 머스크는 이 결정을 맹렬히 비난하고 나섰습니다. 그는 오랫동안 비판을 무릅쓰며 '오토파일럿' 명칭에 집착을 보였습니다.
 
테슬라의 모국인 미국에서도 테슬라의 과장된 홍보가 불러올 위험에 대한 목소리가 커지고 있습니다. <시앤앤>은 "오토파일럿'에서 가장 위험한 부분은 '오토파일럿'이라는 이름"이라고 비판했습니다. CNN
 
머스크는 '오토파일럿'은 그저 이름일 뿐이라고 주장하며, '오토파일럿'이 위험하다면 '아우토반'은 왜 문제 삼지 않느냐고 항변했습니다. 비록 무슨 말을 해도 열렬한 지지를 보내는 팬을 확보하고 있는 사람이지만, 이 주장이 설득력을 갖기는 어려워 보였습니다. 독일어 '아우토반'의 '아우토'는 '자동차(Automobil)'의 준말이지만, '오토파일럿'의 '오토'는 '자동(automatic)'의 준말이기 때문이지요. 차가 고속으로 달릴 수 있는 도로를 '자동차 고속도로'로 부르는 것과, 자율주행을 할 수 없는 장치를 '자율주행장치'라고 부르는 것은 전혀 다른 문제이니까요.

테슬라는 제품 설명서에 "주행 중 운전대를 놓아서는 안 된다"고 명시하고 있으며, 공식 웹사이트에도 "오토파일럿 기능이 자동차를 자율주행차로 만들어 주지는 않는다"고 분명히 말하고 있습니다. 하지만 테슬라 운전자들 가운데는 '오토파일럿'을 작동시킨 후 운전대를 놓는 것은 물론, 뒷좌석으로 건너가기도 하고, 심지어 주행 중 잠을 자다 적발된 경우도 있습니다. 물론, 사람들이 이런 위험천만한 일을 벌이는 이유가 '오토파일럿'이라는 이름 때문만은 아닐 것입니다. 어느 경우든 만용을 부려 위험한 일을 벌이는 사람들은 존재하니까요.
 
자율주행 기술의 한계를 인정하면서도 머스크는 '오토파일럿'과 '완전자율주행'이라는 이름을 고수하고 있습니다. 그 사이에 이 기능을 신뢰하는 운전자의 위험한 운전은 계속 증가하고 있습니다. 사진은 달리는 테슬라 안에서 뒷 자리에 눕는 청년의 모습이 보입니다. 유튜브 화면
 
문제는 머스크가 이런 위험한 행위를 만류하고 경고하기는커녕, 은근히 즐기며 부추겨왔다는 점입니다. 2019년 미국에서는 10대 커플이 주행 중인 테슬라에서 성행위를 하며 영상을 찍은 일이 있습니다. 이 사건을 언급하며 머스크는 트위터에 이런 농담을 올렸습니다. "오토파일럿이 애초에 상상했던 것보다 쓰임새가 많네요." 그리고는 이렇게 덧붙였습니다. "이런 게 오리라는 것을 알았어야 하는데…(Shoulda seen it coming…)."

머스크의 두 번째 트윗은 성적인 의미까지 내포하고 있어 더 논란이 됐습니다. 그 말은 "이런 일이 일어날 것을 알아야 했는데"와 "사정하는 것을 봤어야 하는데"라는 두 가지 뜻으로 해석될 수 있기 때문입니다. 그가 트위터에 글을 남기자 그의 지지자 다수는 옹호하는 글과 사진을 올리며 낄낄댔지만, 적잖은 이들이 심각한 우려를 표했습니다. 어떤 이는 머스크에게 "이건 매우 위험한 일입니다. 제발 이런 농담 대신 위험성을 분명히 경고해 주세요"라는 글을 보내기도 했습니다. 앞의 커플은 자신들의 행동이 위험하다고 생각하지 않는다고 말했습니다. 이전에도 오토파일럿을 몇 번 써봤는데, 별 문제가 없었다는 것입니다.


이로부터 석 달 뒤, 테슬라가 트럭 측면을 들이받는 사고가 일어났습니다. 이로 인해 피해 트럭 조수석에 앉아 있던 15세 소년이 차 밖으로 튕겨나가 사망했지요. 가해차량은 오토파일럿이 켜진 상태였는데, 트럭을 들이받기 전에 감속하기는커녕 오히려 속도를 높였다는 사실이 조사에서 드러났습니다. 이 10대 소년은 운전수의 아들이었고, 2021년 현재 유족은 테슬라를 상대로 소송을 벌이고 있습니다. 테슬라 오작동으로 인한 사고는 과거에도 있었지만, 이 사망 사고는 도로 위 누구나 이 설익은 기술의 희생자가 될 수 있음을 보여주었습니다.

존재하지도 않는 기술을 팔다

머스크는 개의치 않는 분위기입니다. '오토파일럿'이라는 이름에 그토록 많은 비판과 우려가 쏟아졌지만, 그는 아예 '완전자율주행' 기능까지 끼워 팔고 있으니까요. 2021년 현재, 최신 모델을 구입할 때 미화로 1만 달러(약 1150만원)를 추가로 지불하거나, 이후 매달 199불씩 내면 이 기능을 '구독'할 수 있습니다. 물론 완전자율주행 기술은 아직 개발되지 않았습니다. 존재하지도 않는 기술을 미리 팔고 있는 것이지요. 머스크는 소프트웨어 업그레이드를 통해 이 문제를 해결할 수 있다고 주장하며, 아래와 같은 조건을 붙여 자율주행을 '선판매'합니다.
 
테슬라의 '오토파일럿'과 '완전자율주행'은 운전자의 완전한 주의를 필요로 하며, 운전대를 두 손으로 잡고 어느 경우든 운전의 주도권을 넘겨받을 준비가 돼 있어야 합니다. 비록 앞으로 시간이 지나면서 향상되겠지만, 현재로서는 이 기능이 자동차를 자율주행으로 만들어 주지는 못합니다.

미래에 가능할 거라는 전망으로, 자율주행이 불가능한 시스템에 '완전자율주행' 이름을 붙여 파는 게 타당할까요? 머스크의 약속이 얼마나 믿을 만한지 살펴보겠습니다. 그가 '완전자율주행'을 약속한 시기는 2013년으로 거슬러 올라갑니다. 그때 머스크는 "90% 자율주행 하는 차를 3년 안에 만들겠다"며 "완전자율주행 개발에는 시간이 걸릴 것"이라고 말했습니다. 매우 야심찬 계획이긴 하나, 어느 정도 현실감각은 지니고 있던 셈입니다.
    
테슬라raneko
   
그러던 머스크가 2014년에 태도를 바꿉니다. 주주총회에서 그는 투자자와 분석가들을 향해 "1년 내에 운전자가 아무런 기계조작을 안 해도 스스로 고속도로에서 일반도로까지 달리는 차를 만들 자신이 있다"고 공언한 것입니다. 2015년에는 <포춘>지와의 인터뷰에서 "완전자율 자동차를 2년 안에 완성할 수 있다"고 단언했습니다. 한해 뒤인 2016년에도 "완전자율운행 기술은 이미 해결된 문제"라며 "2년 안에 완성할 수 있다"고 재차 확인합니다. 해가 바뀌는데도 "향후 2년"을 반복하는 게 이상하지만, "이미 해결된 문제"라니 2017-2018년 즈음이면 도로에서 완전자율자동차를 보게 될 터였습니다.

그런데 2017년 12월, 인공지능 학회에 참석한 머스크는 또 "2년 안에 완전자율 자동차가 나온다"고 말합니다. 아무리 신기술의 무한한 꿈을 믿는 사람이라 해도 "2년 안에"가 반복되다 보니 시들해질 수밖에 없었습니다. 하지만 2년 뒤인 2019년, 머스크는 "완전자율자동차가 올해 안에 완성돼 내년 말에 고객들을 만나게 될 것"이라고 발표했습니다. 아크(ARK)투자사 분석가와의 인터뷰에서 나온 발언이었습니다. 드디어 "올해"라는 말이 나오자 고객과 투자자들은 흥분했습니다. 그리고 2020년 10월, 머스크는 "올해 안에 출시된다"고 다시 한 번 못 박았습니다. 하지만 그런 일은 일어나지 않았습니다.

그리고 다시 2021년 1월, 머스크는 "올해 안에 5단계 완전자율주행 테슬라가 나온다"고 발표합니다. "2년 안에"가 "올해 안에"로 바뀐 모양새였습니다. 하지만 테슬라 기술진이 캘리포니아 주 당국에 보낸 비공개 서신이 드러나면서 상황은 반전을 맞았습니다. 이 서한에서 테슬라 공학자들은 "머스크의 약속이 현실성이 없다"고 고백했으며, 자신들이 보유한 자율주행 기술이 "2단계 수준"이라는 사실도 인정했습니다. 2단계는 사람이 모든 상황을 파악하고 운전해야 하는 운행 보조수단에 지나지 않으므로 '자율주행'과는 거리가 멉니다.

이런 사실이 언론에 보도되자, 머스크도 더 이상 기존 주장을 되풀이할 수는 없었습니다. 그는 2021년 7월 트위터에 글을 남깁니다. 머스크는 "하하, 완전자율주행(FSD)9 베타는 '곧' 나온다"면서도 "일반 자율주행은 어려운 문제다. 현실 인공지능의 문제를 해결해야 하기 때문"이라고 썼습니다. 그리고 이어서 "그게 이렇게 어려운 일인 줄 몰랐다. 하지만 어렵다는 건 지나봐야 아는 거 아니냐"고 변명합니다.
 
10년 가까이 '완전자율주행을 1, 2년 내에 완성할 수 있다'고 큰 소리 치던 일론 머스크는 최근 '이렇게 어려운 문제인지 몰랐다'며 실패를 자인했습니다. '곧 자율주행 시대가 온다'는 머스크의 발언에 대해 테슬라 기술진들이 '비현실적 전망'이라고 지적해 왔다는 점에서, '몰랐다'는 머스크의 주장을 신뢰하기는 어려울 것 같습니다. 연합뉴스=AP
  
달은 노란 신호등, 버거킹 간판은 붉은 신호등

최고경영자가 무책임한 약속을 남발해 왔다는 사실을 인정한 셈이지만, 이미 주가가 사상최대를 찍은 테슬라는 아무런 영향도 받지 않았습니다. 해명할 게 많은 발언이었지만, 언론 역시 이에 관해 어떤 추가 설명도 듣지 못했습니다. 테슬라는 이미 2020년에 홍보부를 해체했기 때문입니다. 현재 머스크의 트위터 계정이 유일한 소통의 공간이지만, 그는 자신이 원하지 않는 글에는 답하지 않습니다.

머스크는 자율주행 기술의 한계를 인정한 뒤에도 그 불완전한 장치에 붙은 잘못된 이름을 포기하지 않고 있습니다. 그 결과, 지금 이 시간에도 테슬라 자동차는 '오토파일럿'과 '완전자율주행'이라는 착각을 단 채 도로를 질주하고 있습니다.

2019년 도로안전보호협회(IIHS)가 발간한 보고서는 이 착각이 얼마나 위험한지를 보여줍니다. 협회는 2천여 명의 운전자를 대상으로 설문조사를 했습니다. '오토파일럿을 작동시킨 뒤 운전대를 놓거나, 브레이크에서 발을 떼거나, 전방을 주시하지 않거나, 휴대폰을 사용해도 괜찮다고 생각하느냐'는 질문에 33%가 '오토파일럿이 있으면 (그런 부주의하게 운전을 해도) 안전할 것'이라고 답했습니다.

2021년에 발간된 협회의 추가 보고서는 보조시스템에 익숙해질수록 부주의한 행동도 증가한다는 사실을 보여 줍니다. 운전보조 기능을 사용하는 사람들일수록 부적절한 운행을 할 가능성이 높을 뿐 아니라, 이런 위험한 행위의 빈도가 시간이 지남에 따라 증가한다는 것입니다. 협회 연구자들은 운전자들에게 4주간 운전보조 시스템을 쓰도록 한 후, 첫 2주와 나머지 2주 사이에 운전 행태에 어떤 변화가 발생하는지 관찰했습니다. 결과는 놀라웠습니다. 전방을 주시하지 않는 등의 부주의한 행위가 275% 증가했고, 운전대에서 손을 놓는 행위가 889% 증가했으며, 운전 중 전화기 조작이 497% 늘었기 때문입니다.
 
최근 힌 테슬라 운전자가 테슬라의 '완전자율주행' 시스템의 결함을 지적하는 영상을 공개했습니다. 도로의 버거킹 간판을 빨간 신호등으로 인식해 차가 정지하는 오류가 발생한 것입니다.Cyber Owners
 
테슬라 보조시스템의 오작동으로 인한 사고는 널리 알려져 있습니다. 도로 중앙분리대를 인식하지 못해 발생한 것으로 의심되는 사고가 있었고, 대형 트레일러를 '하늘'로 인식해 바퀴 사이로 파고든 뒤에 사망한 운전자를 싣고 한동안 '자율주행'한 사건도 있었습니다. 문제는 이런 오류가 테슬라 주장처럼 '간단한 소프트웨어 업데이트'나 '인공지능 개선'으로 해결될 수 없는 근본적 한계를 보여준다는 점입니다.

2020년에 해커들은 간단한 실험을 통해 자율주행 자동차가 얼마나 외부 조작에 무기력한지를 보여주었습니다. 도로표지판에 테이프 하나를 붙여 테슬라를 35마일(약 56km) 제한 도로에서 85마일(약 136km)로 달리게 만든 것입니다. 2021년 7월에는 테슬라가 자랑하는 첨단 '완전자율주행' 시스템이 하늘에 뜬 달과 신호등조차 구분하지 못한다는 사실이 드러났지요. 테슬라가 고속도로에서 갑자기 속도를 줄이기 시작했는데, 도로 위에 떠 있는 달을 황색 신호등으로 인식했기 때문입니다. 차는 서행을 계속했는데, 달이 꺼지지 않고 그 자리를 지키고 있었기 때문입니다.
 
이 간판이 정지신호로 보이시나요? 테슬라의 '완전자율주행(Full Self-Driving)' 시스템이 도로의 간판과 신호등을 구분하지 못하는 오류가 발생해 논란이 되고 있습니다. Johnn Margolies
 
비슷한 시기에 테슬라가 버거킹 간판을 적색 신호등으로 보고 정지한 사례도 나왔습니다. 사실 이런 사례는 '귀여운' 편에 속합니다. 엄격한 평가로 알려진 <컨슈머리포트>지는 테슬라의 오토파일럿이 "사람이 그냥 운전하는 것보다 훨씬 위험하다"고 결론 내렸습니다. 오토파일럿에는 자동 차선변경 기능이 포함돼 있는데, 이것을 켜고 운전할 때 차가 거칠게 추월하고 끼어드는 문제가 자주 발생했습니다. 예컨대 뒤차가 빠르게 다가오고 있는데 끼어들거나, 차 간격이 좁은데도 무리하게 끼어든 뒤 브레이크를 밟는 현상이 자주 발생한 것입니다.

<컨슈머리포트>는 오토파일럿 테스트 결과를 요약하며 "운전보조기능은 운전자를 도와야 하지만, 실제로는 정반대"라고 말했습니다.
 
<컨슈머리포트>는 테슬라의 오토파일럿 시스템을 반복해서 테스트 한 뒤, '안전운행에 도리어 방해가 된다'는 결론을 내렸습니다. <로스앤젤레스타임스>는 이 보고서를 인용해 "최신 오토파일럿 기능이 사람보다 더 멍청하다"는 기사를 실었습니다. LA Times
 
한국도 '오토파일럿'과 '완전자율주행' 명칭 금지해야

문제는 테슬라의 자율주행 시스템뿐일까요? 현재 가장 뛰어난 기술을 갖췄다고 알려진 구글 웨이모는 어떨까요? 레이더와 카메라만으로 구성된 테슬라 시스템과 달리, 웨이모는 라이다(LiDAR)까지 갖추고 있습니다. 고가의 이 장치는 360도 회전하며 레이저를 쏘아 주변 상황을 3차원 지도로 만들어 주행 결정에 반영합니다. 머스크는 과거에 이 시스템을 '쓸데없는 낭비'라고 비난하며, 곧 테슬라 방식이 대세가 될 것이라고 주장했습니다. 하지만 최근 테슬라가 라이다를 부착한 차로 주행시험을 하고 있는 장면이 목격됐습니다.

그렇다면 라이다를 적용한 자율주행 기술은 가능성이 있을까요? 웨이모는 미국의 제한된 지역에서 운전석을 비워둔 채 택시운행을 하고 있습니다. 완전자율주행이 실현된 것 같지만, 현실은 그렇지 못합니다. 원격 통제 팀이 차를 실시간 모니터하면서 컴퓨터가 제어하지 못하는 상황마다 개입하고 있을 뿐 아니라, 유사시에는 현장에서 물리적으로 개입하는 '현장 해결사'들이 '자율주행 택시' 뒤를 따라다니고 있기 때문입니다. 이런 상황에서도 공사용으로 놓여 있던 안전삼각뿔 몇 개로 차가 마비돼 소동이 벌어졌습니다.

다음 글에 자세히 말씀 드리겠습니다만, 자율주행은 신기루에 불과하다는 게 뉴미디어 학자로서의 제 판단입니다. 일단 저는 한국 정부가 독일의 사례를 참고해, 테슬라가 국내 시장에서도 '오토파일럿'과 '완전자율주행'이라는 명칭을 쓰지 못하도록 해야 한다고 생각합니다. 사람 목숨은 기업의 이윤이나 경영자의 허영심보다 소중하기 때문입니다.
 
가장 발전된 시스템을 운영하는 것으로 알려진 구글의 웨이모 역시 시스템 오작동과 높은 운영비로 '자율주행 택시' 서비스를 확대하지 못하고 있습니다. 승객이 올린 영상에서 웨이모 택시는 도로에 놓인 안전 삼각뿔에 혼란스러워하다가 도로 두 차선을 모두 막은 채 정차했고, 그로 인해 뒤의 차들이 중앙선을 넘어 운행해야 했습니다. 원격조종팀이 개입했지만 차는 제대로 작동하지 않았고, 웨이모 직원이 현장에 도착해 운전대를 잡은 뒤에야 문제가 해결되었습니다.JJRicks Studios
이 기사의 좋은기사 원고료 20,000
응원글보기 원고료로 응원하기
진실과 정의를 추구하는 오마이뉴스를 후원해주세요! 후원문의 : 010-3270-3828 / 02-733-5505 (내선 0) 오마이뉴스 취재후원

독자의견


다시 보지 않기