▲프랑스 파리 근교 이시레물리노에 위치한 마이크로소프트 사무실에서 마이크로소프트 로고가 보이는 모습. 마이크로소프트는 인공지능에 대한 투자를 줄이고 있다.
로이터/연합뉴스
이런 경제성의 문제로 인해 인공지능에 대한 투자를 줄이는 움직임도 나타나고 있습니다. 마이크로소프트를 예로 들어 보지요. 이 회사는 오픈에이아이에 약 130억 달러를 투자하고 자체 코드의 최대 30%를 생성형 인공지능으로 작성해 왔습니다. 그리고 생산성 향상을 위해 윈도, 오피스 등 핵심 사업부문에 타사 앤트로픽의 클로드 코드를 도입해, 개발자는 물론 기획·디자인 인력까지 폭넓게 사용하도록 했습니다. 하지만 비용이 감당할 수 없는 수준으로 치솟자, 해당 부서 엔지니어들에게 클로드 코드 사용 중단을 지시하고, 더 저렴한 내부 도구(깃허브 코파일럿)를 쓰도록 했습니다.
우버는 아예 직원 1명당 인공지능 도구별 월 1500달러의 사용 한도를 설정했습니다. 월마트도 값싼 모델로 전환하고 중복 사용을 차단하는 시스템을 도입했습니다. 삼성전자도 예외는 아닙니다. 삼성전자 인사팀은 6월 15일 스마트폰·가전 등 완제품사업(DX) 부문 임원들에게 배포한 자료에 '토큰가성비'라는 새 지표를 포함시켰습니다. 두 조직이 똑같이 10명분의 노동량을 인공지능으로 대체했더라도, 토큰을 덜 쓴 쪽을 더 높게 평가하겠다는 것입니다.
인공지능 산업의 미래를 결정하는 것은 기술이 무엇을 할 수 있느냐 못지 않게, 기업이 그 비용을 감당할 수 있느냐입니다. 기술적으로 가능한 것과 그 가능성을 기업이 지속적으로 구매하는 것은 별개라는 뜻이지요. 앞서 살펴본 사례들은 이제 기업들이 기술적 가능성만이 아니라 비용 대비 효과를 따지기 시작했음을 보여 줍니다. 막연한 기대에서 냉엄한 현실로 이동하고 있는 것이지요.
지금은 초기투입 비용 시기일 뿐, 앞으로 나아질까?
이런 반론이 가능할 겁니다. 지금은 초기 투자 단계여서 비용이 높을 뿐, 시간이 지나 인프라가 구축되면 가격은 자연스럽게 낮아지고 도입도 가속화되지 않겠느냐고요.
실제로 대형언어모델의 추론 비용은 계속 하락해 왔고, 가트너는 2030년까지 1조 파라미터급 모델의 추론 비용이 2025년 대비 90% 이상 낮아질 것으로 전망합니다. 하지만 이 단가 하락이 인공지능 운영비 감소를 뜻하지는 않는다고 가트너는 강조합니다. 에이전트형 인공지능처럼 고도화된 서비스일수록 훨씬 많은 토큰을 소모하기 때문에, 토큰당 단가가 떨어져도 총비용은 오히려 늘어날 수 있습니다.
또 하나의 구조적 문제는 인공지능 인프라의 빠른 감가상각입니다. 아마존, 구글, 메타, 마이크로소프트 등 빅테크 기업들은 인공지능을 위한 하드웨어의 수명을 5~6년으로 잡습니다. 하지만 이 수명을 지나치게 길게 잡고 있다는 비판을 받습니다.
예컨대 프린스턴대 정보기술정책센터 연구팀은 칩의 실제 유효수명을 1~3년으로 추산합니다. 인공지능 데이터센터의 칩은 높은 발열 때문에 수명이 상대적으로 짧고, 경쟁력을 위해 더 많은 데이터를 더 빨리 처리하도록 하드웨어 교체 주기도 빠르기 때문입니다. 하드웨어 교체가 잦을 수록 반도체 수요는 높아지지만, 그만큼 비용도 커져 인공지능 서비스 수요를 위협하는 딜레마가 발생합니다.
따라서 인공지능 산업에서는 '시간이 지나면 비용이 해결될 것'이라는 기존 산업의 경험이 그대로 적용되지 않을 가능성이 큽니다. 에너지 비용 상승, 상수도 고갈, 소음, 고열 등 사회적 비용에 대한 갈등도 더욱 커질 것입니다. 이로 인해 미국의 경우, 거주지 인근에 인공지능 데이터 센터를 건설하는 데 반대한다는 여론이 70%가 넘습니다.
여기서 한 가지 의문이 남습니다. 고객들이 막대한 가격을 지불하고 있으니, 인공지능 기업들은 막대한 이익을 올리고 있을까요? 현실은 정반대입니다. 고객은 비싼 가격을 지불하고 있지만, 정작 그 수익을 올리는 인공지능 기업들은 대규모 적자를 벗어나지 못하고 있으니까요.
다음 글에서는 이 역설의 실체를 살펴보겠습니다. 이를 통해 지금 한국 사회의 인공지능 낙관론이 얼마나 현실적 근거 위에 서 있는지 함께 따져보려 합니다.
저작권자(c) 오마이뉴스(시민기자), 무단 전재 및 재배포 금지
오탈자 신고