AI는 이제 우리 삶에 스며들었습니다. 모두가 AI를 사용하는 지금, 중요한 건 '무엇을 쓰느냐'가 아니라 '어떻게 쓸지'를 고민해야 합니다. 정답은 없지만, 이 탐구 생활을 통해 해법을 찾아가는 과정을 함께 나누고 함께 고민해 보고자 합니다.
▲클로드 페이블 모델을 활용해 만든 Html 게임. 모든 시스템과 구성이 명령어 한줄로 만들어졌습니다. ⓒ 신상호
이젠 프롬프트 엔지니어링(AI가 최적의 답변을 하도록 유도하는 질문의 설계)의 시대도 저물어가는 것 같습니다. 클로드코드를 개발한 보리스 체르니 총괄은 최근 인터뷰에서 "나는 더이상 프롬프트를 입력하지 않는다"고 선언했습니다.
그의 발언은 앤트로픽(Anthropic)이 새로운 AI 모델 페이블(Fable)를 출시한 시점과 맞닿아있습니다. 페이블(Fable)은 현존하는 모든 보안 시스템 해킹이 가능하다고 평가받는 미소스(Mythos) 모델에서 해킹과 탈옥 등을 못하도록 일부 기능을 편집한 모델입니다. (미국시간으로 12일 앤트로픽은 페이블 서비스 중단을 선언했습니다. 미국 정부의 명령 때문이라는데, 앤트로픽은 서비스 중단을 선언하면서도 미국 정부를 비판하고 있습니다. 이는 따로 다루겠습니다.)
AI 모델 페이블(Fable)를 써봤습니다. 게임 하나를 만들어 달라고 했는데, 구체적인 시나리오부터 게임 시스템 구축, 디자인은 물론 개발 과정에서 발생하는 버그까지도 스스로 실행하면서 잡아냅니다. 프롬프트 한 줄이면 스스로 계획을 세우고, 계획에 따라 코드를 짜고 실행하는 것입니다. 그 과정에서 오류가 발생하면 스스로 수정합니다.
지금까지는 사용자가 직접 AI에게 프롬프트를 입력하면서 작업을 지시했으나, 이제는 AI가 문맥을 파악하고 스스로 프롬프트를 작성해 다음 단계를 결정하는 시스템을 구축하면서 '루프(Loop)' 작업을 진행합니다. 이 과정에서 사람이 AI에게 어떤 질문을 해야 할 것이냐에 대한 고민은 사라지게 됩니다. 체르니 총괄이 "프롬프트를 하지 않는다"고 선언한 이유이기도 합니다. AI가 스스로 질문을 던지고 계획을 세우면서 최종 결과물까지 만들어내니까요.
우리는 그렇다면 무엇을 고민해야 할까요. 당장은 '비용'입니다. AI가 스스로 계획하고 실행하고 수정하는 모든 과정에서 토큰(token)을 더 많이 쓰게 됩니다. 페이블을 사용해본 이용자들의 공통된 경험은 실행 과정에서 토큰 소모량이 기존 모델보다 훨씬 더 많다는 것입니다. 토큰 소모량은 결국 사용자에게 청구되는 비용으로 환산됩니다. 일반 사용자들이 많이 쓰는 20달러대 구독 모델을 기준으로, 페이블을 사용하면 질문 몇 개 하지 못하고 할당 토큰을 모두 소모하게 됩니다. 무료 이용자들에게는 사실상 닫힌 문입니다. 프롬프트 엔지니어링을 고민하지 않을 정도로 AI는 눈부신 발전을 이뤘지만, 그 발전의 성과를 오롯이 누리려면 '돈'이 필요하다는 얘기입니다.
그렇다면 당장 우리가 고민해야 할 지점도 생깁니다. AI가 필요한 작업과 그렇지 않은 작업을 구분하고, 비용 소모를 줄이면서 최적화된 자신만의 루프를 개발하는 일입니다. 간단한 인터넷 검색이나 단순 반복 업무를 하는 데 있어서 고성능 AI 모델을 활용하는 것은 비용과 시간 측면에서 비효율적입니다. 아주 간단한 질문의 답을 찾는데 고성능 AI를 활용한다면, AI는 자신이 가진 모든 두뇌 기능을 풀 가동할 것이며, 그에 따라 당신이 보유한 토큰은 눈 녹듯이 사라질 것입니다.
단순하거나 반복적인 작업들은 간단한 코딩으로 자동화 도구를 한 번 만들어두면, 굳이 AI를 활용할 이유가 없습니다. 여기에서 핵심은 사용자 스스로 자신의 업무를 해부해서 어디부터가 AI에게 맡겨둘 영역인지를 구분하는 것입니다. 지금까지는 AI에게 질문을 잘 하는 사람이 AI 전문가였다면 이제는 AI를 써야 할 곳과 쓰지 않아도 될 곳을 가려내는 사람이 그 영역을 대체할 것입니다.