AI 에이전트 비용 구조 분석: 토큰 단가 하락에도 요금이 오르는 이유와 과금 방식

핵심 메시지

• OpenAI 기준 저가형 모델의 토큰 단가는 2022년 100만 토큰당 약 20달러에서 2026년 수십 센트 수준으로, 2024년과 비교해도 대략 100분의 1까지 내려갔다.
• 값이 싸진 것은 '바닥'이고 최상위 프런티어 모델은 여전히 비싸지만, 에이전트 업무 대부분은 고난도 추론이 아니라 맥락 읽기·정보 찾기·행동 실행 같은 반복 작업이다.
• 에이전트는 한 번의 모델 호출이 아니라 읽고·쓰고·도구를 부르고·실패를 관찰해 다시 시도하는 연속 루프이기 때문에, 토큰이 싸져도 총비용은 오히려 늘 수 있다.
• 같은 에이전트라도 상담 봇처럼 도구 호출 한두 번으로 끝나는 경우와 코딩 에이전트처럼 파일 20개를 고치며 수십 번 모델을 호출하는 경우의 비용 차이가 매우 크다.
• 그래서 에이전트 제품은 API 호출 건수가 아니라 좌석(1인)당 요금, 작업 크레딧, 해결 건당 과금, 사용량 한도 같은 방식으로 값을 매긴다.

쉽게 이해하기

AI 모델이 6개월마다 똑똑해진다는 이야기 뒤에는 덜 주목받는 흐름이 하나 더 있다. 지능의 가격이 계속 떨어지고 있다는 사실이다. 영상은 OpenAI 모델의 공개 가격 변화를 예로 든다. 2022년 text-davinci-003은 100만 토큰당 약 20달러였지만, 2024년 GPT-4o mini는 입력 100만 토큰당 15센트·출력 60센트, 2025년 GPT-5 nano는 입력 5센트·출력 40센트였고, 2026년 현재 GPT-5.4 nano는 입력 약 20센트·출력 1.25달러 수준이다.

정리하면 '쓸 만하면서 가장 싼 모델'의 가격은 2024년 대비 대략 100배 가까이 떨어졌다. 다만 이는 가격의 바닥이 무너진 것이지 최상위 모델까지 싸졌다는 뜻은 아니다. 그런데도 이 변화가 중요한 이유는, 우리가 에이전트에게 시키는 일의 대부분이 매 순간 박사급 추론을 요구하는 작업이 아니기 때문이다. 과제를 이해하고, 필요한 정보를 찾고, 행동을 하나 취하고, 다음 단계로 넘어가는 반복 작업이 실제 업무의 큰 몫을 차지한다.

오픈 모델의 비용 곡선은 또 다르다. 영상은 Llama 3.1 8B가 입력 100만 토큰당 약 5센트·출력 8센트, 더 큰 Llama 3.3 70B가 입력 약 59센트·출력 79센트 수준이라고 소개한다. 단순한 에이전트라면 오픈 모델로 아주 싸게 굴릴 수 있다는 뜻이다. 하지만 공짜는 아니다. 호스팅과 GPU, 지연 시간과 인프라 비용은 그대로 사용자 몫으로 남는다.

핵심은 에이전트의 가격 구조가 모델 한 번 호출과 근본적으로 다르다는 점이다. 에이전트는 맥락을 읽고, 코드를 쓰고, 도구를 호출하고, 테스트를 돌리고, 실패를 확인한 뒤 다시 시도하는 과정을 반복한다. 이 루프가 얼마나 오래 도느냐에 따라 비용 편차가 극심하게 벌어진다. 고객 지원 에이전트는 도구를 한두 번만 부르고 끝날 수 있지만, 코딩 에이전트는 저장소 전체를 훑으며 파일 스무 개를 고치고 오류를 만나 테스트를 다시 돌리며 모델을 수십 번 호출하기도 한다.

이 구조 때문에 에이전트 제품의 요금제는 API처럼 호출 건수로 매겨지지 않는다. 영상이 든 사례를 보면 코딩 에이전트는 개발자 1인당 월 100~250달러대(클로드 코드 추정 150~250달러, OpenAI Codex 추정 100~200달러)로 잡히고, 지원 에이전트 Fin은 해결된 티켓 1건당 약 0.99달러, Zapier의 에이전트는 워크플로 도구로서 월 30달러 안팎, 개인 비서형 Lindy는 월 50달러대에서 시작한다. 결론은 간명하다. 모델은 확실히 싸지고 있지만, 우리가 실제로 돈을 내는 대상은 루프다.

주요 인사이트

• '토큰이 싸졌으니 AI 도입 비용도 싸진다'는 통념은 절반만 맞다. 단가는 내려가도 에이전트가 한 작업을 끝내기 위해 호출하는 횟수가 늘면 총액은 얼마든지 커진다.
• 도입 비용을 추정할 때 봐야 할 지표는 토큰 단가가 아니라 '작업 하나당 루프가 몇 바퀴 도는가'다. 같은 모델을 써도 업무 성격에 따라 비용이 자릿수 단위로 달라진다.
• 업무를 잘게 쪼개 단순 단계는 저가 모델이나 오픈 모델에 맡기고 어려운 판단만 상위 모델에 넘기는 설계가 비용 측면에서 유리하다. 다만 오픈 모델은 호스팅·GPU·지연 시간이라는 숨은 비용을 동반한다.
• 좌석당·해결 건당·크레딧 같은 과금 방식은 마케팅 전략이 아니라 비용 변동성을 공급자가 떠안기 위한 구조적 선택이다. 계약할 때 한도와 초과 요금 조건을 함께 봐야 하는 이유다.
• 코딩 에이전트가 개발자 1인당 월 100~250달러 선이라는 수치는, AI 도구 예산을 소프트웨어 구독이 아니라 인건비에 준하는 항목으로 다뤄야 함을 시사한다.

자주 묻는 질문

관련 AI 소식