에이전트 도입 회의에서 자주 보이는 장면이 있다. 기술팀은 모델별 토큰 단가를 비교하고, 현업은 “사람 시간을 얼마나 줄이느냐”를 묻고, 재무는 월 구독료와 API 청구서를 본다. 셋 다 틀리지 않았다. 다만 셋 다 충분하지 않다.
에이전트는 챗봇보다 회계 단위가 복잡하다. 한 번의 답변이 아니라 목표 달성까지 여러 번 생각하고, 검색하고, 도구를 호출하고, 실패하면 다시 시도한다. 그래서 에이전트 경제학의 기준은 토큰당 가격이 아니다. 완료된 단위 작업당 원가다.
모델 단가는 원가의 시작일 뿐이다
최근 모델 가격표는 빠르게 바뀐다. OpenAI는 GPT-5.5 API 가격을 입력 100만 토큰당 5달러, 출력 100만 토큰당 30달러로 발표했다. Anthropic은 Claude Opus 4.5를 입력 100만 토큰당 5달러, 출력 100만 토큰당 25달러로 공개했다. 이 숫자는 중요하다. 그러나 이 숫자만으로 에이전트 원가는 계산되지 않는다.
같은 모델이라도 업무 설계에 따라 비용 구조가 달라진다. 긴 지침을 매번 붙이는지, 캐시를 쓰는지, 검색을 몇 번 허용하는지, 실패 시 재시도를 어디까지 열어두는지가 원가를 바꾼다. 모델 선택보다 하네스 설계가 더 큰 차이를 만든다.
| 보는 지표 | 부족한 이유 | AX 관점의 대체 지표 |
|---|---|---|
| 토큰 단가 | 호출 횟수와 실패 루프를 숨긴다 | 단위 작업당 총 원가 |
| 월 API 비용 | 어떤 업무가 태우는지 모른다 | 업무 유형별 원가 |
| 평균 응답 비용 | 실패한 작업을 희석한다 | 성공 작업당 원가 |
| 자동화율 | 재검토 비용을 빠뜨린다 | 검수 포함 완료 원가 |
에이전트 원가는 실패 루프에서 새어 나간다
에이전트는 실패할 때 조용히 비싸진다. 같은 요청을 다시 해석하고, 같은 문서를 다시 읽고, 비슷한 도구 호출을 반복한다. 사용자는 “조금 느리다”고 느끼지만, 운영자는 청구서에서 뒤늦게 본다.
2026년 4월 공개된 에이전틱 코딩 작업 분석 논문은 이 문제를 정면으로 보여준다. 연구진은 에이전트 작업이 코드 추론·코드 채팅보다 훨씬 많은 토큰을 쓰며, 동일 작업에서도 실행마다 토큰 사용량 편차가 크게 나타난다고 보고했다. 또한 더 많은 토큰 사용이 항상 더 높은 정확도로 이어지지 않는다고 분석했다.
에이전트 원가 관리는 “덜 쓰게 만들기”가 아니라 “완료까지 낭비되는 경로를 닫는 일”이다.
그래서 AX Ops에서는 비용을 호출 단위가 아니라 실행 경로 단위로 본다. 한 작업이 몇 단계로 쪼개졌는지, 어느 단계에서 재시도가 발생했는지, 사람 검수로 넘어간 이유가 무엇인지 추적한다. 비용 최적화는 모델 교체가 아니라 경로 제거에서 시작된다.
단위 작업 원가표가 투자 판단을 바꾼다
경영진에게 필요한 표는 모델 벤치마크 순위가 아니다. 업무별 경제성 표다. 예를 들어 “계약서 조항 검토”, “고객 문의 초안 작성”, “정산 오류 원인 탐색”처럼 실제 운영 단위로 나눈다. 그리고 각 단위 작업마다 같은 항목을 붙인다.
- 모델·툴·검색·캐시를 포함한 총 실행 원가
- 성공률과 실패 후 재시도 횟수
- 사람 검수 시간과 반려율
- SLA 충족 여부
- 같은 업무를 사람이 처리할 때의 병목 위치
이 표가 있어야 투자 논의가 바뀐다. “AI를 더 써도 되는가”가 아니라 “어떤 업무는 완전 자동화하고, 어떤 업무는 초안까지만 맡기며, 어떤 업무는 아직 하지 말아야 하는가”로 바뀐다. 이것이 에이전트 포트폴리오 의사결정이다.
참고와 다음 행동은 원가표로 모인다
에이전트 경제학은 비용 절감 슬로건이 아니다. 운영 회계의 재설계다. 단위 작업을 정의하지 않은 조직은 모델 가격이 내려가도 원가를 설명하지 못한다. 반대로 단위 작업 원가표를 가진 조직은 더 비싼 모델도 쓸 곳과 쓰지 말 곳을 구분한다.
참고:
- OpenAI, “Introducing GPT-5.5”, 2026: https://openai.com/index/introducing-gpt-5-5/
- OpenAI API Pricing, 2026 현재 가격표: https://openai.com/api/pricing/
- Anthropic, “Introducing Claude Opus 4.5”, 2025: https://www.anthropic.com/news/claude-opus-4-5
- “How Do AI Agents Spend Your Money?”, arXiv, 2026: https://arxiv.org/abs/2604.22750
- “Introducing LCOAI”, arXiv, 2025: https://arxiv.org/abs/2509.02596
AX 투자의 첫 표는 모델 비교표가 아니라 업무별 단위 원가표여야 한다. 그 표를 만드는 방식부터 운영에 붙이는 방식까지가 AX Ops의 일이다. AX Ops 방법론 →