프록시로 실제 요청을 기록한 측정에서 클로드 코드(Claude Code)는 사용자 질문을 읽기도 전에 시스템 지침과 도구 설명서로 약 3만3천 토큰을 보내는데, 오픈코드(OpenCode)는 약 7천 토큰만 보내 4.7배 차이가 났어요. 대부분은 도구 27개의 설명서(약 2만4천 토큰)가 차지했고, 클로드 코드는 세션 도중 앞부분을 자주 바꿔 캐시 쓰기가 최대 54배 많아 요금이 더 붙었어요. 다만 다른 모델에선 격차가 3.3배로 줄고, 클로드 코드가 도구 호출을 몰아 처리해 요청 수를 줄이는 점, 공통 앞부분은 캐시로 싸지는 점 때문에 총비용 차이는 상황에 따라 달라져요.
용어 풀이
- 토큰(token)
- AI가 글을 처리하고 요금을 매길 때 세는 최소 단위. 영어는 대략 한 단어가 1~2개.
- 프롬프트 캐싱(prompt caching)
- 매 요청마다 똑같이 들어가는 앞부분을 저장해 재사용하며 요금을 크게 깎는 기능. 저장(쓰기)엔 웃돈이, 재사용(읽기)엔 큰 할인이 붙음.
- 시스템 프롬프트(system prompt)
- 사용자 입력 전에 미리 넣어 두는 AI 행동 지침.
- 도구 정의(tool schema)
- AI가 쓸 수 있는 기능(파일 읽기·명령 실행 등)의 이름과 사용법 설명서. 개수가 많을수록 토큰을 많이 차지함.
운영자 인사이트
토큰 낭비는 캐시로 상당 부분 상쇄되지만, 하위 에이전트를 많이 띄우면 매번 3만 토큰짜리 앞부분을 새로 실어 요금·사용 한도가 급증해요. 그래서 MCP 서버와 지침 파일을 늘릴수록 공통 앞부분이 캐시로 잘 재사용되는지, 하위 에이전트를 남발하고 있지 않은지부터 점검하는 게 실속 있어요.
여러 관점으로 보기
- 원문 측정 프록시로 요청을 직접 기록해 클로드 코드 약 3만3천 대 오픈코드 약 7천 토큰(4.7배), 캐시 쓰기 최대 54배 차이를 제시해요. Systima
- 커뮤니티 반박 댓글에선 공통 앞부분은 캐시 읽기로 10배 싸다는 반론과, 하위 에이전트가 캐시 이점을 깨 예산을 태운다는 실사용 경험이 함께 나와요. Hacker News
- 독립 재현 다른 도구(파이 포함)·다른 모델로 다시 재봐도 방향은 같지만, 캐싱과 도구 기능을 빼고 토큰 수만 보면 오해한다고 짚어요. Cdani's Blog