앤트로픽이 8월 14일 클로드 코드 세션에서 토큰이 어디로 새는지 공식 블로그로 정리했는데, 원론이 아니라 명령과 숫자가 붙어 있어요 — 나가는 토큰은 들어오는 토큰의 약 5배 값이고, 프롬프트 캐시 읽기는 입력값의 0.1배지만 1시간짜리 캐시 쓰기는 2배예요. `/loop` 는 걸어 둔 세션에서 한 턴으로 돌아 그 대화 전체를 매번 다시 싣고 1시간이 지났으면 캐시 실패까지 얹히니, 다른 터미널에 새 세션을 띄워 거기서 돌리라고 해요. 그 밖에 파일은 이름을 말하지 말고 @로 한 번만 붙이기, 되돌릴 땐 캐시를 깨는 `/compact` 대신 `/rewind`, 1M 모델에서 사라진 자동 압축 안전망은 `/autocompact 200k`(v2.1.221 이상)로 되돌리기를 권해요.
용어 풀이
- 프롬프트 캐시
- 앞서 보낸 대화 앞부분을 서버에 저장해 두고 다시 보낼 때 값을 깎아 주는 장치
- 1M 모델
- 한 번에 100만 토큰까지 담는 큰 맥락 창을 가진 모델
- 사용량 크레딧
- 구독 한도를 다 쓴 뒤 추가 요금으로 이어서 쓰게 해 주는 결제 방식
- ENABLE_PROMPT_CACHING_1H
- 프롬프트 캐시 수명을 1시간으로 유지시키는 환경변수
운영자 인사이트
바로 손볼 건 셋이에요 — `/loop` 는 본 세션 말고 딴 터미널에서, 파일은 @로 한 번만, 사용량 크레딧을 쓰는 중이면 `ENABLE_PROMPT_CACHING_1H=1` 로 5분으로 줄어든 캐시를 1시간으로 되돌리기. 다만 해커뉴스 121점 토론에서 가장 많이 나온 말은 '이걸 사람이 손으로 관리하라면 사용자 잘못이 아니라 제품 잘못'이었어요.
여러 관점으로 보기
- 공식 권고 일이 바뀌면 `/clear`, 자리 비우기 전 `/compact`, 시끄러운 명령엔 조용 플래그나 서브에이전트를 권해요. Anthropic
- 실사용 반론 `/clear` 뒤에도 맥락이 새어 새 세션이 캐시를 온전히 못 맞춘다는 신고와, 40만 토큰 세션에서 캐시 쓰기가 설명 없이 200만까지 튀었다는 보고가 달렸어요. Hacker News
- 공식 문서가 더 정확한 대목 캐시 수명은 구독이 1시간인데 사용량 크레딧을 쓰기 시작하면 5분으로 떨어지고, `ENABLE_PROMPT_CACHING_1H=1` 을 주면 크레딧 중에도 1시간을 유지해요. Claude Code Docs