앤트로픽 공식 문서의 '모델별 생각 블록 보존' 표를 보면 오푸스 4.5 이상과 소네트 4.6 이상, 페이블 5·미토스 5는 앞선 답변의 생각 블록을 대화 이력에 그대로 남기고, 오푸스 4.1 이하·소네트 4.5 이하와 하이쿠 4.5까지는 되돌려 보내도 API가 알아서 잘라내요. 남기는 쪽에서는 그 블록이 다른 대화 기록과 똑같이 컨텍스트 창을 차지하고 입력 토큰으로 청구돼서, 만들 때 출력 토큰으로 한 번 계산된 내용이 이후 요청마다 또 계산돼요. 응답에서 생각 내용을 빼는 `thinking.display` 를 써도 청구는 그대로고, 이 기본값은 최근에 바뀐 게 아니라 오푸스 4.5가 나온 2025년 11월 24일부터 적용돼 왔어요.
용어 풀이
- 생각 블록
- 모델이 답하기 전 스스로 정리한 추론 내용을 담아 돌려주는 응답 조각
- 컨텍스트 창
- 모델이 한 번에 읽을 수 있는 대화·자료의 최대 분량
- 프롬프트 캐시
- 앞서 보낸 요청의 앞부분을 서버가 재사용해 값과 시간을 줄이는 기능
- 베타 헤더
- 정식 공개 전 기능을 켜려고 요청에 붙이는 표식 값
운영자 인사이트
도구를 여러 번 부르는 긴 세션이면 컨텍스트 예산에 생각 블록을 일반 대화 기록처럼 넣어 잡으세요. 다만 공식 문서는 보존이 도구 호출 구간의 프롬프트 캐시 적중을 만들어 여러 단계 작업에서는 오히려 토큰을 아낀다고도 적어 뒀으니, 무작정 지우지 말고 남길 개수를 정한 뒤 응답에 찍히는 `cleared_input_tokens` 로 실제 절감을 재 보고 정하세요.
여러 관점으로 보기
- 기본값을 바꾸는 법 `clear_thinking_20251015` 로 남길 답변 개수를 정하거나 전부 남길 수 있고, `context-management-2025-06-27` 베타 헤더가 필요해요 — 응답에 지운 개수와 줄인 입력 토큰이 같이 찍혀요. Anthropic
- 언제부터였나 생각 블록 정리 기능은 2025년 10월 28일, 첫 보존 기본값 모델인 오푸스 4.5는 11월 24일에 나왔어요 — 올해 바뀐 동작이 아니에요. Anthropic
- 클로드 앱 쪽 사용 한도 오푸스 5에서는 생각을 아예 끌 수 없고, 노력 단계를 올릴수록 토큰을 더 써서 사용 한도에 더 빨리 닿아요. Anthropic Support