Claude Fable 5.2 프롬프트 캐싱 가이드: 긴 대화 비용 절감하기
Claude Fable 5.2 프롬프트 캐싱이 어떻게 작동하는지, 5분 또는 1시간 TTL이 언제 효과적인지, 캐시를 무효화하는 요소와 절감 효과를 확인하는 방법을 알아보세요.

프롬프트 캐싱은 변경되지 않은 프롬프트 접두사를 반복적으로 처리하는 비용과 지연 시간을 줄여줍니다. 애플리케이션이 긴 시스템 프롬프트, 도구 카탈로그, 참조 문서, 코드베이스 컨텍스트 또는 대화 기록을 재사용할 때 가장 유용합니다.
Claude Fable 5.2의 경우, Anthropic은 표준 입력을 백만 토큰당 8달러, 5분 캐시 쓰기를 10달러, 1시간 쓰기를 16달러, 캐시 읽기를 0.20달러로 책정했습니다. 낮은 읽기 요금은 큰 비용 절감 효과를 가져올 수 있지만, 캐시가 만료되기 전에 접두사가 재사용되고 캐시 규칙과 바이트 단위로 호환되어야만 가능합니다.
기본 경제학
500,000개의 스테이블 토큰이 네 번의 요청에 사용된다고 가정합니다.
캐싱 없이
0.5 × $8 × 4 = $16
5분 캐싱
- 초기 쓰기:
0.5 × $10 = $5 - 세 번 읽기:
0.5 × $0.20 × 3 = $0.30 - 캐시된 프리픽스 합계: $5.30
요청별 접미사와 출력은 별도로 청구됩니다. 이 예시는 세 번의 후속 호출이 모두 TTL 내에 캐시에 적중한다고 가정합니다.
5분 쓰기는 기본 입력의 1.25배 비용이 들므로, 일반적으로 한 번의 재사용으로 쓰기 프리미엄을 회수할 수 있습니다. 1시간 쓰기는 기본 입력의 두 배 비용이 듭니다. 이후 한 번의 읽기는 캐시되지 않은 상태에서 접두사를 두 번 처리하는 것보다 약간 더 비싸지만, 두 번 이상 읽으면 비용 절감 효과가 발생합니다.
자동 캐싱 또는 명시적 캐싱?
Anthropic은 대부분의 애플리케이션에서 자동 캐싱을 시작점으로 권장합니다. 최상위 캐시 제어를 추가하고 API가 대화가 길어짐에 따라 중단점을 관리하도록 하세요.
from anthropic import Anthropic
client = Anthropic()
= client.messages.create(
model="claude-fable-5-2",
max_tokens=4096,
cache_control={"type": "일시적인", "ttl": "5m"},
system="당신은 방대한 정책 문서를 검토하고 있습니다...",
messages=[{"role": "사용자", "content": "환불에 영향을 미치는 충돌을 찾습니다."}],
)
명시적 중단점은 도구, 시스템 지침, 문서 또는 메시지 블록에 대한 정밀한 제어가 필요할 때 유용합니다. 안정적인 콘텐츠를 먼저 유지하고 변동성이 큰 콘텐츠는 마지막에 배치하세요.
배포 전에 현재 SDK 서명을 확인하세요. 기능 이름은 SDK 버전과 클라우드 플랫폼에 따라 다를 수 있습니다.
캐시된 접두사에 포함되는 것은 무엇인가요?
좋은 후보자:
- 안정적인 시스템 및 정책 지침
- 여러 질문에 걸쳐 사용되는 대형 참조 문서
- 에이전트가 재사용하는 도구 정의
- 정식 코드베이스 또는 제품 컨텍스트
- 변경되지 않은 이전 대화 턴
- 캐싱 규칙에서 지원하는 이미지, 문서, 도구 호출 및 도구 결과
부적격 후보자:
- 한 번 사용되는 짧은 프롬프트
- 자주 변경되는 사용자 데이터
- 매 턴마다 새로고침해야 하는 실시간 결과
- 다른 순서로 재구성된 도구 카탈로그
- 권한이나 유효성이 만료된 컨텍스트
캐시 히트가 사라지는 이유
캐시는 접두사에 민감합니다. 중단점 이전의 변경 사항은 이후 콘텐츠를 무효화할 수 있습니다. 일반적인 원인은 다음과 같습니다.
- 시스템 프롬프트 또는 이전 메시지 편집
- 도구 재정렬 또는 재정의
- 최상위 노력 변경
- 표준 속도와 고속 속도 간 전환
- 이전 메시지에서 이미지 추가 또는 제거
- 구조화된 출력 구성 변경
- 시스템 프롬프트를 수정하는 기능 전환
- 보존된 사고 블록 또는 그 앞의 맥락을 변경하는 것
지원되는 플랫폼에서는 메시지별 노력과 대화 중간 도구 변경을 통해 이전 요청 필드를 다시 작성하는 대신 새로운 시스템 콘텐츠를 추가하여 기존 접두사를 유지할 수 있습니다.
사고 블록과 캐싱
cache_control으로 사고 블록을 직접 표시할 수는 없지만, 이전 어시스턴트 턴에서 보존된 사고는 캐시된 접두사의 일부가 될 수 있습니다. 변경하지 않고 그대로 전달하세요. 이전 턴을 편집하면 사고 블록과 캐시가 모두 무효화될 수 있습니다.
노력을 변경하면 해결된 프롬프트도 변경될 수 있습니다. 애플리케이션이 매 턴마다 노력을 번갈아 가며 사용하면 캐시가 예상보다 적게 저장될 수 있습니다.
동시성 및 워밍업
첫 번째 응답이 시작된 후에 새로운 캐시 항목을 사용할 수 있게 됩니다. 여러 병렬 요청이 동시에 시작되면 모두 캐시 미스가 발생할 수 있습니다. 하나의 요청으로 접두사를 워밍업하고, 항목이 존재할 때까지 기다린 후, 종속 호출을 분산하세요.
일괄 처리는 캐싱과 결합될 수도 있으며, 가격 조정 수정자가 누적됩니다. 각 할인을 원래 가격에 독립적으로 적용하는 대신 전체 청구서를 모델링하세요.
가정보다는 검증
사용량 검사:
cache_creation_input_tokenscache_read_input_tokens- 캐시되지 않은 입력 토큰
생성 및 읽기 값이 0으로 유지되는 경우, 프롬프트가 너무 짧거나, 해당 경로에서 구성이 지원되지 않거나, 접두사가 일치하지 않을 수 있습니다. 히트율, 쓰기당 읽기 수, 절약된 토큰, 쓰기 프리미엄 이후 절감액에 대한 대시보드를 구축하세요.
프로덕션 캐싱 체크리스트
- TTL 내에서 최소 두 번 재사용된 접두사를 식별하십시오.
- 동적 콘텐츠 앞에 안정적인 콘텐츠를 배치하세요.
- 밀도 높은 상호작용을 위해 5분을 선택하고, 간격을 두고 재사용하기 위해 1시간을 선택하세요.
- 병렬 팬아웃 전에 워밍업하세요.
- 도구 순서와 정의를 안정적으로 유지하십시오.
- 오래된 대화 내용을 편집하지 마세요.
- 실제 사용량 필드를 모니터링하세요.
- 참조 자료를 의도적으로 만료시키거나 버전을 구식으로 만듭니다.
자주 묻는 질문
프롬프트 캐싱이 컨텍스트 윈도우 사용을 줄이나요?
아니요. 캐시된 토큰은 여전히 백만 토큰 컨텍스트 창을 차지합니다.
1시간 캐시가 항상 더 나은가요?
아니요. 쓰기 비용이 더 높습니다. 재사용 간격이 5분 이상이고 프리미엄을 회수할 수 있을 만큼 충분히 발생할 때 사용하세요.
캐싱을 배치 API 가격과 결합할 수 있나요?
네, 지원되는 경우 수정자가 중첩됩니다. 단, 빠른 모드는 메시지 배치에서 사용할 수 없습니다.


















































































































