Guida alla memorizzazione delle richieste di Claude Fable 5.2: Riduci il costo delle conversazioni lunghe
Scopri come funziona la cache dei prompt di Claude Fable 5.2, quando i TTL di 5 minuti o 1 ora sono convenienti, cosa invalida una cache e come verificare i risparmi.

La memorizzazione nella cache del prompt riduce il costo e la latenza dell'elaborazione ripetuta di un prefisso di prompt invariato. È particolarmente utile quando un'applicazione riutilizza un lungo prompt di sistema, un catalogo di strumenti, un documento di riferimento, il contesto di un codebase o la cronologia di una conversazione.
Per Claude Fable 5.2, Anthropic elenca l'input standard a $8 per milione di token, una scrittura in cache di cinque minuti a $10, una scrittura di un'ora a $16 e letture dalla cache a $0,20. Il basso tasso di lettura può generare grandi risparmi, ma solo se il prefisso viene riutilizzato prima che la cache scada e rimane compatibile byte per byte con le regole della cache.
L'economia di base
Supponiamo che 500.000 token stabili vengano utilizzati in quattro richieste.
Senza caching
0.5 × $8 × 4 = $16
Caching di cinque minuti
- Scrittura iniziale:
0.5 × $10 = $5 - Tre letture:
0,5 × $0,20 × 3 = $0,30 - Totale prefisso in cache: $5.30
Il suffisso specifico della richiesta e gli output vengono fatturati separatamente. Questo esempio presuppone che tutte e tre le chiamate successive colpiscano la cache entro il TTL.
La scrittura di cinque minuti costa 1,25 volte l'input base, quindi un riutilizzo è solitamente sufficiente per recuperare il premio di scrittura. La scrittura di un'ora costa il doppio dell'input base: una lettura successiva è leggermente più costosa che elaborare il prefisso due volte senza cache, mentre due o più letture generano risparmi.
Caching automatico o esplicito?
Anthropic consiglia la cache automatica come punto di partenza per la maggior parte delle applicazioni. Aggiungi il controllo della cache a livello superiore e lascia che l'API gestisca un punto di interruzione man mano che la conversazione cresce.
from anthropic import Anthropic
client = Anthropic()
= client.messages.create(
model="claude-fable-5-2",
max_tokens=4096,
cache_control={"type": "effimero", "ttl": "5m"},
system="Stai revisionando un ampio corpus di politiche...",
messages=[{"role": "utente", "content": "Trova conflitti che influenzano i rimborsi."}],
)
I punti di interruzione espliciti sono utili quando hai bisogno di un controllo preciso su strumenti, istruzioni di sistema, documenti o blocchi di messaggi. Mantieni prima il contenuto stabile e per ultimo il contenuto volatile.
Verifica la firma corrente dell'SDK prima di distribuire; la denominazione delle funzionalità può variare in base alla versione dell'SDK e alla piattaforma cloud.
Cosa appartiene al prefisso memorizzato nella cache?
Buoni candidati:
- Istruzioni stabili per sistema e policy
- Documenti di riferimento di grandi dimensioni utilizzati in diverse domande
- Definizioni di strumenti riutilizzate da un agente
- Codice di base canonico o contesto del prodotto
- Turni di conversazione precedenti che rimangono invariati
- Immagini, documenti, chiamate agli strumenti e risultati degli strumenti supportati dalle regole di caching
Candidati scadenti:
- Un breve prompt utilizzato una volta
- Dati utente che cambiano frequentemente
- Risultati in diretta che devono essere aggiornati a ogni turno
- Un catalogo di strumenti ricostruito in un ordine diverso
- Contesto la cui autorità o validità è scaduta
Perché i cache hit scompaiono
Una cache è sensibile al prefisso. Le modifiche prima di un punto di interruzione possono invalidare il contenuto successivo. Le cause comuni includono:
- Modifica del prompt di sistema o di un messaggio precedente
- Riordinare o ridefinire gli strumenti
- Modifica dello sforzo di primo livello
- Passaggio tra velocità standard e veloce
- Aggiungere o rimuovere immagini nei messaggi precedenti
- Modifica della configurazione dell'output strutturato
- Attivazione/disattivazione delle funzionalità che modificano il prompt di sistema
- Modificare i blocchi di pensiero preservati o il loro contesto precedente
Su piattaforme supportate, lo sforzo per messaggio e le modifiche agli strumenti a metà conversazione possono preservare un prefisso esistente aggiungendo nuovo contenuto di sistema anziché riscrivere i campi delle richieste precedenti.
Blocchi di pensiero e caching
I blocchi di pensiero non possono essere contrassegnati direttamente con cache_control, ma il pensiero preservato nei turni precedenti dell'assistente può far parte di un prefisso memorizzato nella cache. Ripassalo invariato. Modificare i turni precedenti può invalidare sia il blocco di pensiero che la cache.
Cambiare lo sforzo può anche modificare il prompt risolto. Se un'applicazione alterna lo sforzo a ogni turno, la cache potrebbe risparmiare meno del previsto.
Concorrenza e riscaldamento
Una nuova voce nella cache diventa disponibile dopo l'inizio della prima risposta. Se molte richieste parallele vengono lanciate simultaneamente, potrebbero tutte fallire. Riscalda il prefisso con una richiesta, attendi che la voce esista, poi distribuisci le chiamate dipendenti.
L'elaborazione batch può anche combinarsi con la memorizzazione nella cache, e i modificatori di prezzo si accumulano. Modella la fattura completa piuttosto che applicare ogni sconto al prezzo originale in modo indipendente.
Verifica piuttosto che presumere
Ispeziona l'utilizzo della risposta:
cache_creation_input_tokenscache_read_input_tokens- Token di input non memorizzati nella cache
Se i valori di creazione e lettura rimangono a zero, il prompt potrebbe essere troppo breve, la configurazione potrebbe non essere supportata su quella rotta, oppure il prefisso potrebbe non corrispondere. Crea una dashboard per il tasso di hit, letture per scrittura, token risparmiati e risparmi dopo i premi di scrittura.
Una checklist per la cache in produzione
- Identificare i prefissi riutilizzati almeno due volte all'interno del TTL.
- Metti il contenuto stabile prima del contenuto dinamico.
- Scegli cinque minuti per un'interazione densa; un'ora per un riutilizzo dilazionato.
- Riscaldare prima del fan-out parallelo.
- Mantieni l'ordine degli strumenti e le definizioni stabili.
- Evita di modificare vecchi turni di conversazione.
- Monitora i campi di utilizzo effettivo.
- Scadere o versionare deliberatamente il materiale di riferimento obsoleto.
Domande frequenti
La memorizzazione nella cache dei prompt riduce l'uso della finestra di contesto?
No. I token memorizzati occupano ancora la finestra di contesto di un milione di token.
Una cache di un'ora è sempre migliore?
No. Ha un costo di scrittura più elevato. Usalo quando il riutilizzo è distanziato oltre i cinque minuti e si verifica un numero sufficiente di volte per recuperare il premio.
Posso combinare la memorizzazione nella cache con i prezzi dell'API Batch?
Sì, dove supportato; i modificatori si accumulano. La modalità veloce, tuttavia, non è disponibile nei Lotti di Messaggi.

















































































































