Guide de mise en cache des prompts Claude Fable 5.2 : Réduisez le coût des longues conversations
Apprenez comment fonctionne la mise en cache des invites de Claude Fable 5.2, quand les TTL de 5 minutes ou 1 heure sont rentables, ce qui invalide un cache et comment vérifier les économies.

La mise en cache des prompts réduit le coût et la latence du traitement répété d'un préfixe de prompt inchangé. Elle est particulièrement utile lorsqu'une application réutilise un long prompt système, un catalogue d'outils, un document de référence, un contexte de code source ou un historique de conversation.
Pour Claude Fable 5.2, Anthropic liste l'entrée standard à 8 $ par million de tokens, une écriture de cache de cinq minutes à 10 $, une écriture d'une heure à 16 $, et les lectures de cache à 0,20 $. Le faible taux de lecture peut générer d'importantes économies, mais seulement si le préfixe est réutilisé avant l'expiration du cache et reste compatible octet par octet avec les règles de cache.
L'économie de base
Supposons que 500 000 jetons stables soient utilisés dans quatre requêtes.
Sans mise en cache
0,5 × 8 $ × 4 = 16 $
Mise en cache de cinq minutes
- Écriture initiale :
0,5 × 10 $ = 5 $ - Trois lectures :
0,5 × 0,20 $ × 3 = 0,30 $ - Total du préfixe mis en cache : 5,30 $
Le suffixe spécifique à la requête et les sorties sont facturés séparément. Cet exemple suppose que les trois appels ultérieurs atteignent le cache dans le délai de vie (TTL).
L'écriture de cinq minutes coûte 1,25 fois l'entrée de base, donc une réutilisation suffit généralement pour récupérer la prime d'écriture. L'écriture d'une heure coûte deux fois l'entrée de base : une lecture ultérieure est légèrement plus coûteuse que de traiter le préfixe deux fois sans cache, tandis que deux lectures ou plus génèrent des économies.
Mise en cache automatique ou explicite ?
Anthropic recommande la mise en cache automatique comme point de départ pour la plupart des applications. Ajoutez un contrôle de cache de haut niveau et laissez l'API gérer un point d'arrêt à mesure que la conversation s'allonge.
from anthropic import Anthropic
client = Anthropic()
= client.messages.create(
model="claude-fable-5-2",
max_tokens=4096,
cache_control={"type": "éphémère", "ttl": "5m"},
system="Vous examinez un vaste corpus de politiques...",
messages=[{"role": "utilisateur", "content": "Trouvez les conflits affectant les remboursements."}],
)
Les points d'arrêt explicites sont utiles lorsque vous avez besoin d'un contrôle précis sur les outils, les instructions système, les documents ou les blocs de messages. Gardez le contenu stable en premier et le contenu volatile en dernier.
Vérifiez la signature actuelle du SDK avant le déploiement ; la dénomination des fonctionnalités peut différer selon la version du SDK et la plateforme cloud.
Qu'est-ce qui appartient au préfixe mis en cache ?
Bons candidats :
- Instructions système et politiques stables
- Documents de référence volumineux utilisés pour plusieurs questions
- Définitions d'outils réutilisées par un agent
- Contexte canonique du codebase ou du produit
- Tours de conversation précédents qui restent inchangés
- Images, documents, appels d'outils et résultats d'outils pris en charge par les règles de mise en cache
Candidats médiocres :
- Une courte invite utilisée une fois
- Données utilisateur fréquemment modifiées
- Résultats en direct qui doivent être actualisés à chaque tour
- Un catalogue d'outils reconstruit dans un ordre différent
- Contexte dont l'autorité ou la validité a expiré
Pourquoi les hits de cache disparaissent
Un cache est sensible au préfixe. Les modifications avant un point d'arrêt peuvent invalider le contenu ultérieur. Les causes courantes incluent :
- Modification de l'invite système ou d'un message antérieur
- Réorganisation ou redéfinition des outils
- Modification de l'effort de niveau supérieur
- Passage entre la vitesse standard et la vitesse rapide
- Ajout ou suppression d'images dans les messages précédents
- Modification de la configuration de sortie structurée
- Activation/désactivation des fonctionnalités qui modifient le prompt système
- Modifier les blocs de pensée préservés ou leur contexte précédent
Sur les plateformes prises en charge, l'effort par message et les changements d'outils en cours de conversation peuvent préserver un préfixe existant en ajoutant un nouveau contenu système plutôt qu'en réécrivant les champs de requête précédents.
Blocs de réflexion et mise en cache
Les blocs de réflexion ne peuvent pas être marqués directement avec cache_control, mais la réflexion conservée dans les tours précédents de l'assistant peut faire partie d'un préfixe mis en cache. Renvoyez-le inchangé. La modification des tours précédents peut invalider à la fois le bloc de réflexion et le cache.
Changer l'effort peut également modifier le prompt résolu. Si une application alterne l'effort à chaque tour, le cache peut économiser moins que prévu.
Concurrence et préchauffage
Une nouvelle entrée de cache devient disponible après le début de la première réponse. Si de nombreuses requêtes parallèles sont lancées simultanément, elles peuvent toutes manquer la cible. Préchauffez le préfixe avec une requête, attendez que l'entrée existe, puis déployez les appels dépendants.
Le traitement par lots peut également se combiner avec la mise en cache, et les modificateurs de prix s'empilent. Modélisez la facture complète plutôt que d'appliquer chaque réduction au prix d'origine de manière indépendante.
Vérifier plutôt que supposer
Inspecter l'utilisation des réponses :
cache_creation_input_tokenscache_read_input_tokens- Jetons d'entrée non mis en cache
Si les valeurs de création et de lecture restent à zéro, l'invite est peut-être trop courte, la configuration n'est peut-être pas prise en charge sur cette route, ou le préfixe ne correspond peut-être pas. Créez un tableau de bord pour le taux de succès, les lectures par écriture, les jetons économisés et les économies après les primes d'écriture.
Une checklist de mise en cache en production
- Identifiez les préfixes réutilisés au moins deux fois dans le TTL.
- Placez le contenu stable avant le contenu dynamique.
- Choisissez cinq minutes pour une interaction dense ; une heure pour une réutilisation espacée.
- Réchauffer avant le fan-out parallèle.
- Gardez l'ordre des outils et les définitions stables.
- Évitez de modifier les anciens tours de conversation.
- Surveillez les champs d'utilisation réels.
- Expirer ou versionner délibérément les documents de référence obsolètes.
Questions fréquemment posées
Le cache de prompt réduit-il l'utilisation de la fenêtre de contexte ?
Non. Les tokens mis en cache occupent toujours la fenêtre de contexte d’un million de tokens.
Un cache d'une heure est-il toujours meilleur ?
Non. Il a un coût d'écriture plus élevé. Utilisez-le lorsque la réutilisation est espacée de plus de cinq minutes et se produit suffisamment de fois pour récupérer la prime.
Puis-je combiner la mise en cache avec la tarification de l'API Batch ?
Oui, là où c'est pris en charge ; les modificateurs s'empilent. Le mode rapide, cependant, n'est pas disponible dans les lots de messages.
















































































































