Tutoriel de l'API Batch Claude Fable 5.2 : Traitez de gros volumes de travail à moindre coût
Utilisez Claude Fable 5.2 avec l'API Message Batches pour l'analyse asynchrone de documents, la revue de code et les évaluations à 50 % des tarifs standard des tokens.

L'API de lots de messages est la voie économique pour les travaux qui ne nécessitent pas de réponse immédiate. Anthropic facture actuellement Claude Fable 5.2 en entrée et sortie par lots à 50 % des tarifs standards : 4 $ et 20 $ par million de jetons au lieu de 8 $ et 40 $.
Le traitement par lots n'est pas un mode interactif plus rapide. Un lot peut prendre jusqu'à 24 heures, les résultats arrivent sous forme de fichier plutôt que de flux, et chaque requête doit être conçue pour pouvoir être appariée, validée et relancée de manière indépendante.
Charges de travail adaptées au traitement par lots
- Évaluation de milliers de prompts par rapport à une grille d'évaluation fixe
- Classer ou extraire des champs à partir de collections de documents
- Révision des modifications de code indépendantes
- Création de résumés de recherche hors ligne
- Génération des métadonnées pour une archive de contenu
- Retraitement des dossiers de support historiques
- Exécution des comparaisons de migration de modèles
Évitez le traitement par lots lorsqu'une personne attend, que les requêtes ultérieures dépendent des réponses précédentes, ou que les outils doivent interagir avec un système externe en évolution rapide.
Concevoir chaque requête comme une unité autonome
Chaque requête nécessite un custom_id unique. Le service peut renvoyer les résultats dans un ordre différent de celui de la soumission, ne vous fiez donc jamais à la position dans le tableau.
from anthropic import Anthropic
client = Anthropic()
batch = client.messages.batches.create(
requêtes=[
{
"custom_id": "contract_0001",
"params": {
"model": "claude-fable-5-2",
"max_tokens": 2048,
"messages": [{
"role": "utilisateur",
"content": "Extraire les dates de résiliation et citer les clauses pertinentes."
}],
},
},
{
"custom_id": "contract_0002",
"params": {
"model": "claude-fable-5-2",
"max_tokens": 2048,
"messages": [{
"role": "utilisateur",
"content": "Extraire les dates de résiliation et citer les clauses pertinentes."
}],
},
},
]
)
Dans un flux de travail réel, incluez le contenu documentaire approprié ou les références de fichiers et conservez un manifeste liant custom_id à la source, la version, le schéma attendu et les autorisations.
Le cycle de vie du traitement
- Valider les requêtes localement.
- Soumettre le lot.
- Stockez l'ID du lot et le manifeste d'entrée.
- Interrogez à un intervalle raisonnable ou utilisez le flux de travail de statut pris en charge.
- Téléchargez les résultats une fois le traitement terminé.
- Faites correspondre chaque résultat par
custom_id. - Séparez les éléments réussis, en erreur, expirés, annulés et refusés.
- Valider la sortie avant les écritures en aval.
- Réessayer uniquement les éléments dont la politique d’échec le permet.
Ne soumettez pas à nouveau un lot entier parce que cinq éléments ont échoué. Cela double le travail réussi et le coût.
Limites qui modifient la conception des requêtes
La référence API actuelle d'Anthropic permet jusqu'à 100 000 requêtes dans un lot de messages, avec des valeurs custom_id uniques de 1 à 64 caractères pris en charge. La limite de taille de requête de l'API Batch propriétaire est de 256 Mo.
Plusieurs options synchrones ne sont pas prises en charge :
stream: truespeed/ Mode rapidefallbackscôté serveurmax_tokens : 0dans le traitement par lots normal
Valider par rapport à la documentation actuelle car les limites et les paramètres pris en charge peuvent changer.
Traiter les refus séparément des erreurs techniques
Un refus n'est pas une erreur d'infrastructure transitoire. Réessayer indéfiniment le même élément gaspille de l'argent et peut tenter de contourner une limite de sécurité. Selon le produit, proposez une aide plus sûre, orientez vers un examen humain ou utilisez une politique de repli documentée.
Une surcharge 529, une requête malformée et un refus nécessitent des actions différentes. Stockez à la fois l'état de l'élément de haut niveau et le résultat détaillé.
Combinez le Batch avec la mise en cache des invites de manière réfléchie
Un contexte stable et répété—comme une longue rubrique ou un manuel de politique—peut être mis en cache là où c'est pris en charge. Batch applique sa remise de 50 % et la mise en cache utilise ses propres multiplicateurs. Gardez le préfixe stable et utilisez les champs d'utilisation réels pour confirmer les économies.
Ne supposez pas que tous les éléments d’un lot parallèle atteignent un cache qui n’a pas encore été créé. Préchauffez ou structurez le workflow conformément au comportement de mise en cache documenté.
Modèle de contrôle qualité
Pour les tâches d'extraction :
- Utilisez des sorties structurées ou un schéma strict lorsque cela est pris en charge.
- Inclure les champs
source_idet de preuve. - Valider localement les champs obligatoires et les énumérations.
- Exemples de sorties acceptées pour examen humain.
- Acheminer les enregistrements à faible niveau de preuve vers un second passage plutôt que de deviner.
Pour les évaluations :
- Masquer l'identité du modèle lorsque c'est possible.
- Conserver les versions de l'invite et de la grille d'évaluation.
- Enregistrer l'effort, les outils et le nombre maximal de jetons.
- Ne comparez pas les résultats par lots avec un itinéraire premium interactif à grande vitesse sans noter la différence.
Questions fréquemment posées
Combien de temps prend un lot Claude ?
Anthropic indique que les lots peuvent prendre jusqu'à 24 heures. Le temps réel varie, donc ne construisez pas de promesses de latence visibles par l'utilisateur autour d'une moyenne.
Le mode rapide de Fable 5.2 peut-il être utilisé par lots ?
Non. Le mode rapide optimise la latence de sortie synchrone et n'est pas pris en charge dans les lots de messages.
Le Batch est-il toujours moins cher ?
Les tarifs par token sont plus bas, mais une mauvaise validation, des tentatives en double et une utilisation inutile de Fable peuvent encore générer du gaspillage. Acheminez les tâches simples en masse vers un modèle moins cher lorsqu'il répond aux critères de qualité.
















































































































