Claude Fable 5.2 批次 API 教學:以更低成本處理大量工作負載
使用 Claude Fable 5.2 搭配 Message Batches API 進行非同步文件分析、程式碼審查與評估,僅需標準 Token 費用的 50%。

訊息批次 API 是針對不需要即時回應的工作所設計的經濟路線。Anthropic 目前對 Claude Fable 5.2 的批次輸入與輸出收費為標準費率的 50%:每百萬個代幣收費 4 美元與 20 美元,而非 8 美元與 40 美元。
批次處理並非更快的互動模式。一個批次最多可能需要24小時,結果會以檔案而非串流方式送達,且每個請求都必須設計成可獨立進行比對、驗證及重試。
適合批次處理的工作負載
- 根據固定評分標準評估數千個提示
- 從文件集合中分類或提取欄位
- 審查獨立的程式碼變更
- 建立離線研究摘要
- 正在為內容存檔產生元數據
- 重新處理歷史支援案例
- 執行模型遷移比較
當有人在等待時,應避免批次處理,因為後續請求依賴於先前的回應,或者工具必須與快速變化的外部系統互動。
將每個請求設計為獨立單元
每個請求都需要一個唯一的 custom_id。服務可能會以與提交順序不同的方式回傳結果,因此切勿根據陣列位置進行比對。
from anthropic import Anthropic
client = Anthropic()
batch = client.messages.batches.create(
requests=[
{
"custom_id": "contract_0001",
"params": {
"model": "claude-fable-5-2",
"max_tokens": 2048,
"messages": [{
"role": "使用者",
"content": "提取終止日期並引用相關條款。"
}],
},
},
{
"custom_id": "contract_0002",
"params": {
"model": "claude-fable-5-2",
"max_tokens": 2048,
"messages": [{
"role": "使用者",
"content": "提取終止日期並引用相關條款。"
}],
},
},
]
)
在實際工作流程中,請包含適當的文件內容或檔案參考,並保留一份清單,將 custom_id 連結至來源、版本、預期結構及權限。
處理生命週期
- 在本地端驗證請求。
- 提交批次。
- 儲存批次 ID 和輸入清單。
- 在合理的時間間隔進行投票,或使用支援的狀態工作流程。
- 處理完成後下載結果。
- 根據
custom_id比對每個結果。 - 將成功、錯誤、過期、取消和拒絕的項目分開。
- 在寫入下游之前驗證輸出。
- 僅重試其失敗策略允許的項目。
不要因為五個項目失敗就重新提交整個批次。這樣會使成功的工作量和成本加倍。
限制條件如何改變請求設計
Anthropic 目前的 API 參考文件允許在一個訊息批次中最多 100,000 個請求,支援 1 到 64 個字元的唯一 custom_id 值。第一方批次 API 的請求大小限制為 256 MB。
不支援多個同步選項:
stream: truespeed/ 快速模式- 伺服器端
fallbacks max_tokens: 0在一般批次處理中
根據當前文件進行驗證,因為限制和支援的參數可能會變更。
將拒絕處理與技術錯誤分開處理
拒絕並非暫時性的基礎設施錯誤。無限期重試同一項目不僅浪費金錢,還可能試圖規避安全邊界。根據產品不同,應提供更安全的協助、轉由人工審核,或採用已記錄的備援政策。
529 超載、格式錯誤的請求以及拒絕需要不同的處理方式。請同時儲存高層級的項目狀態與詳細結果。
將批次處理與提示快取進行審慎結合
重複的穩定上下文(例如長篇指南或政策手冊)可在支援處快取。批次處理適用其50%折扣,而快取則使用其自身的倍數。保持前綴穩定,並使用實際使用量欄位來確認節省。
不要假設並行批次項目都會命中尚未建立的快取。請根據文件說明的快取行為來預熱或建構工作流程。
品質控制模式
針對提取作業:
- 在支援的情況下使用結構化輸出或嚴格的架構。
- 包含
source_id與證據欄位。 - 在本機端驗證必填欄位與列舉值。
- 供人工審核的樣本接受輸出。
- 將低證據記錄引導至第二輪審查,而非進行猜測。
針對評估:
- 盡可能隱藏模型身份。
- 保留提示與評分標準的版本。
- 記錄努力、工具與最大令牌數。
- 請勿在未註明差異的情況下,將批次結果與互動式高速路線進行比較。
常見問題
Claude 批次需要多久時間?
Anthropic 表示批次處理最多可能需要 24 小時。實際時間會有所變動,因此請勿根據平均值來對使用者做出延遲承諾。
Fable 5.2 快速模式可以批次使用嗎?
不支援。快速模式可優化同步輸出延遲,但在訊息批次中不支援此功能。
批次處理一定比較便宜嗎?
每個 token 的費率較低,但驗證不佳、重複重試以及不必要的 Fable 使用仍可能造成浪費。當簡單的大量工作符合品質標準時,將其導向較便宜的模型。


















































































































