Claude Fable 5.2 배치 API 튜토리얼: 대규모 작업을 저렴한 비용으로 처리하기
Claude Fable 5.2와 Message Batches API를 사용하여 표준 토큰 요금의 50%로 비동기 문서 분석, 코드 리뷰 및 평가를 수행하세요.

메시지 배치 API는 즉각적인 응답이 필요하지 않은 작업을 위한 경제적인 경로입니다. Anthropic은 현재 Claude Fable 5.2 배치 입력 및 출력에 대해 표준 요금의 50%를 청구합니다: $8 및 $40 대신 백만 토큰당 $4 및 $20입니다.
배칭은 더 빠른 대화형 모드가 아닙니다. 배치 하나는 최대 24시간이 소요될 수 있으며, 결과는 스트림이 아닌 파일 형태로 도착하고, 각 요청은 독립적으로 매칭, 검증, 재시도될 수 있도록 설계되어야 합니다.
배치 처리에 적합한 워크로드
- 고정된 루브릭에 대해 수천 개의 프롬프트 평가하기
- 문서 컬렉션에서 필드 분류 또는 추출
- 독립적인 코드 변경 사항 검토
- 오프라인 연구 요약 생성
- 콘텐츠 아카이브의 메타데이터 생성 중
- 과거 지원 케이스 재처리
- 모델 마이그레이션 비교 실행 중
사람이 기다리고 있거나, 이후 요청이 이전 응답에 의존하거나, 도구가 빠르게 변화하는 외부 시스템과 상호작용해야 하는 경우 배치를 피하세요.
각 요청을 독립적인 단위로 설계하세요
모든 요청에는 고유한 custom_id가 필요합니다. 서비스는 제출 순서와 다르게 결과를 반환할 수 있으므로 배열 위치로 일치시키지 마십시오.
from anthropic import Anthropic
client = Anthropic()
batch = client.messages.batches.create(
requests=[
{
"custom_id": "contract_0001",
"params": {
"model": "claude-fable-5-2",
"max_tokens": 2048,
"messages": [{
"role": "사용자",
"content": "종료일을 추출하고 관련 조항을 인용하십시오."
}],
},
},
{
"custom_id": "contract_0002",
"params": {
"model": "claude-fable-5-2",
"max_tokens": 2048,
"messages": [{
"role": "사용자",
"content": "종료일자를 추출하고 관련 조항을 인용하십시오."
}],
},
},
]
)
실제 워크플로우에서는 적절한 문서 내용이나 파일 참조를 포함하고, custom_id를 소스, 버전, 예상 스키마, 권한에 연결하는 매니페스트를 유지하십시오.
처리 수명 주기
- 로컬에서 요청을 검증하세요.
- 배치를 제출하세요.
- 배치 ID와 입력 매니페스트를 저장합니다.
- 적절한 간격으로 투표하거나 지원되는 상태 워크플로를 사용하세요.
- 처리 종료 후 결과를 다운로드하세요.
- 각 결과를
custom_id로 매칭하세요. - 성공, 오류, 만료, 취소 및 거부된 항목을 분리합니다.
- 다운스트림 쓰기 전에 출력을 검증하세요.
- 실패 정책이 허용하는 항목만 재시도하십시오.
5개 항목이 실패했다고 전체 배치를 다시 제출하지 마십시오. 성공한 작업과 비용이 두 배로 늘어납니다.
요청 설계를 변경하는 제한 사항
Anthropic의 현재 API 참조는 Message Batch에서 최대 100,000개의 요청을 허용하며, 고유한 custom_id 값은 1~64자의 문자를 지원합니다. 자체 Batch API 요청 크기 제한은 256MB입니다.
여러 동기화 옵션이 지원되지 않습니다:
stream: truespeed/ 빠른 모드- 서버 측
fallbacks - 일반 배치 처리에서
max_tokens: 0
현재 문서를 기준으로 검증하세요. 한도 및 지원되는 매개변수는 변경될 수 있습니다.
거절을 기술적 오류와 별도로 처리하세요
거절은 일시적인 인프라 오류가 아닙니다. 동일한 항목을 무기한 재시도하면 비용이 낭비되고 안전 경계를 우회하려는 시도가 될 수 있습니다. 제품에 따라 더 안전한 도움을 제공하거나, 인간 검토로 전환하거나, 문서화된 대체 정책을 사용하세요.
529 오버로드, 잘못된 형식의 요청, 거부는 각각 다른 조치가 필요합니다. 상위 수준의 항목 상태와 상세 결과를 모두 저장하세요.
배치 처리와 프롬프트 캐싱을 신중하게 결합하세요
반복되는 안정적인 컨텍스트(예: 긴 루브릭이나 정책 매뉴얼)는 지원되는 경우 캐시될 수 있습니다. Batch는 50% 할인을 적용하며, 캐싱은 자체 배율을 사용합니다. 접두사를 안정적으로 유지하고 실제 사용량 필드를 사용하여 절감액을 확인하세요.
병렬 배치 항목이 아직 생성되지 않은 캐시에 모두 적중한다고 가정하지 마십시오. 문서화된 캐싱 동작에 따라 워크플로를 준비하거나 구성하십시오.
품질 관리 패턴
추출 작업의 경우:
- 지원되는 경우 구조화된 출력 또는 엄격한 스키마를 사용하세요.
source_id와 증거 필드를 포함하세요.- 필수 필드와 열거형을 로컬에서 검증합니다.
- 인간 검토를 위해 승인된 샘플 출력물.
- 낮은 증거 기록을 추측하지 않고 두 번째 검토로 보냅니다.
평가를 위해:
- 가능한 경우 모델 정체성을 블라인드 처리합니다.
- 프롬프트 및 루브릭 버전을 유지하십시오.
- 노력, 도구 및 최대 토큰을 기록하세요.
- 배치 결과를 대화형 프리미엄 속도 경로와 비교할 때는 차이점을 명시하지 않고 비교하지 마십시오.
자주 묻는 질문
Claude 배치 작업은 얼마나 걸리나요?
Anthropic은 배치 처리에 최대 24시간이 소요될 수 있다고 밝혔습니다. 실제 시간은 변동되므로, 평균값을 기준으로 사용자에게 지연 시간을 약속하지 마십시오.
Fable 5.2 빠른 모드를 일괄 처리에 사용할 수 있나요?
아니요. 빠른 모드는 동기 출력 지연 시간을 최적화하며 메시지 배치에서는 지원되지 않습니다.
배치가 항상 더 저렴한가요?
토큰당 요금은 낮지만, 검증 부족, 중복 재시도, 불필요한 Fable 사용으로 인해 여전히 낭비가 발생할 수 있습니다. 품질 기준을 충족하는 경우 간단한 대량 작업은 더 저렴한 모델로 라우팅하세요.


















































































































