Anthropic, Claude Sonnet 4.6 배치 API에 우선순위 큐 도입

변경 내용 요약

Anthropic은 Claude Sonnet 4.6을 대상으로 Message Batches API에 priority 파라미터를 신규 도입했다. 기존 배치 API는 단일 큐로 운영되어 피크 타임에 처리 완료까지 최대 24시간이 소요됐다. 이번 업데이트로 두 가지 처리 등급이 생겼다.

| 등급 | 파라미터 값 | 평균 처리 시간 | 비용 배율 | |------|------------|--------------|----------| | 표준 | "standard" | 최대 24시간 | 1× (기존 동일) | | 고속 | "expedited" | 평균 2시간 | 2× |

가격 세부 수치는 공식 페이지 참조.

왜 크리에이터·개발자에게 중요한가

배치 API는 동기(Synchronous) API 대비 토큰당 비용이 최대 50% 저렴하여 대량 문서 요약, 코드 분석, 번역 파이프라인에 주로 활용된다. 그러나 기존의 불확실한 처리 시간은 SLA가 있는 B2B 서비스에 적용하기 어렵게 만들었다. Expedited 등급은 비용 절감과 일정 수준의 처리 시간 보장을 동시에 확보하려는 팀을 위한 중간 선택지다.

import anthropic

client = anthropic.Anthropic()

batch = client.messages.batches.create(
    requests=[
        {
            "custom_id": f"req-{i}",
            "params": {
                "model": "claude-sonnet-4-6",
                "max_tokens": 1024,
                "messages": [{"role": "user", "content": docs[i]}]
            }
        }
        for i in range(len(docs))
    ],
    priority="expedited"  # 신규 파라미터
)
print(batch.id, batch.processing_status)

적용 범위 및 제한 사항

• 지원 모델: Claude Sonnet 4.6 전용 (Claude Opus 4.7·Haiku 4.5 확대 적용 일정 미공개)
• 배치 크기: 요청당 최대 10,000개 레코드 제한 (기존과 동일)
• expedited 등급도 실시간 API와 달리 스트리밍 응답은 지원하지 않음
• Expedited SLA는 평균값 기준이며 최대 처리 시간은 보장되지 않음

한국 팀 적용 가이드

1. 야간 비동기 파이프라인: standard 유지로 비용 최적화
2. 당일 처리 필요 업무(법률 문서 요약, 영상 자막 번역 등): expedited 전환 검토
3. SDK 버전: anthropic-python >= 0.35.0 이상에서 priority 파라미터 지원 확인 후 업그레이드