Anthropic, Claude Haiku 4.5 배치 API 처리량 한도 10배 상향

변경 사항 개요

Anthropic은 2026년 9월 25일부터 Claude Haiku 4.5를 대상으로 하는 Message Batches API의 일일 처리 한도를 계정 티어별로 대폭 상향했다. 기존 Build 티어(무료)는 10만 건 → 50만 건, Scale 티어(유료)는 10만 건 → 100만 건으로 늘어났다. 배치 처리 단가는 온디맨드 대비 50% 할인 기존 정책을 유지하며, 정확한 토큰당 가격은 공식 페이지 참조.

배치 작업 하나당 최대 포함 가능한 요청 수도 5만 건 → 20만 건으로 확장되어, 단일 파일로 대량 작업을 제출하는 패턴이 한결 편해졌다.

한국 개발자에게 실질적으로 달라지는 것

콘텐츠 분류·태깅 파이프라인을 운영하는 팀은 기존에 여러 계정을 분산 사용하거나 별도 큐잉 레이어를 두어야 했던 제약이 완화된다. 예를 들어 하루 80만 개 상품 리뷰를 감성 분류하는 이커머스 스타트업이라면 단일 API 키로 작업을 완결할 수 있다.

자동 자막·번역 크리에이터 툴 측면에서는 영상 1만 편 분량의 스크립트를 야간 배치로 한 번에 처리하는 시나리오가 현실적인 비용 범위 안으로 들어온다. Haiku 4.5의 낮은 레이턴시 특성과 배치 할인이 결합되면 실시간 처리 대비 비용을 최대 60~70% 절감할 수 있다는 것이 Anthropic의 자체 벤치마크 주장이다.

주의할 점: 배치 결과 반환 시간은 여전히 최대 24시간이므로 실시간 응답이 필요한 유즈케이스에는 적합하지 않다. 또한 한도 상향은 자동 적용이 아니라 콘솔에서 Batch Limits 탭 → 상향 신청 버튼을 통해 승인 요청을 해야 한다.

적용 및 마이그레이션 가이드

기존 Batches API를 사용 중이라면 코드 변경 없이 한도 혜택을 받을 수 있다. 신규 시작 시 아래 흐름을 참고한다.

import anthropic

client = anthropic.Anthropic()

# 최대 200,000개 요청을 단일 배치로 제출 가능
batch = client.messages.batches.create(
    requests=[
        {
            "custom_id": f"req-{i}",
            "params": {
                "model": "claude-haiku-4-5",
                "max_tokens": 256,
                "messages": [{"role": "user", "content": texts[i]}],
            },
        }
        for i in range(len(texts))
    ]
)
print(batch.id)  # 결과 폴링에 사용

결과 폴링은 client.messages.batches.retrieve(batch.id)로 processing_status가 ended가 될 때까지 확인하면 된다. 공식 문서에서는 지수 백오프(최소 60초 간격) 폴링을 권장한다.