Anthropic, Claude Haiku 4.5 배치 API 처리량 한도 5배 상향—비용 구조 개편
Anthropic이 Claude Haiku 4.5 모델의 배치(Batch) API 처리량 한도를 기존 대비 5배 높이고, 대용량 처리 시 추가 할인을 적용하는 가격 구조 개편을 오늘 공식 발표했다. 반복적인 텍스트 분류, 코드 리뷰 자동화, 대규모 콘텐츠 파이프라인을 운영하는 팀에게 직접적인 비용 절감 효과가 기대된다.
변경 내용 핵심 수치
Anthropic 공식 발표 기준, Claude Haiku 4.5 Batch API의 주요 변경 사항은 다음과 같다.
| 항목 | 변경 전 | 변경 후 | |---|---|---| | 단일 배치 최대 요청 수 | 10,000건 | 50,000건 | | 배치당 최대 토큰 합계 | 200M | 1B | | 결과 반환 SLA | 24시간 | 12시간 | | 대용량 할인 적용 기준 | 없음 | 월 10B 토큰 초과분 |
가격 단가 및 대용량 할인율은 공식 페이지 참조. 기존 Batch API 사용자는 별도 설정 없이 자동으로 새 한도가 적용된다.
어떤 워크플로에 실질적 이득이 있나
코드 리뷰 자동화: GitHub PR이 대량으로 쌓이는 조직에서 Claude Haiku 4.5를 diff 분류·요약에 쓸 때, 기존에는 하루 한 번 배치를 쪼개 실행해야 했다. 이제 단일 배치로 처리 가능해 파이프라인 복잡도가 줄어든다.
콘텐츠 파이프라인: 미디어·이커머스 플랫폼에서 상품 설명 생성, 태깅, 번역을 배치로 돌릴 때 1B 토큰 한도는 중소 규모 플랫폼의 하루치 트래픽을 단일 배치로 커버할 수 있는 수준이다.
비용 예측 가능성: 실시간 API 대비 배치 API는 이미 저렴하게 책정되어 있으며, 이번 대용량 할인 구조 추가로 월 처리량이 클수록 단가가 낮아지는 볼륨 인센티브가 생긴다. 스타트업 초기엔 실시간 API로 시작하다가 트래픽이 늘면 배치로 전환하는 아키텍처 전략이 더욱 유효해졌다.
마이그레이션 체크리스트
기존 Batch API 사용자라면 즉시 조치할 사항은 없다. 다만 새 한도를 최대로 활용하려면 다음을 확인하자.
- SDK 버전 업데이트:
anthropicPython SDK 0.32.0 이상, TypeScript SDK 0.28.0 이상 필요. max_tokens_per_request파라미터 재검토—배치 전체 합계 한도가 늘었으므로 개별 요청 토큰 상한을 조정해 처리량 극대화 가능.- 결과 폴링 주기 조정: SLA가 12시간으로 단축됐으므로 기존 24시간 간격 크론잡을 절반으로 줄이면 레이턴시 개선 효과를 바로 체감할 수 있다.
- 공식 Anthropic Console의 Usage 대시보드에서 월간 토큰 합계를 확인해 대용량 할인 적용 여부를 사전 점검할 것.