Anthropic, Claude Haiku 4.5 프롬프트 캐싱 TTL 5분→1시간으로 대폭 연장

변경 내용 요약

Anthropic은 2026년 9월 22일(UTC) 공식 문서 업데이트를 통해 Claude Haiku 4.5의 프롬프트 캐싱(Prompt Caching) TTL(Time-To-Live) 을 기존 5분에서 1시간(3,600초) 으로 연장한다고 밝혔다. 동일 캐시 키로 1시간 이내에 재요청이 발생하면 캐시 읽기(cache read) 비용만 청구되며, 캐시 쓰기(cache write) 비용은 1회만 부과된다. Claude Sonnet 4.6·Opus 4.7의 TTL 정책은 변경 없이 기존 유지된다.

개발자·크리에이터에게 미치는 영향

비용 절감 시나리오

• 1만 토큰짜리 시스템 프롬프트를 시간당 500회 호출하는 서비스 기준, TTL 5분일 때는 500회 중 약 420회가 캐시 미스(매 5분마다 재기록). TTL 1시간으로 늘어나면 동일 구간에서 캐시 기록은 1회뿐이므로 입력 토큰 비용 최대 90% 절감 가능.
• 가격 세부 내역은 공식 페이지 참조.

적합한 사용 패턴

| 패턴 | TTL 연장 효과 | |---|---| | 대형 RAG 청크를 시스템 프롬프트에 포함 | 높음 | | 멀티턴 고객지원 챗봇 | 높음 | | 1회성 요약·분류 배치 | 낮음 |

코드 변경 없이 적용: 기존 cache_control 블록을 그대로 사용하면 자동으로 연장된 TTL이 적용된다. SDK 버전 업그레이드 불필요.

# 기존 코드 그대로 사용 가능 — TTL은 서버 측에서 자동 1시간 적용
messages = client.messages.create(
    model="claude-haiku-4-5",
    system=[
        {
            "type": "text",
            "text": system_prompt,
            "cache_control": {"type": "ephemeral"}
        }
    ],
    ...
)

운영 시 주의사항

1. 캐시 무효화 조건: 시스템 프롬프트 텍스트가 1바이트라도 바뀌면 캐시 키가 달라져 재기록 비용 발생. 프롬프트 버전 관리를 엄격히 할 것.
2. 동시성 주의: 여러 서버 인스턴스가 동일 캐시 키를 1시간 내 최초 호출하는 경우 각각 캐시 쓰기가 중복 발생할 수 있음. 콜드 스타트 직후 트래픽 스파이크 구간은 모니터링 권장.
3. Haiku 4.5 전용: Sonnet 4.6·Opus 4.7에는 동일 TTL이 적용되지 않으므로, 모델 혼용 아키텍처에서는 모델별 캐시 전략을 분리 설계할 것.