Google DeepMind, Gemini 2.5 Flash 컨텍스트 캐시 TTL 최대 72시간으로 연장

Context Caching TTL 연장의 실질적 의미

Gemini API의 Context Caching는 반복 요청에서 동일한 프리픽스 토큰을 서버에 저장해 재연산 비용을 줄이는 기능이다. 기존 TTL 상한(3600초)은 야간 배치 작업이나 장시간 세션에 적합하지 않았다. 이번 업데이트로 TTL을 최대 259,200초(72시간)까지 설정할 수 있으며, 과금 방식은 다음과 같다.

| 항목 | 기존 | 변경 후 | |---|---|---| | 최대 TTL | 3,600초 | 259,200초 | | 캐시 저장 비용 | 분당 과금 | 분당 과금 (동일) | | 캐시 히트 입력 토큰 단가 | 공식 페이지 참조 | 공식 페이지 참조 |

캐시 저장 자체에는 소액의 분당 보관 비용이 발생하므로, 요청 빈도가 낮은 캐시를 72시간 유지하는 것이 항상 유리하지는 않다. 시간당 최소 요청 수를 계산해 손익분기를 확인해야 한다.

적용 대상 모델 및 최소 토큰 요건

• 지원 모델: gemini-2.5-flash (안정 버전), gemini-2.5-flash-lite
• 최소 캐시 가능 토큰: 1,024 토큰 이상의 프리픽스
• 미지원: Gemini 2.5 Pro의 경우 TTL 상한은 별도 공지 예정

한국 개발자 마이그레이션 체크리스트

1. 기존 캐시 생성 코드 수정: ttl 파라미터를 초 단위 정수로 명시. 미지정 시 기본값은 600초로 변동 없음.
2. 비용 시뮬레이션: Google AI Studio의 Token Calculator에서 캐시 보관 비용 vs. 재입력 비용을 비교
3. 캐시 무효화 전략: 코드베이스 스냅숏 캐시는 PR 머지 이벤트(GitHub Actions 웹훅)를 트리거로 삼아 강제 갱신하도록 설계 권장

import google.generativeai as genai

cache = genai.caching.CachedContent.create(
    model="gemini-2.5-flash",
    system_instruction="...",  # 1,024 토큰 이상
    ttl=259200,  # 72시간
)
model = genai.GenerativeModel.from_cached_content(cache)

Vertex AI SDK를 사용하는 경우도 동일한 ttl 필드가 적용되며, 서울 리전(asia-northeast3) 정식 지원 여부는 공식 리전 문서에서 확인이 필요하다.