OpenAI, Assistants API v2 벡터 스토어 청크 전략 커스터마이징 정식 GA

무엇이 바뀌었나

OpenAI는 2026년 9월 26일(현지 기준) Assistants API v2 벡터 스토어의 커스텀 청킹 전략(Custom Chunking Strategy) 을 정식 GA로 전환했다. 기존에는 auto 모드만 지원해 청크 크기를 OpenAI 내부 알고리즘에 일임해야 했다. 이제 static 전략을 선택하면 다음 세 파라미터를 직접 제어할 수 있다.

| 파라미터 | 범위 | 기본값 | |---|---|---| | max_chunk_size_tokens | 100 ~ 4096 | 800 | | chunk_overlap_tokens | 0 ~ 4096의 50% | 400 | | 임베딩 모델 | text-embedding-3-small / text-embedding-3-large | text-embedding-3-small |

요청 예시:

{
  "chunking_strategy": {
    "type": "static",
    "static": {
      "max_chunk_size_tokens": 512,
      "chunk_overlap_tokens": 128
    }
  },
  "model": "text-embedding-3-large"
}

한국어 개발자에게 왜 중요한가

한국어는 교착어 특성상 하나의 어절이 여러 형태소로 구성되며, 영어 기준으로 설계된 자동 청킹은 의미 단위를 잘못 분할하는 문제가 잦았다. 커스텀 청킹을 통해 짧은 청크(256~512 토큰) + 높은 오버랩(50% 이상) 조합을 선택하면 조사·어미 경계에서의 문맥 단절을 줄일 수 있다. OpenAI 내부 벤치마크에 따르면 한국어 문서 기반 QA 태스크에서 Recall@5 기준 최대 31% 향상이 보고됐다.

또한 text-embedding-3-large 모델은 다국어 표현 성능이 small 대비 유의미하게 높아, 한·영 혼용 기술 문서(API 레퍼런스, README 등)를 벡터 스토어에 올릴 때 더 적합하다. 가격은 공식 페이지 참조.

마이그레이션 및 주의사항

• 기존 auto 전략으로 생성된 벡터 스토어는 자동 변환되지 않는다. 전략 변경이 필요하면 파일을 다시 업로드하고 새 벡터 스토어를 생성해야 한다.
• 청크 오버랩이 max_chunk_size_tokens의 50%를 초과하면 API가 400 Bad Request를 반환한다.
• 벡터 스토어당 저장 가능한 파일 수(최대 10,000개)·총 용량 한도는 기존과 동일하다.
• Assistants API를 사용하지 않고 독립 임베딩 파이프라인을 구축 중인 팀은 이번 변경의 직접 영향을 받지 않는다.

커서(Cursor)나 Claude Code 기반 코드베이스 검색 보조 도구를 자체 구축 중인 팀이라면, 이번 GA를 계기로 청킹 전략을 프로젝트 언어 비율에 맞게 튜닝하는 실험을 즉시 시작할 수 있다.