OpenAI, o3-mini 추론 모델에 스트리밍 함수 호출 정식 지원

무엇이 바뀌었나

OpenAI는 2026년 9월 21일부로 o3-mini 모델의 Chat Completions API에서 stream: true와 tools 파라미터를 동시에 전달할 수 있도록 지원 범위를 확장했다. 이전까지 o3-mini는 추론(chain-of-thought) 과정 특성상 스트리밍 응답 도중 툴 콜 델타를 올바르게 처리하지 못해, 개발자들이 스트리밍을 포기하거나 GPT-4o로 우회해야 했다.

핵심 스펙 및 제한

• 지원 모델: o3-mini (medium·high reasoning effort 모두)
• API 엔드포인트: POST /v1/chat/completions — 기존 파라미터 구조 동일
• 병렬 툴 콜: 최대 16개 함수 동시 스트리밍 델타 수신 가능
• reasoning_effort: low 설정 시 스트리밍 지연 평균 340ms, high 설정 시 첫 토큰 지연 평균 1.2초 (OpenAI 내부 벤치마크 기준)
• 가격: 공식 페이지 참조
• 제한: o3(풀 사이즈) 및 o1 계열은 아직 미지원, 별도 일정 공지 예정

한국 개발자·크리에이터 활용 포인트

이번 업데이트는 실시간 AI 에이전트를 구축하는 개발자에게 직접적인 영향을 준다. 예를 들어 사용자 질의를 받아 DB 조회·외부 API 호출·결과 요약을 순차적으로 수행하는 파이프라인에서, 기존에는 o3-mini의 추론 품질을 포기하고 GPT-4o를 써야 했다. 이제 추론 능력을 유지하면서 UI에 스트리밍 피드백을 줄 수 있다.

# 스트리밍 + 함수 호출 동시 사용 예시
from openai import OpenAI
client = OpenAI()

stream = client.chat.completions.create(
    model="o3-mini",
    reasoning_effort="medium",
    messages=[{"role": "user", "content": "서울 날씨 알려줘"}],
    tools=[{"type": "function", "function": {"name": "get_weather", ...}}],
    stream=True
)
for chunk in stream:
    print(chunk.choices[0].delta)

LangChain, LlamaIndex 등 주요 오케스트레이션 프레임워크는 당일 패치를 배포할 예정이며, Vercel AI SDK는 v4.3.1 이상에서 자동 지원된다.