k
korAI
AI 뉴스 전체
📰 AI 뉴스2026-09-284분

OpenAI, o3-mini 추론 예산 동적 제어 API 정식 GA

OpenAI가 o3-mini 모델의 추론 토큰 예산을 요청별로 동적으로 지정할 수 있는 `reasoning_effort` 파라미터를 정식 출시했다. 개발자는 `low·medium·high` 세 단계 외에 정수값(1~10000)으로 최대 추론 스텝 수를 직접 제한해 비용과 응답 속도를 세밀하게 조율할 수 있다. 복잡도가 일정하지 않은 멀티스텝 에이전트 파이프라인에서 토큰 낭비를 줄이는 데 즉시 적용 가능하다.

openaiapireasoning

무엇이 달라졌나

OpenAI Chat Completions API에 reasoning_effort 파라미터가 정식 추가됐다. 기존 low / medium / high 프리셋은 그대로 유지되며, 추가로 1(최소) ~ 10000(최대) 범위의 정수를 직접 입력해 추론 스텝 상한을 제어할 수 있다. 값을 초과하는 시점에 모델은 추론을 중단하고 현재까지의 결과로 답변을 반환한다.

from openai import OpenAI
client = OpenAI()

response = client.chat.completions.create(
    model="o3-mini",
    reasoning_effort=800,   # 최대 800 스텝
    messages=[{"role": "user", "content": "피보나치 1000번째 항을 구하는 최적 알고리즘을 설명해줘"}]
)
print(response.choices[0].message.content)

비용·성능 트레이드오프

OpenAI 내부 벤치마크 기준, reasoning_effort=200 설정 시 high 프리셋 대비 입력 토큰 비용은 동일하지만 추론 토큰 사용량이 평균 63% 감소한다고 밝혔다. 단순 분류·요약 태스크에는 낮은 예산이 유효하며, 수학 증명·코드 디버깅처럼 다단계 추론이 필요한 작업은 600 이상을 권장한다. 가격은 공식 페이지 참조.

한국 개발자 활용 시나리오

  • 에이전트 라우터: 태스크 복잡도를 휴리스틱으로 분류한 뒤 reasoning_effort 값을 동적으로 할당해 월 API 비용 절감
  • CI 코드 리뷰 봇: PR 크기(변경 라인 수)에 비례해 예산을 선형 스케일링, 소규모 PR은 빠르게 처리
  • 교육 플랫폼: 학생 수준별로 힌트 생성에 투입되는 추론 깊이를 조절해 응답 시간 일관성 확보

파라미터는 오늘부터 Tier 1 이상 계정에 즉시 적용 가능하며, Azure OpenAI Service에는 2026년 10월 중 배포 예정이다.

출처: OpenAI API Changelog