Meta, Llama 4 Maverick 함수 호출 기능 정식 지원—JSON 스키마 강제 출력 추가
Meta가 Llama 4 Maverick 모델에 구조화된 함수 호출(Function Calling)과 JSON Schema 강제 출력(Constrained Decoding) 기능을 정식 지원한다고 발표했다. 기존에는 프롬프트 엔지니어링으로 우회해야 했던 도구 연동 워크플로를 이제 표준 API 파라미터로 직접 제어할 수 있어, 에이전트 파이프라인 구축 난도가 크게 낮아진다.
핵심 변경 사항
Meta는 Llama 4 Maverick(400B MoE 아키텍처)의 공식 추론 엔드포인트에 OpenAI 호환 tools 파라미터를 추가했다. tool_choice: required 옵션을 지정하면 모델이 반드시 지정된 함수 중 하나를 선택해 호출하도록 강제된다. 또한 response_format: { type: 'json_schema', json_schema: {...} } 파라미터로 출력 구조를 JSON Schema 수준에서 고정할 수 있어, 파싱 실패율이 기존 프롬프트 방식 대비 현장 테스트에서 평균 87% 감소한 것으로 보고됐다.
개발자 적용 포인트
- 기존 OpenAI SDK 코드 재사용 가능:
base_url을 Meta 추론 엔드포인트로 교체하면openaiPython/TypeScript 클라이언트를 그대로 사용할 수 있다. - 병렬 함수 호출 지원: 단일 요청에서 최대 8개의 함수를 병렬로 호출하는
parallel_tool_calls: true옵션이 활성화됐다. - 스트리밍 + 함수 호출 동시 지원: SSE 스트림 중에도
tool_calls델타가 청크 단위로 전달되므로 UI 반응성을 유지한 채 에이전트 루프를 구성할 수 있다. - 가격: Meta 공식 추론 API 가격 페이지 참조.
한국 개발자 활용 시나리오
국내 SaaS 스타트업이 자사 RAG 파이프라인을 오픈소스 기반으로 유지하면서도 GPT-4o 수준의 도구 연동 신뢰성을 요구하는 경우가 늘고 있다. Llama 4 Maverick의 함수 호출 정식 지원으로 LangChain·LlamaIndex 등 주요 프레임워크의 ChatOpenAI 호환 래퍼를 수정 없이 교체 적용할 수 있게 됐다. 특히 온프레미스 또는 프라이빗 클라우드 배포 환경에서 데이터 국내 잔류(data residency) 요건을 충족하면서 에이전트 기능을 구현하려는 팀에 직접적인 대안이 된다.