Meta, Llama 4 Scout 함수 호출 API 정식 GA — JSON 스키마 강제 준수
Meta가 Llama 4 Scout 모델에 함수 호출(Function Calling) 기능을 정식 GA로 전환하며, 응답이 지정된 JSON 스키마를 100% 준수하도록 강제하는 Constrained Decoding을 기본 활성화했다. 기존 프롬프트 엔지니어링으로 구조화 출력을 유도하던 방식 대비 파싱 오류율이 크게 줄어, 에이전트 파이프라인 안정성을 높이려는 한국 개발자에게 직접적인 이점을 제공한다.
무엇이 달라졌나
Meta는 2026년 9월 26일, Llama 4 Scout의 함수 호출 API를 정식 GA로 전환했다. 이번 업데이트의 핵심은 Constrained Decoding 기본 활성화다. 개발자가 tools 파라미터에 JSON Schema를 전달하면, 모델은 해당 스키마를 벗어나는 토큰을 생성 단계에서 원천 차단한다. 기존 Few-shot 프롬프트 방식 대비 스키마 위반 응답 비율이 내부 벤치마크 기준 0.3% 미만으로 감소했다고 Meta는 밝혔다.
동시에 병렬 함수 호출(Parallel Tool Use) 도 공식 지원한다. 단일 턴에서 최대 8개의 함수를 동시 호출할 수 있어, 외부 API를 순차 호출하던 에이전트 코드를 리팩터링하면 레이턴시를 크게 줄일 수 있다.
스펙 및 가격
| 항목 | 수치 | |---|---| | 최대 동시 함수 호출 수 | 8개 | | 스키마 위반율 (내부 기준) | < 0.3% | | 컨텍스트 윈도우 | 128K 토큰 | | API 가격 | 공식 페이지 참조 |
Self-hosted 환경(Ollama, vLLM 등)에서도 동일 기능을 사용할 수 있다. vLLM v0.7.x 이상에서 --enable-prefix-caching 플래그와 함께 guided_decoding_backend=outlines 옵션을 지정하면 Constrained Decoding이 활성화된다.
한국 개발자 적용 포인트
1. 기존 파서 코드 제거 가능
try/except로 감싼 JSON 파싱 재시도 로직을 상당 부분 걷어낼 수 있다. 단, 중첩 깊이가 5단계 이상인 복잡한 스키마는 아직 공식 지원 범위 외이므로 스테이징 환경에서 검증을 권장한다.
2. LangChain / LlamaIndex 연동
LangChain llama-integration 패키지 0.3.4 버전부터 Scout GA API를 자동 인식한다. ChatMeta 클래스에서 model="llama-4-scout" 지정 후 .bind_tools()를 호출하면 Constrained Decoding이 투명하게 적용된다.
3. 오픈소스 활용 전략 Llama 4 Scout는 가중치가 공개되어 있어, 온프레미스 배포 시 데이터 주권 이슈 없이 함수 호출 파이프라인을 구성할 수 있다. 금융·의료 등 규제 산업의 국내 팀에게 특히 유리한 옵션이다.