[태그:] Gemini Decision 1

  • AI 의사결정 API, Google Gemini의 선택·확률 평가 방식

    AI 의사결정 API, Google Gemini의 선택·확률 평가 방식

    Google은 2026년 11월 11일 Gemini Decisions API를 공개했다. Gemini API와 Google AI Studio에서 이용할 수 있는 새 엔드포인트는 Gemini Decision 1 모델을 기반으로 하며, 도구 선택과 정책 검사 같은 AI 의사결정을 제한된 후보의 확률과 신뢰도로 평가한다.

    멀티모달 입력과 문항을 한 번에 처리하는 구조

    텍스트, 이미지, 오디오, 비디오, PDF를 하나의 공유 입력으로 결합할 수 있다. 입력 한도는 최대 256K 토큰이며, 같은 입력에 최대 1,000개의 독립적인 문항을 적용할 수 있다. 이미지나 비디오의 해상도를 조절하면 시각적 상세도와 토큰 비용을 조정할 수 있고, 통화 녹음과 계정 정보 또는 스캔한 청구서와 피해 사진을 함께 판단하는 방식도 지원한다.

    입력 필드는 Interactions API의 Content block 형식을 사용한다. Gemini Decision 1은 답변 문장을 토큰별로 생성하지 않고, 후보 선택지의 점수를 한 번의 forward pass로 계산해 선택 결과와 확률을 반환한다. 이 방식은 도구 선택, 모델 라우팅, 컨텍스트 평가처럼 정해진 후보 안에서 결정을 내려야 하는 작업에 맞춰졌다.

    noul·choice·score로 조건 판단과 순위 평가

    문항은 세 가지 유형으로 나뉜다. noul은 참과 거짓 조건이 성립할 확률을 추정하며, choice는 2개에서 255개 후보 중 하나를 선택하고 후보별 정규화 확률을 반환한다. score는 0부터 시작하는 순서형 루브릭에 따라 연속 가중 점수와 등급별 확률을 계산한다. 한 요청에서는 서로 다른 유형의 문항을 섞어 같은 입력을 평가할 수 있다.

    모든 결과에는 0부터 1 사이의 confidence score가 포함된다. 애플리케이션은 이 값을 이용해 명확한 경우 자동 처리하고, 모호한 경우 대체 경로나 사람 검토자로 넘길 수 있다. 확률은 선택지와 조건별 가능성을 나타내며, confidence score는 그 결과에 대한 애플리케이션의 신뢰도 기준을 보조한다.

    저지연·저비용과 확률 보정 성능

    Google은 Gemini Decision 1의 모델 연산 median latency를 50~100밀리초, end-to-end latency를 150~250밀리초로 제시했다. 문항 수가 1개에서 100개로 늘어도 지연 시간이 거의 일정하게 유지됐으며, 멀티모달 입력과 컨텍스트는 최대 16K 토큰 범위에서 평가됐다. 벤치마크는 에이전트 라우팅, 추론, 순위 결정, 멀티모달 이해를 포괄했으며, Google은 해당 모델이 벤더 자체 평가에서 최고 성능과 가장 낮은 calibration error를 기록했다고 밝혔다. 이 수치는 독립적인 검증이 필요하다.

    요금은 100만 입력 토큰당 $0.10이며 출력 토큰은 $0이다. 공유 입력은 문항 수와 관계없이 요청당 한 번만 과금되고, 각 문항의 instructions와 criteria 토큰만 추가된다. 출력 토큰, thinking token, 별도의 오디오 전사 및 OCR 비용은 부과되지 않는다. Google은 공유 벤치마크에서 Gemini 3.5 Flash-Lite와 Interactions API 조합보다 거의 5배 저렴했다고 밝혔다.

    Google 제품에 적용된 모델 라우팅과 안전 검사

    Gemini Notebook는 Decisions API를 실시간 모델 라우터로 사용해 요청을 적절한 모델 단계와 추론 수준으로 보냈다. Google은 일상 요청을 빠르게 처리하면서 복잡한 요청에만 깊은 추론 모델을 사용해 지연 시간을 최대 40% 낮췄다고 밝혔다.

    Stitch의 rapid canvas 실험은 Decisions API로 제품 흐름의 플레이 가능한 와이어프레임을 생성하고 음성이나 탭으로 지시한 편집을 적용한다. CC는 200개가 넘는 이모지 팔레트에서 반응을 선택하며, Google Search는 MCP 도구 안전 계층에서 적대적 행동을 탐지한다. API 키는 Google AI Studio에서 발급할 수 있고, Python·JavaScript·REST 가이드와 Doorstep Parcels, Speed Sketch, Find the Zoo Keeper 데모 애플리케이션이 제공된다. OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, Pipecat, LiveKit 등과의 생태계 통합도 진행 중이다.

    Google의 Gemini Decisions API 발표에 따르면, 개발자는 API 키를 확보한 뒤 Google AI Studio에서 프로토타이핑을 시작할 수 있다.

    참고 원문

    이 기사는 다음 원문을 확인해 작성했습니다: Google Research Blog — Gemini Decisions API: Fast, calibrated multimodal decisions