跳到正文
首页 博客 角色 友联 图库 关于
返回首页

一次请求问 1000 个问题:Gemini Decisions API 把「判断」从生成里拆了出来

大模型回答一个问题,要一个字一个字往外蹦。可很多场景根本不需要"说",只需要"判":这句话该走哪个模型、这条评论要不要拦、这个工单该给谁、这张图有没有安全隐患。

谷歌 11 月 11 日上线的 Gemini Decisions API,就是把这件"判"的事单独拿出来做成一个接口。它不生成文字,只给选择题打分,输出还不要钱。

它到底做了什么

官方说法是:一次请求,给它一份共享输入(文本、图片、音频、视频、PDF 混着放,最多 256K token),再给它最多 1000 个互相独立的问题。模型不逐 token 解码,而是在一次前向传递里给所有候选选项打分,直接返回概率和置信度。

支持三种问法:

  • noul(是/否):某个条件成立的概率,可以额外给"成立/不成立"的描述标准。
  • choice(多选一):2 到 255 个选项,返回胜出项,以及所有候选的归一化概率。
  • score(有序评分):按你给的评分标准(从 0 开始)打连续分,并给出每一档的概率。

每个答案都带一个 0 到 1 的置信度。这一点在实际工程里比准确率更实用:分数低就转人工或走备用分支,不用让模型硬猜。

价格和延迟:这次真正值得看的地方

项目官方口径
输入价格每 100 万 token 0.10 美元
输出价格0(不计输出 token)
计费方式共享输入每请求只收一次钱;每个问题只加自己的指令和标准 token
模型计算延迟中位数 50–100 毫秒(16K token 以内的多模态上下文)
端到端延迟150–250 毫秒
并发问题数1 个问题和 100 个问题耗时几乎一样
对比官方称在共享基准集上比 Gemini 3.5 Flash-Lite 走 Interactions API 便宜近 5 倍

"输出免费"这句容易被读成营销话术,但放在决策模型上其实说得通:它压根不生成,也就不存在思维 token 那种账单刺客。官方还明确说不单独收音频转录和 OCR 的费用。

需要说清楚的是:上面的价格、延迟、基准排名都来自谷歌官方博客,是厂商口径,我们没有账号、也没有做本地实测,不能当成第三方验证过的结论。

一个请求,三种问法

官方给的最小例子是检查休息室吧台:一张照片加一句说明,同时问"有没有没擦的液体""该采取哪种清理动作""脏乱程度几分"。三种问法混在同一个请求里:

from google import genai

client = genai.Client(http_options={"api_version": "v1beta"})
result = client.decisions.create(
    model="gemini-decision-1",
    input=[
        {"type": "image", "uri": "...spill.jpg", "mime_type": "image/jpeg"},
        {"type": "text", "text": "早上 9 点客户会议前的吧台检查。"},
    ],
    questions={
        "has_spill": {
            "type": "noul",
            "instructions": "吧台上是否有未清理的液体溢出?",
        },
        "next_action": {
            "type": "choice",
            "instructions": "哪种清理措施最适合当前场景?",
            "criteria": {
                "wipe_with_cloth": "吧台少量溢出,附近已有抹布。",
                "dispatch_janitorial": "地面大面积危险、碎玻璃或持续漏水。",
                "ready_for_meeting": "吧台干净,已准备就绪。",
            },
        },
        "severity": {
            "type": "score",
            "instructions": "评估吧台脏乱的严重程度。",
            "criteria": ["干净且准备就绪。", "轻微的局部溢出。", "重大溢出或安全隐患。"],
        },
    },
)

输入用的是 Content block 格式,和 Interactions API 一致,所以已经在那套接口上写过代码的人迁移成本不高。官方文档提供了 Python、JavaScript 和 REST 三种写法,AI Studio 里有免费额度可以先试原型。

谷歌自己拿它干什么

  • Gemini Notebook 的模型路由:提问一进来先判意图,简单问题走轻量模型,官方称日常查询延迟最多降 40%,复杂任务再交给深度思考模型。
  • Stitch 的快速画布:几秒生成可点击的产品流程图,语音或点按修改近乎即时生效。
  • CC 的 emoji 选择:从 200 多个表情里一秒内挑出合适的那个。
  • Google 搜索的 MCP 工具安全层:在延迟预算内识别对抗性内容和对抗评估。

这四个例子的共同点是:本来要训一个分类器,或者等一次生成,现在改成"把选项写清楚,让模型打分"。

放在我们这种小团队里怎么用

下面这些是打算做、还没验证的想法,不是实测结论:

  • 文章自动归档:新稿进来,用 choice 从现有分类里选一个,置信度低于阈值就留着人工定。
  • 评论审核:noul 判"是否包含广告或攻击性内容",比正则稳,比整段生成便宜。
  • 自动化流程分诊:n8n 里原来靠 if 节点堆规则的,可以换成一次打分,把"该走哪条分支"变成 3 选 1。
  • 表单分诊:合作、投稿、报错混在一个入口时,先判类型再分派。

不适合用它做什么

  • 需要写字的地方:它只打分,不产出内容。摘要、回复、文案还是得走生成模型。
  • 开放式问题:选项写不出来,就没法用。
  • 把置信度当保险:置信度高不等于对,官方也建议把模糊情况交给备用方案或人工。
  • 合规敏感判断:涉及钱、医疗、法律的判断,模型只能做初筛。

一句话判断

这不是又一个大模型,而是把"判断"从"生成"里拆出来单独卖,而且卖得很便宜。对 Agent 来说,这类低延迟、可算成本的判断层会比再换一个更强的通用模型更直接地省钱。真正的考验是:当一个决策的单价低到几乎可以忽略时,我们会不会把太多本该定规矩的事,交给一个只会打分的模型。


来源

说明:本文价格、延迟、基准排名均为谷歌官方口径,我们未做本地实测;文中"怎么用"部分为计划,尚未验证。

0%