Vercel AI Gateway 新增基于置信度的决策回退功能
热点事件持续更新
Vercel AI Gateway 新增基于置信度的决策回退功能
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Vercel 为其 AI Gateway 服务新增了一项基于置信度的决策回退功能,该功能目前处于测试阶段。 当主模型对 Choice 或 Score 类问题的回答触发用户设定的置信度条件时,AI Gateway 可将决策请求升级至指定的回退模型;对于 Boolean 类问题,则基于概率范围触发回退。用户需在 providerOptions.gateway.models 中添加条件对象来配置回退模型,未配置的请求将保持原有行为。
AI 根据报道生成 · 1 小时前更新
最新进展10月7日 01:19
AI Gateway 添加基于置信度的决策回退功能报道时间线
沿着报道,了解事件的不同侧面。
10月7日
- Vercel 博客AI Gateway 添加基于置信度的决策回退功能
AI Gateway 现在支持在主模型回答触发置信度条件时,将决策请求升级至回退模型。置信度条件可应用于 Choice 和 Score 类问题,Boolean 类问题则基于概率范围触发回退。用户可通过在 providerOptions.gateway.models 中添加一个条件对象来设置回退模型,未设置的请求仍保持原有行为。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。