研究系统评估小模型到大模型置信度路由
热点事件持续更新
研究系统评估小模型到大模型置信度路由
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Md Sabbir Hossen 等作者发表了一项系统评估,测试基于置信度的小模型到大模型路由在多语言任务上的表现。评估覆盖三个模型家族、四种语言和三类任务,共 72 种模型、数据集、语言与规模配置,涉及 42,288 条预测。 该研究考察的是:当小模型置信度不足时,是否将任务转交大模型处理。报道未给出路由在准确率或成本上的具体结论。
AI 根据报道生成 · 47 分钟前更新
最新进展10月19日 12:00
高效推理谁来买单?基于置信度的小模型到大模型 LLM 路由在任务与语言间的表现报道时间线
沿着报道,了解事件的不同侧面。
10月19日
- arXiv cs.CL高效推理谁来买单?基于置信度的小模型到大模型 LLM 路由在任务与语言间的表现
一项系统评估在三个模型家族、四种语言和三类任务上测试了基于置信度的小模型到大模型路由,覆盖 72 种配置、42,288 条预测。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。