跳到正文
热点事件持续更新

CRE-Router:两阶段LLM查询路由与升级框架

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Yasmin Moslem等作者发表论文提出 CRE-Router(Cluster, Route, Escalate),一种两阶段方法,用于决定由哪个模型回答每个查询。该方法先对查询聚类,再按 TPOT 或 E2EL 预算将每个簇路由到误差与成本权衡最优的模型;随后由质量估计器在生成后判断是否将回答升级到更强的模型。 报道未给出该方法在真实服务中的成本节省或质量提升数据。

AI 根据报道生成 · 51 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv cs.CL
    CRE-Router:面向成本感知 LLM 服务的聚类、路由与升级级联框架

    CRE-Router(Cluster, Route, Escalate)是一种两阶段方法,先聚类查询并按 TPOT 或 E2EL 预算将每个簇路由到误差与成本权衡最优的模型,再由质量估计器在生成后决定是否升级到强模型。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。