CRE-Router:两阶段LLM查询路由与升级框架
热点事件持续更新
CRE-Router:两阶段LLM查询路由与升级框架
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Yasmin Moslem等作者发表论文提出 CRE-Router(Cluster, Route, Escalate),一种两阶段方法,用于决定由哪个模型回答每个查询。该方法先对查询聚类,再按 TPOT 或 E2EL 预算将每个簇路由到误差与成本权衡最优的模型;随后由质量估计器在生成后判断是否将回答升级到更强的模型。 报道未给出该方法在真实服务中的成本节省或质量提升数据。
AI 根据报道生成 · 51 分钟前更新
最新进展10月26日 12:00
CRE-Router:面向成本感知 LLM 服务的聚类、路由与升级级联框架报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- arXiv cs.CLCRE-Router:面向成本感知 LLM 服务的聚类、路由与升级级联框架
CRE-Router(Cluster, Route, Escalate)是一种两阶段方法,先聚类查询并按 TPOT 或 E2EL 预算将每个簇路由到误差与成本权衡最优的模型,再由质量估计器在生成后决定是否升级到强模型。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。