arXiv·· 13 天前AI 评分22
多语言 LLM 路由中预生成成功探针的跨语言校准
Cross-lingual Calibration of Pre-Generation Success Probes for Multilingual LLM Routing
AI 导读
研究考察预生成成功探针在多语言场景下的可靠性,这类探针通过语言模型解码前的隐藏激活估计回答正确性,以支持成本感知路由。此前工作主要在英文输入上验证其效用,本文从三个维度评估跨语言表现:能否保持成功与失败样本的排序(区分度)、概率是否匹配实际成功频率(校准),以及不同候选模型间的分数是否足以支撑成本感知的多语言路由。
来源:arXiv · arxiv.org