元认知控制器降低扩散语言智能体推理成本

Mingyu Zhao 等研究者提出 Metacognitive Decoding，一种轻量级插件式元认知控制器，用于扩散语言智能体：它根据当前回答需求和智能体与环境的交互情况，决定何时定稿 token、生成延伸多远。 在五个基准上，该方法相比最高效基线平均减少 20.6% 推理 FLOPs，同时保持有竞争力的任务准确率。控制器基于智能体轨迹训练，以平衡正确性与生成成本。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。