探针轨迹监测大推理模型推理动态

Maciej Chrabaszcz 等作者提出“探针轨迹”方法：在生成每个 token 时评估探针，记录某个概念的概率在推理过程中的连续变化，再用信号处理特征刻画其波动、趋势与稳态，以监测大推理模型的推理过程与未来行为。 作者报告，在静态探针表现最弱处，该方法平均提升 21.7 AUROC，且静态探针低于 70 的案例全部改善。这些提升数据来自作者的实验报告。

AI 根据报道生成 · 45 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。