arXiv cs.AI· Yuxuan Fu, Xiaoyu Tan, Teqi Hao, Chen Zhan, Xihe Qiu·· 13 小时前AI 评分34
PRISM：面向主动式智能体的风险敏感、不确定性感知审慎决策框架
PRISM: Festina Lente Proactivity -- Risk-Sensitive, Uncertainty-Aware Deliberation for Proactive Agents
AI 导读
PRISM 框架将主动式智能体的干预问题建模为成本敏感的选择性干预，通过决策论门控与双过程推理架构，仅在用户接受概率超过由漏助与误报非对称成本推导的阈值时才介入。在 ProactiveBench 上，PRISM 相比强基线将误报降低 22.78%、F1 提升 20.14%。训练采用门控对齐、模式锁定的知识蒸馏，学生策略与干预门控显式解耦，实现可调可控的干预行为。
正文 · AI 翻译
摘要：主动型智能体不仅需要决定说什么，还需要决定是否以及何时介入。当前许多系统依赖脆弱的启发式规则或无差别的长推理，对收益与负担之间的权衡几乎没有控制力。我们将该问题形式化为成本敏感的选择性介入问题，并提出 PRISM，一种将决策论门控与双过程推理架构相结合的新框架。在推理时，仅当经校准的用户接受概率超过由漏助与误报的非对称成本推导出的阈值时，智能体才介入。受 festina lente（拉丁语：“欲速则达”）启发，我们以接受度校准、成本推导的阈值进行门控，仅在决策边界附近调用带有反事实检查的资源密集型 Slow 模式，将计算集中在模糊且高风险的案例上。训练采用门控对齐、模式锁定的蒸馏：运行完整 PRISM 流水线的教师模型在无标注交互轨迹上提供密集、可执行的监督，而学生模型学习一种与介入门控显式解耦的响应策略，以实现可调且可审计的控制。在 ProactiveBench 上，PRISM 相比强基线将误报降低了 22.78%，并将 F1 提升了 20.14%。这些结果表明，有原则的决策论门控，结合选择性慢推理与对齐蒸馏，能够产生精确、计算高效且可控的主动型智能体。为便于复现，我们在 此 https URL 发布了代码、模型和资源，所有实验均使用开源的 ProactiveBench 基准。
| 学科： | 人工智能（cs.AI）；人机交互（cs.HC） |
| 引用为： | arXiv:2602.01532 [cs.AI] |
| （或 arXiv:2602.01532v2 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2602.01532 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yuxuan Fu [查看邮箱]
[v1]
2026年2月2日星期一 01:56:29 UTC（2,082 KB）
[v2]
2026年10月28日星期三 06:02:15 UTC（2,082 KB）
来源：arXiv cs.AI · arxiv.org