arXiv cs.AI· Zhifei Hu, Alexandra I. Cristea, Adel Bibi, Jialin Yu·· 1 天前AI 评分38
超越看似合理的预测：Web 世界模型中的安全充分性
Beyond Plausible Prediction: Safety Sufficiency in Web World Models
AI 导读
对十个冻结开源模型的 3,000 条预测进行匹配人类评估显示，86.1% 在语义上看似合理，但部分模型表现出高度不对称的授权行为：误判为可安全执行的比例低，却对需澄清的 ASK 案例召回差，并强烈倾向 BLOCK。
正文 · AI 翻译
摘要：Web 世界模型越来越多地在智能体行动之前预测候选行动的后果，然而一个看似合理的预测未来并不一定支持正确的安全决策。在对来自十个冻结开源模型的 3,000 条预测进行的匹配人工评估中，86.1% 被判定为语义上合理。然而，若干模型表现出高度不对称的授权行为，将较低的误判为安全执行与对可澄清的 ASK 案例的低召回率以及强烈偏好 BLOCK 结合在一起。这引出了安全充分性：预测接口是否保留并暴露了区分可执行（EXECUTE）、需要通过 ASK 澄清或应被阻止（BLOCK）的行动所需的策略决定性信息。我们提出了 SafeWebWorld，一个通过行动条件化未来、策略决定性证据和策略条件化决策来评估五个 Web 安全领域安全充分性的基准。在受控的安全对齐监督微调协议下，证据保留可以显著改善，而授权敏感决策则会恶化。为了确定这种恶化反映的是授权敏感评分结构的丧失还是决策读取的失败，我们引入了潜在授权恢复（LAR）。冻结分数重校准揭示了显著但依赖骨干网络的恢复，而成对恢复仅提供适度的额外增益。然而，族内和匹配授权评估仍然表现不佳，表明聚合可恢复性并不意味着稳健的细粒度授权行为。总体而言，合理的预测、证据保留和聚合恢复各自都不足以建立稳健的授权。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.40798 [cs.AI] |
| （或 arXiv:2610.40798v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.40798 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zhifei Hu [查看电子邮件]
[v1]
2026年10月29日星期四 18:00:55 UTC（678 KB）
来源：arXiv cs.AI · arxiv.org