arXiv cs.AI· Lewen Yan, Yanxu Zhu, Jie Zhang, Jing Shao·· 12 小时前AI 评分38
OwlSight：面向思维链推理的全景监控器
OwlSight: A Panoramic Monitor for Chain-of-Thought Reasoning
AI 导读
研究者提出 CoT 监控策略 Factor，通过在提示词中自定义监控要求，让单一监控器依靠不同 factor 覆盖多种任务，并区分细粒度与粗粒度两类 factor。
正文 · AI 翻译
摘要：思维链（CoT）监控为监督 AI 系统提供了可操作的证据，并有望实现早期检测与干预。然而，现有方法聚焦于特定任务，而对 AI（尤其是推理模型）的监管需要监控更广泛的任务范围。我们提出 Factor for CoT monitoring，这是一种支持在提示中自定义监控需求的策略，使单个监控器能够依靠不同的因子覆盖不同任务。此外，我们引入两类因子——细粒度与粗粒度（例如，监控特定电子邮件地址是否泄露，与监控隐私泄露），以满足多样化的用户监控需求。基于此，我们开发了名为 OwlSight 的 CoT 监控器，它仅依靠因子来监控与多个维度（包括能力、安全性和可信度）相关的行为。在 15,971 条推理轨迹上的实验表明，OwlSight 在细粒度和粗粒度上分别超越通用 LLM 1.32-30.57 分和 11.71-27.81 分，并在 OpenAI 的 CoT 可监控性基准上取得最先进的结果。它还能泛化到未见模型的 CoT，并对因子改写、CoT 压缩和混淆保持稳健，为 CoT 监控提供了一种有前景的范式，有助于对前沿 AI 的监督。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.23670 [cs.AI] |
| （或 arXiv:2610.23670v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.23670 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Lewen Yan [查看电子邮件]
[v1]
2026年10月16日星期五 16:01:49 UTC（3,008 KB）
来源：arXiv cs.AI · arxiv.org