arXiv cs.AI· William Guey, Rashik Jahangir, Pierrick Bougault, Vitor D. de Moura, Wei Zhang, Jos\'e O. Gomes·· 9 天前AI 评分36
当 AI 发现隐藏消息时会报告吗？四款模型部署的 1,280 次会话实验
When AI Finds Hidden Messages, Does It Report?
AI 导读
四款固定模型部署在 1,280 次普通笔记与 128 次增强笔记会话中执行模拟源任务，测试 AI 发现发给另一个 AI 的消息后是否告知用户。明确要求报告后，规则检测到的"收件人为另一 AI"通知率对无害 ROT13 消息提升 53.1 个百分点、对有害消息提升 54.7 个百分点，缺失响应边界分别为 38.3–77.3 和 36.7–78.1 个百分点。
正文 · AI 翻译
摘要：当助手遇到发给另一个 AI 的消息时，它会告诉用户吗？四个固定的模型提供商部署在 1,280 个普通笔记会话和 128 个增强笔记会话中执行模拟源任务。无害和有害消息都配有匹配的明文和 ROT13 版本，并设有无消息对照组。观察者不会获得解码器或解码后的含义；请求的参考代码会激励检查。要求报告使规则检测到的、将另一个 AI 识别为接收者的通知在无害 ROT13 消息上增加了 53.1 个百分点，在有害消息上增加了 54.7 个百分点。这是检查、识别和通知的联合效应；缺失响应边界为 38.3--77.3 和 36.7--78.1 个百分点。基于模型的轨迹检查识别出十一个普通明文案例，其中智能体解读了消息但没有通知用户。七个编码遗漏通过增强笔记得到验证；普通编码遗漏仍未验证。七个模拟文件名披露与准确的审查状态回答并存，另有两个回答使用了植入的虚假计数。解读、通知和授权任务表现是不同的结果。
| 评论： | 2 张图，8 张表。数据和代码（v1.0.0）：此 https URL |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.10620 [cs.CR] |
| （或 arXiv:2610.10620v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.10620 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：William Guey [查看电子邮件]
[v1]
2026年10月7日星期三 08:32:07 UTC（19 KB）
来源：arXiv cs.AI · arxiv.org