arXiv cs.AI· Inderjeet Singh, Haitham Mahmoud, Andr\'es Murillo·· 1 天前AI 评分31
AI 沙箱的威胁模型、分类体系与测量框架
AI Sandboxes: A Threat Model, Taxonomy, and Measurement Framework
AI 导读
研究提出 AI 沙箱装置定义，区分五种相互重叠的原型，并给出十五个与主张相关的测量维度。其最弱环节授权规则将部署主张的上限限定在最弱的必要证据维度，并与覆盖外部危害和评估装置腐化的威胁模型相连接，应用于自动驾驶、工业控制、工具使用智能体和视觉-语言-动作操作四个实例。
正文 · AI 翻译
摘要：AI 沙箱产生的证据针对的是可能通过软件工具、联网设备或物理执行器采取行动的系统。对这些证据的解读取决于实验的边界。我们定义了沙箱装置，区分了五种相互重叠的原型，并规定了十五个与主张相关的测量维度。最弱环节许可规则将部署主张的上限限定在其最弱的必要证据维度上。我们将该规则与一个威胁模型联系起来，该模型涵盖对外部危害以及对评估装置的破坏，然后将其应用于四个实例，分别涉及驾驶、工业控制、使用工具的智能体和视觉-语言-动作操作。我们还将所需工件映射到标准和监管文书。该框架识别了有界实验支持哪些主张、其控制措施包含哪些失效，以及哪些假设在部署前需要进一步验证。
| 评论： | 42 页，8 幅图，7 张表 |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；机器人学（cs.RO）；软件工程（cs.SE） |
| 引用为： | arXiv:2606.18532 [cs.CR] |
| （或 arXiv:2606.18532v2 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2606.18532 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Inderjeet Singh [查看电子邮件]
[v1]
2026 年 6 月 16 日星期二 22:57:24 UTC（1,985 KB）
[v2]
2026 年 11 月 10 日星期二 22:45:06 UTC（1,996 KB）
来源：arXiv cs.AI · arxiv.org