arXiv cs.AI· Rolf Drechsler, Christina Plump·· 11 小时前AI 评分20
Secure Formal Raising：用可执行属性保障 AI 开发过程安全
Secure Formal Raising: Protecting the Development of AI through Executable Properties
AI 导读
Secure Formal Raising（SFR）将 Formal Raising 扩展到 raising 环境的安全层面，用四值证据建模策略完整性、授权与机密数据流，保留未知和不一致评估。作者证明了六条安全不变量，并表明这些不变量迫使准入只接受已确认证据。一个纯 C 参考实现在有界穷举探索中满足这些不变量，同时暴露出工具调用中的 confused-deputy 缺口，可通过来源要求关闭。
正文 · AI 翻译
摘要：模型提升重新审视了图灵关于机器智能的发展观。形式化提升（FR）最近被提出，以显式行为属性补充这一观点。本文将这一提议扩展到提升环境的安全性。安全形式化提升（SFR）使用保留未知和不一致评估的四值证据来建模策略完整性、授权和机密数据流。我们证明了六条安全不变量，并表明它们强制准入只接受已确认的证据。一个纯 C 参考实现在一项有界穷举探索中满足这些不变量，该探索还揭示了工具调用中一个被来源要求所弥补的混淆代理缺口。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.08042 [cs.AI] |
| （或 arXiv:2611.08042v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.08042 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Christina Plump [查看电子邮件]
[v1]
2026年11月5日星期四 13:59:27 UTC（20 KB）
来源：arXiv cs.AI · arxiv.org