arXiv cs.AI· Timothy Zhou, Loris D'Antoni, Nadia Polikarpova·· 2 天前AI 评分27
基于语言的智能体控制（LBAC）：用类型系统约束 AI 智能体行为
Language-Based Agent Control
AI 导读
论文提出语言智能体控制（LBAC），一种将编程语言与语言安全技术引入智能体控制的新编程模型，要求智能体生成在脚手架代码上下文中类型良好的程序，不安全程序在执行前即被类型检查器拒绝。该模型保留表达能力，智能体可执行任意无副作用计算并递归调用子智能体，子智能体在相同或更严格策略下保留完整工具访问权限。论文通过文件系统能力实现 I/O 沙箱、数据溯源和信息流控制三个案例研究进行演示。
正文 · AI 翻译
摘要：本文介绍了基于语言的智能体控制（LBAC），这是一种面向智能体应用的新编程模型，它将编程语言和基于语言的安全技术引入智能体控制问题。在传统编程中，静态类型与运行时强制执行的组合长期以来被用于保证良类型程序满足用户指定的策略，包括访问控制、信息流、数据溯源等策略。LBAC 的核心思想是将这些保证扩展到智能体应用，方法是要求智能体生成在周围脚手架代码上下文中本身即为良类型的程序。不安全的程序会在执行前被类型检查器拒绝，从而使策略能够统一应用于整个应用，包括智能体生成的行为和开发者编写的脚手架。同时，LBAC 保留了可观的表达能力：智能体可以执行任意无副作用的计算，并递归调用子智能体，子智能体在相同——或可能更严格——的策略下保留完整的工具访问权限。我们通过三个案例研究展示 LBAC：通过文件系统能力实现的 I/O 沙箱、数据溯源和信息流控制。
| 主题： | 编程语言（cs.PL）；人工智能（cs.AI）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2605.12863 [cs.PL] |
| （或使用 arXiv:2605.12863v2 [cs.PL] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2605.12863 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Timothy Zhou [查看电子邮件]
[v1]
2026年5月13日星期三 01:21:05 UTC（82 KB）
[v2]
2026年10月15日星期四 01:22:09 UTC（92 KB）
来源：arXiv cs.AI · arxiv.org