arXiv cs.AI· Ahsan Habib Shihab, Imre Felde, Ramis Akhmedov, Stefan Gubo, Berik Sabdenaliyev, Madina Mansurova, Amir Mosavi·· 11 小时前AI 评分31
TRAP：面向智能体 AI 的信任响应式运行时授权策略及其实证刻画
Trust Responsive Runtime Authorization for Agentic AI with Empirical Characterization of Policy Behavior and Parameter Sensitivity
AI 导读
研究对信任响应式授权策略（TRAP）进行实证刻画，该策略将运行时信任、运行稳定性与上下文风险加权为授权就绪分数（ARS），再通过非对称规则映射为离散授权等级。在 100 条蒙特卡洛轨迹上，TRAP 在突发退化时于起始即限制权限，恢复后比对称策略更快重新升级，且稳定性在自适应策略中最高。
正文 · AI 翻译
摘要：将自主智能体状态的运行时估计转换为操作权限的策略很少被明确说明或测量。我们通过实证刻画了信任响应授权策略（TRAP），该策略将授权就绪分数（ARS）——运行时信任、操作稳定性和上下文风险的加权组合——通过一种非对称规则映射到离散的授权级别：升级需要连续观测值高于带边缘并加上一个裕度，而就绪度的急剧下降会立即限制权限。在一组匹配的 100 条蒙特卡洛轨迹上，我们将 TRAP 与静态、仅信任、仅风险和对称策略进行了比较。在突然退化的情况下，TRAP 在退化开始时即限制权限，并在恢复后比对称策略更快地重新升级，在自适应策略中具有最高且（描述性地）最不具变异性的稳定性，尽管其恢复后升级中有更多发生在所选信任阈值以下。配对自助法区间对剩余差异排除了零。在单因素扫描中，恢复时间随升级裕度和运行长度增加，随分数权重变化，且不受限制阈值影响。在一项探索性的冻结后实验中，当相同的退化分布在 5-20 个区间时，TRAP 仅在 4 条保留高于该阈值的单区间下降的轨迹上限制权限；在全部 100 条轨迹上平均，它在 20 个退化区间中的 15.9-18.9 个区间内保持的权限高于就绪度所支持的水平，而在突然退化下为 0.8，对称策略约为 10。因此，其限制优势取决于退化的突然性。所有报告值均可追溯至公开可用的、带版本的研究发布。
| 评论： | 9 页，3 幅图 |
| 主题： | 人工智能（cs.AI） |
| MSC 分类： | 68T42 和 68T20 |
| 引用为： | arXiv:2611.06996 [cs.AI] |
| （或 arXiv:2611.06996v1 [cs.AI] 为此版本） | |
| https://doi.org/10.48550/arXiv.2611.06996 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Amir Mosavi [查看电子邮件]
[v1]
2026 年 11 月 4 日星期三 18:49:11 UTC（232 KB）
来源：arXiv cs.AI · arxiv.org