arXiv·· 13 天前AI 评分22
G-CARB:面向组合危害的图局部化共形智能体风险预算
G-CARB: Graph-Localized Conformal Agent Risk Budget for Compositional Harm
AI 导读
研究者提出 CARB(Conformal Agent Risk Budget),通过记录停止前已产生危害的账本来校准智能体何时停止,在可交换回合假设下用标准共形风险控制约束该声明损失在期望上不超过阈值。G-CARB 进一步沿从私有数据源出发的可观测依赖关系选择评分器证据,以应对跨工具调用的组合危害。
来源:arXiv · arxiv.org