跳到正文
arXiv·· 12 天前AI 评分32

POLAR:面向工具调用 LLM 智能体的本体论引导风险预防框架

POLAR: Ontology-Guided Risk Prevention for Tool-Calling LLM Agents

AI 导读

POLAR 是一个面向小型工具调用 LLM 智能体的护栏框架,通过结构化双层本体论评估动作的可逆性,为每个动作给出分级可逆性评分,从而在错误发生前预防操作风险。现有安全机制多在错误显现后才反应,或在不提供结构化、可审计判定结果的情况下微调智能体、将自然语言护栏编译为运行时检查。

来源:arXiv · arxiv.org