论文主张智能体安全应作系统问题处理

Mihai Christodorescu等作者发表立场论文，主张智能体安全必须作为系统问题处理：把驱动智能体的AI模型视为不可信组件，在系统层强制安全不变量。该论文已被NeurIPS 2026接收为Oral。 作者认为，仅靠提升模型鲁棒性并不充分，还需结合系统安全领域的技术。论文分析了11起针对智能体的真实攻击，讨论这些系统原则若落地能否阻止攻击，并指出实现这些原则面临的研究挑战。

AI 根据报道生成 · 50 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。