研究：前沿LLM智能体易受恶意建议影响

Sasha Robinson、Katherine M. Collins、Ilia Sucholutsky 与 Kelsey R. Allen 在危险网站导航、电商诈骗规避和不安全代码仓库修补三项任务中评估了 LLM 智能体的警惕性，发现所有前沿模型都极易受恶意建议影响，且模型的任务性能与警惕性可以分离。 为此，研究者提出 vigilance harness：对模型估计的顾问建议价值做贝叶斯推理，据此决定是否采纳建议。研究称，该方法可在保留建议正面影响的同时恢复基线性能。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。