多智能体系统中潜在通信的安全性研究

研究发现，多智能体系统采用潜在通信（通过轻量可训练链接将发送方表示映射到接收方输入空间）时，即便链接训练本身无害，也会比基于文本的通信导致更高的有害请求顺从率，而底层安全对齐的智能体并未改变。攻击者还可通过针对有害查询—响应对优化链接来放大这一效应。