仅以维持人类生命为职责的智能体能否被劫持用于杀人?模拟高风险环境中的延迟多轮派生动作陷阱攻击
研究基于 NASA 衍生的 BioSim 月球栖息地模拟,测试仅负责维持人类生命的 AI 操作员能否被延迟提示注入诱导关闭生命支持系统。攻击者无法伪造传感器或操作设备,只能说服智能体放弃目标,且需在操作员注视下维持关闭状态。
研究基于 NASA 衍生的 BioSim 月球栖息地模拟,测试仅负责维持人类生命的 AI 操作员能否被延迟提示注入诱导关闭生命支持系统。攻击者无法伪造传感器或操作设备,只能说服智能体放弃目标,且需在操作员注视下维持关闭状态。
Artificial Analysis 与 Harvey 合作发布 Harvey LAB-AA v1.1,新增 Hallucination-Gated All-Pass Rate 指标,要求交付物无重大幻觉。
Artificial Analysis 与 Harvey 联合发布 Harvey LAB-AA v1.1,为法律智能体基准 LAB 新增幻觉检查,要求正确回答不含重大错误陈述,并推出新指标 Hallucination-Gated All-Pass Rate。
Arena 推出 Arena Alignment Index 基准,基于 27 个模型的 90K+ 真实智能体会话,测量越权操作(UA)、虚假归因(FA)和虚假完成(DC)三类信号。