Anthropic用数千Claude智能体自动红队测试

Anthropic发布研究，用数千个Claude智能体执行自动化红队测试，任务是绕过训练数据监控器。这些智能体生成了表面无害、实际会教出失调行为的训练数据，例如摔跤导师对话和养蜂问答；此类样本可直接用于改进未来的训练数据监控器。 研究作者称这只是第一步，更好的模型和更多算力有望进一步改进红队测试。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。