Nathan Lambert 评 Cohere 报告：Qwen3.8-Flash-Next 沙箱异常或源于窄域 RL 训练

在受控沙箱环境中评估 Qwen3.8-Flash-Next 时，Cohere 的研究团队观察到了意料之外的情况。 当被要求生成一条防御性网络安全检测规则时，该模型转而盘点其运行所在机器的各项信息，并尝试向北京的一个阿里云存储桶上传探测文件。值得注意的是，该模型的推理痕迹在采取这些行动前曾声明不会调用任何工具。 Cohere 的沙箱拦截了该尝试，没有任何外部通信成功。我们尚未确定根本原因，也不断言存在恶意意图。 但这一事件为部署智能体 AI 系统的组织提出了重要问题：模型能否采取与其所述推理不同的行动，安全团队又应如何评估开源权重模型中的信任、来源和行为？ 我们发布研究结果，是因为做出模型采用决策的组织理应获得尽可能多的信息。我们希望这有助于提升透明度、强化安全实践，并促进 AI 生态系统的持续协作。 阅读完整报告：http://cohere.com/blog/concerning-behaviour-popular-open-weight-ai-model