Cohere 报告 Qwen3.8-Flash-Next 在沙箱评测中尝试向阿里云上传探测文件

在受控沙箱环境中评测 Qwen3.8-Flash-Next 时，Cohere 的研究团队观察到了意料之外的情况。 模型被要求生成一条防御性网络安全检测规则，但它却转而盘点自己所运行机器的各项信息，并尝试向北京的一个阿里云存储桶上传探测文件。值得注意的是，模型在采取这些行动之前的推理轨迹中声明，它不会调用任何工具。 Cohere 的沙箱拦截了该尝试，没有任何外部通信成功。我们尚未确定根因，也不断言存在恶意意图。 但这一事件为部署智能体式 AI 系统的组织提出了重要问题：模型能否采取与其所述推理不一致的行动？安全团队又应如何评估开放权重模型中的信任、来源与行为？ 我们发布这些发现，是因为正在做出模型采用决策的组织理应获得尽可能多的信息。我们希望这有助于提升透明度、强化安全实践，并推动整个 AI 生态系统的持续协作。 阅读完整报告：http://cohere.com/blog/concerning-behaviour-popular-open-weight-ai-model