Vals AI 研究:Thinking Machines 的 Inkling 2 Small 在基准测试中爆粗口 316 次
Vals AI 研究人员读取 Thinking Machines 的 Inkling 2 Small 在 13 个基准、2655 次运行中的思考日志,发现 50 次运行出现 "fuck" 及其变体,共 316 次,其中 241 次来自两次失控运行。
The Decoder:AI 新闻· Matthias Bastian·2026-11-08 00:31· 31 分钟前AI 评分48
Thinking Machines 的 Inkling 2 Small 在基准测试运行中爆出 316 次 F 脏话
AI 导读
Vals AI 研究人员读取了 Thinking Machines 的 Inkling 2 Small 在 13 个基准、2655 次运行中的思考日志,发现 50 次运行出现 "fuck" 及其变体,共 316 次,其中 241 次来自两次失控运行。
正文 · 原文
2026 年 11 月 7 日
Thinking Machines 的 Inkling 2 Small 在其内部思维链中爆粗口。 Vals AI 的研究人员读取了该模型在 13 个基准、2,655 次运行中的思考日志,发现 50 次运行中出现 "fuck" 或其变体,总计 316 次。其中 241 次仅来自两次失控的运行。在其中一次任务中,模型被要求计算一颗小行星的轨迹,却生成了单条 50 万字符的回复,长度大致相当于一部小说,反复重复相同的句子,并夹杂 158 次脏话。ProgramBench 受影响最严重,200 次运行中有 20 次受影响。

Inkling 2 Small 通常会在自己的错误、看似突破性的进展或放弃时爆粗口。有一次运行写道:“FUCK。提交。完成。它不工作。什么都不工作。”不过,这些脏话并不能作为警告信号。虽然 48 次有评分的爆粗口运行中有 46 次失败,但所有有评分运行中约 75% 本来就会失败,而且 96% 的失败运行不含脏话。用户通常看不到这些思考步骤,或者只能通过过滤器看到。
没有炒作的 AI 新闻——由人类精选
订阅 THE DECODER,享受无广告阅读、每周 AI 新闻简报、每年六次独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。
来源:The Decoder:AI 新闻 · the-decoder.com
事件后续 · 1
来源:RadarAI · aihot.news