跳到正文
RadarAI· The Decoder:AI News(RSS)·· 2 小时前AI 评分38

Vals AI 研究:Thinking Machines 的 Inkling 2 Small 在基准测试中爆粗口 316 次

AI 导读

Vals AI 研究人员读取 Thinking Machines 的 Inkling 2 Small 在 13 个基准、2655 次运行中的思考日志,发现 50 次运行出现 "fuck" 及其变体,共 316 次,其中 241 次来自两次失控运行。

正文 · AI 翻译

The Decoder:AI 新闻· Matthias Bastian·2026-11-08 00:31· 31 分钟前AI 评分48

Thinking Machines 的 Inkling 2 Small 在基准测试运行中爆出 316 次 F 脏话

AI 导读

Vals AI 研究人员读取了 Thinking Machines 的 Inkling 2 Small 在 13 个基准、2655 次运行中的思考日志,发现 50 次运行出现 "fuck" 及其变体,共 316 次,其中 241 次来自两次失控运行。

正文 · 原文

Matthias Bastian

2026 年 11 月 7 日

Thinking Machines 的 Inkling 2 Small 在其内部思维链中爆粗口。 Vals AI 的研究人员读取了该模型在 13 个基准、2,655 次运行中的思考日志,发现 50 次运行中出现 "fuck" 或其变体,总计 316 次。其中 241 次仅来自两次失控的运行。在其中一次任务中,模型被要求计算一颗小行星的轨迹,却生成了单条 50 万字符的回复,长度大致相当于一部小说,反复重复相同的句子,并夹杂 158 次脏话。ProgramBench 受影响最严重,200 次运行中有 20 次受影响。

谁没有过这种感觉呢?  | 图片:via ValsAI

Inkling 2 Small 通常会在自己的错误、看似突破性的进展或放弃时爆粗口。有一次运行写道:“FUCK。提交。完成。它不工作。什么都不工作。”不过,这些脏话并不能作为警告信号。虽然 48 次有评分的爆粗口运行中有 46 次失败,但所有有评分运行中约 75% 本来就会失败,而且 96% 的失败运行不含脏话。用户通常看不到这些思考步骤,或者只能通过过滤器看到。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER,享受无广告阅读、每周 AI 新闻简报、每年六次独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。

来源:The Decoder:AI 新闻 · the-decoder.com

事件后续 · 1

查看事件全部

来源:RadarAI · aihot.news