Anthropic 研究员拆解大模型内部机制与安全风险

Anthropic 可解释性研究员 Emmanuel Ameisen 在 Lenny 播客中称，大模型以预测下一个词为预训练目标，这一目标会逼出世界模型，中间结果里存在计划；模型能力平稳增长，跨过可靠性门槛后会突然变得好用。他还讨论了可解释性研究如何服务于 AI 对齐与安全。 上述说法来自 Ameisen 在播客中的表述，报道未提供可独立核验的实验数据或效果证据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。