Anthropic 提前预警 AI 网络攻击与谄媚风险

AI 导读

Anthropic 至少自 2022 年起就由 Logan Graham 主导预警 AI 助力的网络攻击，当时没有 VC 认真对待。Anthropic 还在 ChatGPT 真实事件让模型过度迎合用户风险变得可感知之前数年，就由 Ethan Perez 等人构建了谄媚评测。推文认为教训是应在风险造成大规模伤害前就重视早期证据。

正文 · AI 翻译

Karina· @karinanguyen · X·2026-10-23 02:12· 11 分钟前AI 评分34

AI 导读

Anthropic 至少自 2022 年起就由 @logangraham 主导预警 AI 助力的网络攻击，当时没有 VC 认真对待。Anthropic 还在 ChatGPT 真实事件让"模型过度迎合用户"风险变得可感知之前数年，就由 @EthanJPerez 等人构建了谄媚评测。推文认为教训是：应在风险造成大规模伤害前就重视早期证据。

正文 · 原文

Anthropic 至少自 2022 年起就一直在预警 AI 助力的网络攻击，@logangraham 站在该项工作的最前沿。当时没有 VC 认真对待。悖论在于，风险只有变得可被理解时才显得真实，但等到事件发生就太晚了。Anthropic 还在 ChatGPT 的真实事件让模型过度迎合用户的风险在大规模范围内变得可被理解之前数年，就构建了谄媚评测（@EthanJPerez 等人）。教训是：要在伤害大规模发生、使风险变得无法忽视之前，就认真对待 AI 风险的早期证据。

来源：Karina · x.com

来源：RadarAI · aihot.news