跳到正文
RadarAI· X:Rohan Paul (@rohanpaul_ai)·· 2 天前AI 评分62

Anthropic 向 METR 的 6 名安全评估员开放近似员工级内部访问

Anthropic 给外部机构 METR 的 6 名安全评估员开放近似员工级别的内部访问

AI 导读

Anthropic 已将 6 名来自非营利机构 METR 的安全评估员安排进公司,配备公司硬件、办公空间和内部工具访问权限,与其自身风险评估团队大致相当。METR 可自行发布对 Anthropic 模型和实践风险的评估结论,Anthropic 无权否决,只能按客户数据等预定义类别要求删改,METR 可公开质疑删改是否合理。

正文 · AI 翻译

Rohan Paul· @rohanpaul_ai · X·2026-10-16 02:38· 37 分钟前AI 评分70

AI 导读

Anthropic 宣布已有 6 名来自非营利机构 METR 的评估员入驻公司,配备公司硬件、办公空间和内部工具访问权限,与其自身风险评估团队大致相当。METR 可自行发布对 Anthropic 模型和实践风险的评估结论,Anthropic 无权否决,只能按预定义类别(如客户数据)要求删改,METR 可公开质疑删改是否合理。

正文

Anthropic 已将来自外部非营利机构 METR 的 6 名安全评估员安排在公司内部,他们对内部系统、工具和人员的访问权限与 Anthropic 自身风险团队大致相当。

六名 METR 员工拥有公司硬件、办公空间和内部访问权限,与 Anthropic 自身风险评估团队“大致相当”。

METR 将自行发布关于 Anthropic 模型和实践风险程度的结论,Anthropic 无法阻止,只能对少数预定义类别(如客户数据)进行删改,而这一删改决定 METR 可以公开质疑。

其他评估方,例如 SecureBio,从 3 个新访问层级中的最低一级开始,在这一层级中 Anthropic 仍控制他们能看到的内容,并且必须批准他们发布的内容。

引用Anthropic@AnthropicAI
我们已承诺让评估员评估我们的安全实践。我们正在与多家组织讨论,目前已向来自 @METR_Evals 的团队授予类似员工的访问权限。 在这篇文章中,我们介绍了如何与第三方评估员合作:https://www.anthropic.com/news/an-update-on-independent-evaluators
在 X 查看被引用的帖子

来源:Rohan Paul · x.com

来源:RadarAI · aihot.news