Anthropic 向 METR 开放内部权限审查其模型与安全实践
Anthropic gives METR inside access to audit its AI models and safety practices
Anthropic 宣布向非营利机构 METR 的团队开放内部权限，用于审查其 AI 模型与安全实践。六名 METR 员工获得公司硬件、办公空间和内部工具访问权，Anthropic 称其权限大致相当于自家风险团队，但客户数据、受律师-客户保密特权保护的信息和模型架构细节仍不开放。
Anthropic 宣布，已向非营利组织 METR 的一个团队开放内部访问权限，以审查其 AI 模型和安全实践。六名 METR 员工获得了公司硬件、办公空间以及内部工具的使用权限，Anthropic 称这使他们大致与公司自身的风险团队处于同等地位。
客户数据、受律师-当事人保密特权保护的信息以及模型架构细节仍属禁区。METR 将独立发布其调查结果。Anthropic 表示，它可以要求对某些预定义类别的内容进行删减，但 METR 可以自由公开表示其是否认为这些删减是合理的。
Anthropic 认为，并非所有与安全相关的信息都可以公开，原因要么是可能帮助攻击者，要么是涉及商业敏感。与 METR 的协议比该公司向其他外部审查者提供的条件更进一步。SecureBio、Accenture 和 Faculty 迄今获得的访问权限更少，可发布内容的限制也更严格，而 Anthropic 已开始与 Hugging Face 进行早期洽谈。此举是在 Anthropic 签署《超级智能白宫协议》之后做出的，该协议包含与外部审查者合作的承诺。
没有炒作的 AI 新闻——由人类精选
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六次独家“AI Radar”前沿报告、完整档案访问以及评论区访问权限。
来源：The Decoder · the-decoder.com