跳到正文
Hacker News· surprisetalk·· 9 天前AI 评分71

Anthropic 启动 Cyber Mission,推出关键基础设施防御计划与 OSS Scanner

The Anthropic Cyber Mission

AI 导读

Anthropic 宣布启动长期计划 Anthropic Cyber Mission,从关键基础设施和开源软件两个方向支持防御方。

正文 · AI 翻译

今天我们推出 Anthropic Cyber Mission,这是一项长期承诺,旨在保护所有人依赖的系统。Cyber Mission 是一项新的努力,为防御者提供工具、研究和资源,以保护他们的软件和系统。我们从两个领域开始:

  • 关键基础设施:首先保护电网、供水系统和交通网络背后的运营技术,并保护政府系统。今天,我们推出关键基础设施防御计划(CIDP),为保护运营技术的防御者带来前沿模型、现场工程师和威胁研究。
  • 开源软件:在大多数软件所依赖的免费共享代码中寻找漏洞并提出补丁,并加固底层代码。今天,我们推出 OSS Scanner,为开源项目免费提供来自我们最强模型的定期安全扫描。

前沿模型可能被滥用来利用漏洞并开展网络行动。尽管做出了最大努力,许多技术领域仍然处于危险的暴露状态。国家支持的对手多年来一直在这些系统中、跨越许多行业建立立足点,以便能够破坏它们。关键基础设施的防御者和开源社区拥有数十年的安全经验,但面临着严重的资源短缺,而当前形势更加剧了这一问题。我们认可他们在这些领域的专业知识,并提供我们的支持。我们还将扩展 Cyber Mission,在新领域发布工具、研究和资源,以帮助保护世界。

作为 Project Glasswing 的一部分,合作伙伴发现了许多漏洞,但我们尚未实现网络风险的充分降低。发现漏洞比以往任何时候都更容易,但验证、确定优先级并修复这些发现仍然具有挑战性。基于 Project Glasswing 的经验教训,我们启动这些新努力来支持防御者。本周早些时候,我们将 Project Glasswing 并入扩展后的 Cyber Verification Program,让更多防御者能够使用我们最强大的模型。通过 Anthropic Cyber Mission,我们将部署 Anthropic 的工程人才,并为保护关键基础设施和开源软件的人提供工具和资金。

保护关键基础设施

电网、供水设施、工厂和交通网络运行在控制器、控制软件和工业网络上,这些系统被设计为可使用数十年。这些系统被称为“运营技术”,它们通常无法离线打补丁,因此已知漏洞可能多年得不到解决。保护它们是一项专业工作:设备是专有的,变更具有风险,一个错误就可能导致工厂停机。各种规模的操作方都依赖少数值得信赖的提供商来支持这项工作,由这些提供商告诉他们哪些部分暴露在外,以及在运行系统上应进行哪些修复。

今天,我们推出 关键基础设施防御计划,将前沿 Claude 模型、现场工程师和我们的威胁研究带给这些值得信赖的提供商。其创始合作伙伴包括 Accenture、Booz Allen、CrowdStrike、Deloitte、Dragos、Hitachi、Insane Cyber、Nozomi Networks、Palo Alto Networks、PwC 和 Rockwell Automation。

这些组织代表了运营商所依赖的、用于保护这些系统的提供商:运行安全项目的咨询和先进技术公司、守护商业和工业网络的安全公司,以及制造并修补设备本身的制造商。

这项工作正在进行中。多家合作伙伴目前正与 Claude 合作修复漏洞,并帮助客户采取同样的行动。关键基础设施在许多方面难以防御,这是 AI 无法解决的,但我们相信前沿模型能够帮助在弱点被用来切断电力或使水源不安全之前发现并修复它们。我们的第一步是与一小批提供商合作,了解哪些策略最有效、最实用。

如果您的公司为关键基础设施构建安全产品或服务,您可以在此登记您的意向。

Rockwell Automation logo

随着 AI 不断进步,它为加强关键基础设施的网络安全提供了重要机遇,前提是它以负责任的方式应用、经过严格验证,并在部署时将安全性和可靠性放在首位。我们很高兴贡献我们在运营技术和工业网络安全方面的专业知识,帮助开发切实可行的方法,将 AI 应用于增强社会每天所依赖的基础设施的韧性。

PwC logo

通过与关键基础设施组织的合作,普华永道的网络 OT 实践亲眼目睹了网络入侵在这些环境中可能造成的严重后果。我坚信,必须开展协调一致的、全行业范围的努力,以识别漏洞、降低风险并增强我们关键系统的韧性。

Palo Alto Networks logo

威胁行为者正在利用 AI 以机器速度发现和利用暴露面。通过将 Unit 42 的威胁情报和运营专业知识与 Anthropic 的前沿模型相结合,我们正在帮助运营商防御那些试图攻击和破坏基本服务的对手。我们携手为防御者提供所需的速度和精度,在暴露转化为影响之前关闭攻击路径。

Nozomi Networks logo

前沿 AI 的演进速度之快,任何单一组织都无法独自跟上。这就是关键基础设施防御计划重要的原因。它汇聚了了解这些环境的人与如今可用于防御它们的前沿能力。我们很自豪能贡献我们的经验,并与其他致力于保护世界所依赖系统的合作伙伴共同学习。

Insane Cyber logo

最需要保护的地点,如偏远变电站、海上平台和气隙工厂,恰恰是传统工具无法触及、专家也无法驻守的地方。没有人解决的是时间问题:数据量超出任何团队的处理能力,站点数量超出任何团队的人员配置。Claude 弥合了这一差距,让我们的分析师和客户的运营人员将时间花在维持关键系统安全运行的判断决策上。

Dragos logo

当供应商社区分享他们在 AI 为运营环境带来的机遇和挑战方面的所学,而不是将这些知识封闭在孤岛中时,关键基础设施及其所服务的人们都会受益。加入 Anthropic 的关键基础设施防御计划,是我们帮助将前沿 AI 与围绕运营技术(OT)现实构建的集体防御战略保持一致的方式之一——正是 OT 让灯火长明、水源安全、交通运转。

CrowdStrike logo

关键基础设施正是网络风险转化为现实世界风险的地方。随着对手利用 AI 以更快的速度和更大的规模行动,面临机器速度威胁的关键基础设施需要机器速度的防御。通过将 CrowdStrike 深厚的安全背景与专业知识同 Anthropic 的前沿 AI 专长相结合,我们可以把更大的优势交到关键基础设施防御者手中。

Hitachi, Ltd. logo

在 AI 快速演进、网络威胁日益复杂且速度不断加快的背景下,保障支撑社会基础设施的 OT 环境中的网络安全,已成为当今社会面临的最高优先事项之一。通过参与这一项目,我们期待与 Anthropic 及其他合作伙伴携手,进一步提升关键基础设施的网络韧性。

Deloitte & Touche LLP logo

随着 AI 加速发展,关键基础设施运营方需要能够以机器速度应对安全漏洞的解决方案。Deloitte 正与 Anthropic 一起,帮助这些企业获得弥补安全缺口、增强韧性所需的能力,以前沿 AI 的现实节奏同步前行。

Booz Allen logo

运营技术是自主 AI 驱动攻击的下一个前沿。问题已不再是 AI 能否影响工业流程,而是它能获得多少控制权,以及速度有多快。关键基础设施防御项目正汇聚私营部门最优秀的创新与投资,以增强联邦和商业任务中的 OT 与 ICS 韧性。

Accenture logo

那些维持我们电力供应、药品安全、食品供应和通信运转的组织,面临着世界上一些后果最为严重的网络风险。Accenture 致力于将我们深厚的 OT 安全专长带给那些保护社区日常所依赖的关键基础设施的组织。这一合作将有助于把 AI 驱动的防御交到最需要它的人手中。

01 /

11

今年 6 月,我们启动了一项网络防御项目,面向州、地方、部落和领地政府。自那以来,我们已向美国超过半数的州以及该国一些最大的公共关键基础设施运营方提供前沿 Claude 模型和技术支持,加速代码扫描与修补、事件响应、红队演练及其他安全工作流程。

我们正在倾听并向最了解这一领域的人学习。我们的方法是与那些了解这一领域、且运营方信任的公司、联盟、政府和非营利组织合作,在最需要的地方提供支持。

保障开源软件安全

几乎所有软件都依赖开源代码,其中许多由小型志愿者团队维护。在 Project Glasswing 下,我们扫描了数百个广泛使用的开源项目,由人工对发现的许多潜在漏洞进行分诊和审查,并通过我们的协调漏洞披露流程将发现私下报告给其维护者。

一些有能力进行大规模分类处理的维护者要求我们提供模型在其项目中发现的所有内容,无论是否经过审核。为此,我们推出了 OSS Scanner,这是一项受 Google 的 OSS-Fuzz 启发的选择性加入服务。加入的项目会定期收到我们最强大模型的扫描,完全免费。每份报告都包含漏洞如何被利用的概念验证、解释说明,以及在可用时提供的修复建议。这些报告由模型生成,未经人工审核即发送。这意味着维护者能更快收到报告,但也意味着其中一些会包含不准确之处,例如错误的严重性评级。我们预计真阳性率将超过 90%,并将随时间推移努力改进真阳性率和修复质量。团队的文章解释了其工作原理以及如何加入。

该服务面向有能力跟进所发现问题项目。对于其他项目,我们将继续根据我们的 CVD 政策分享经过人工验证的披露信息。

OSS Scanner 是第一步。从这里开始,我们的开源工作旨在:

  • 更快地将发现送达维护者。将 OSS Scanner 推广到更多项目,同时为有需要的项目保留经过人工验证的披露。
  • 加速修复。为有需要的项目自动化分类和修补,这些工作目前仍大多是手动的。
  • 探索新的安全架构和编码实践。与希望比修补走得更远的项目一起研究和分享加固或重写代码的方法。

我们将根据开源维护者和基金会的指导来开展这些工作,并分享行之有效的方法,以便其他项目可以复制。我们资助了广泛使用的开源代码背后的组织,包括 Python 软件基金会、通过 Linux 基金会运作的 Alpha-Omega 和 OpenSSF,以及 Apache 软件基金会,同时还支持了 Akrites 和 Gold Eagle,它们从众多来源收集和协调漏洞报告,以避免让维护者不堪重负。我们于8 月启动的 Defender Advantage Fund(0xDAF)支持这些领域的试点项目,并保持 OSS Scanner 免费。

维护者还可以申请 Claude for Open Source 以获得免费的 Claude Max 订阅,并申请 Cyber Verification Program 以扩大对 Claude 网络能力用于防御工作的访问权限。

我们为什么这样做

具有高度网络能力的 AI 模型如今已广泛为攻击者所用。但防御工具——包括我们自己的——尚未惠及足够多需要它们的防御者。OSS Scanner、我们的 Cyber Verification Program、合作伙伴在我们平台上构建的防御产品,以及 Claude Security,都是我们在这方面的一些努力,我们还会尽快增加其他举措。

我们预测,两年后 AI 将有利于防御:在软件发布前发现漏洞、从头编写本质上安全的软件,以及用模型主动防御系统都将变得更加容易。但在短期内,情况可能并非如此。利用漏洞的成本已经下降,而验证、披露和修复漏洞却进展缓慢,且仍然依赖人力。在 Glasswing 中,我们经常看到从发现漏洞到修复漏洞之间相隔数月。对于运营技术,修复可能必须等到能够安全地应用于运行中的机器——在极少数情况下,这可能需要数十年。

成功意味着水、电力、交通和通信等关键基础设施在面临有能力对手的攻击时仍能持续运行,可被利用的入侵路径更少,且在攻击得逞时能更快恢复。这需要数年时间,我们预计 Anthropic Cyber Mission 将随着我们与公共和私营部门共同摸索出有效做法而不断演变。

前路

在未来几个月里,我们将把关键基础设施防御计划推广到更多合作伙伴和更多行业,并分享我们一路上的经验教训,包括哪些做法没有奏效。我们也预计其他 AI 开发者、安全公司和政府会开展各自的行动,我们愿意在有助于防御者的地方与他们合作。

我们还将扩大工作范围,帮助保障开源和更广泛供应链的安全。这包括研究编写软件的新方式和防御系统的新方式。我们打算分享前沿研究、工具和资源,帮助他人保障其软件和供应链的安全。

如果您愿意与我们合作:

相关内容

2026 年使用政策更新

我们发布了新版使用政策。在这篇文章中,我们总结了所做的变更。

阅读更多

践行我们对美国科学发现的承诺

Anthropic 承诺在三年内向 Genesis Mission 投入 1.5 亿美元,这是一项旨在通过 AI 加速科学和技术发现的联邦计划。

阅读更多

扩展网络验证计划

我们正在推出新版、扩展后的网络验证计划,为符合条件的安全专业人员提供先进的网络能力和降低的拦截分类器。

阅读更多

来源:Hacker News · anthropic.com