最扎眼的一幕来了。

AI 公司不再只比模型会不会写代码,开始比谁更能守住电网、水厂、交通系统和开源软件。

Anthropic 宣布启动 Anthropic Cyber Mission。

这项计划的目标很直接,给关键基础设施和开源软件的防守方提供工具、研究和资源。

简单说,AI 攻击越来越快,Anthropic 想把 Claude 塞进防守一侧。

AI 公司下场,先补最危险的两块短板

官方公告把这件事拆成两个方向。

一块是关键基础设施。

Anthropic 推出 Critical Infrastructure Defense Program,简称 CIDP,面向电力、水务、交通等运营技术系统,也覆盖政府系统。

另一块是开源软件。

Anthropic 推出 OSS Scanner,为开源项目提供来自强模型的定期安全扫描,免费。

有意思的是,这并不是一次普通的新产品发布。

Anthropic 把之前的 Project Glasswing 并入了扩展后的 Cyber Verification Program。

也就是说,过去那种扫描漏洞、报告漏洞的项目,被升级成更大的防守计划。

发现漏洞只是开始,验证、排序和修复才是真正难的地方。

这句话基本是整篇公告的潜台词。

真正的战场,已经从聊天框挪到电厂和水厂

很多人对 AI 安全的想象,还停留在诈骗邮件、钓鱼链接、恶意代码生成。

但 Anthropic 这次盯上的是更硬的系统。

公告里提到,电网、水务、工厂和交通网络依赖控制器、控制软件和工业网络。

这些系统叫 operational technology,很多设备设计寿命以十年计。

麻烦就在这里。

这类系统经常不能停机打补丁。

一个已知漏洞,可能挂在生产环境里很多年。

设备专有,改动风险高,一次误操作甚至可能让工厂停摆。

个人觉得,这才是 AI 安全最现实的压力。

模型可以很快找到弱点,但现实世界的修复流程仍然很慢。

Anthropic 也承认,国家级对手已经在多个行业的关键系统里潜伏多年。

防守方有经验,但资源严重不足。

说白了,攻击方在提速,防守方还在排队。

11 家安全公司被拉进同一个防守群

为了啃下关键基础设施这块硬骨头,Anthropic 拉出了一份很长的名单。

创始合作伙伴包括 Accenture、Booz Allen、CrowdStrike、Deloitte、Dragos、Hitachi、Insane Cyber、Nozomi Networks、Palo Alto Networks、PwC、Rockwell Automation。

这个组合很有针对性。

有咨询公司,有安全厂商,有工业设备制造商,也有做工业网络安全和威胁情报的团队。

Rockwell Automation logo

PwC logo

Palo Alto Networks logo

Nozomi Networks logo

Insane Cyber logo

Dragos logo

CrowdStrike logo

Hitachi, Ltd. logo

Deloitte & Touche LLP logo

Booz Allen logo

Accenture logo

这些机构会拿到 Anthropic 的前沿 Claude 模型、现场工程师和威胁研究支持。

Anthropic 的说法是,先和一小批服务商合作,找出哪些策略真正有效、可落地。

几家合作伙伴的表达也很一致。

Palo Alto Networks 认为,威胁方正在用 AI 以机器速度发现和利用暴露面,防守方也需要速度和精度。

CrowdStrike 的说法更直接。

关键基础设施的网络风险会变成现实风险,面对机器速度的威胁,需要机器速度的防守。

Insane Cyber 提到,最需要保护的地方,比如远程变电站、海上平台和隔离工厂,往往传统工具到不了,专家也派不够。

Claude 可以帮助处理海量数据,让人去做判断。

Booz Allen 则把运营技术称为自主 AI 攻击的下一个前沿。

老实讲,这些话听起来像行业宣言,但背后是一个很朴素的问题。

人都忙不过来了,AI 能不能先帮忙筛一遍。

Anthropic 还提到,6 月他们启动了面向州、地方、部落和领地政府的网络防御项目。

之后已经向超过一半美国州,以及一些大型公共关键基础设施运营商提供 Claude 模型和技术支持。

用途包括代码扫描、补丁、事件响应和红队测试等安全工作流程。

开源世界也在裸奔,免费扫描器来了

如果说电网和水厂是明面上的硬骨头,开源软件就是暗处的地基。

几乎所有软件都依赖开源代码。

很多项目由小团队甚至志愿者维护。

Anthropic 在 Project Glasswing 下扫描了数百个广泛使用的开源项目。

他们人工审查了一部分潜在漏洞,再通过协调披露流程私下报告给维护者。

反转也在这里。

有些维护者干脆说,把模型找到的所有东西都给我们,哪怕还没人工审查。

于是有了 OSS Scanner。

这是一个 opt-in 服务,灵感来自 Google 的 OSS-Fuzz。

加入的项目会定期收到来自 Anthropic 强模型的扫描报告,免费。

报告里包含漏洞如何被利用的 proof of concept、解释,以及可用时的修复建议。

需要注意的是,报告由模型生成,不经过人工审核。

速度更快,但也会有不准确的地方,比如严重级别判断错误。

Anthropic 预计真阳性率会超过 90%,后续继续提升。

这点我保留意见。

90% 真阳性率听起来不错,但对人手不足的开源团队来说,剩下那 10% 误报也可能变成新的负担。

不过,Anthropic 至少把选择权交给了维护者。

有能力处理大量发现的项目,可以拿原始报告。

其他项目继续接受人工验证后的披露。

他们还资助了 Python Software Foundation、Alpha-Omega、OpenSSF、Apache Software Foundation,以及 Akrites 和 Gold Eagle。

8 月推出的 Defender Advantage Fund 也会支持相关试点,并保持 OSS Scanner 免费。

真正的反转:AI 还没让防守赢,只是先补作业

这篇公告最值得看的,是它挺诚实。

Anthropic 说,高网络能力的 AI 模型已经广泛落在攻击者手里。

防守工具,包括他们自己的工具,还没有触达足够多需要的人。

他们也给出一个判断。

两年后,AI 可能更偏向防守。

到那时,漏洞更容易在发布前被抓到,软件可以从一开始写得更安全,系统也可以用模型主动防守。

但短期未必。

原因很现实。

利用漏洞的成本在下降,验证、披露和修复仍然慢,仍然依赖人。

在 Glasswing 项目里,漏洞从发现到修复经常过去几个月。

到了运营技术环境,修复可能要等系统安全停机。

极端情况下,甚至要等几十年。

所以,Anthropic 给成功下的定义也很克制。

水、电、交通、通信在面对强对手攻击时还能继续运行。

可利用入口更少,恢复更快。

这并不是一篇 AI 解决一切的宣言。

它更像一场抢时间。

当攻击开始以机器速度推进,防守方至少不能再靠纯人力慢慢翻页。

问题是,补丁、流程和旧系统,真的能跟上吗?

【锐评】:AI 安全最讽刺的地方,攻击已经自动化,防守还在等排期。

参考链接:
https://x.com/AnthropicAI/status/2108302539498414208