昨天,OpenAI 做了一件以前发誓绝对不做的事。
他们和五角大楼达成了协议,要把最先进的 AI 模型部署到机密环境中。
以前那个声称“为了人类福祉”、坚决不碰军事领域的 OpenAI,仿佛已经是上个世纪的传说了。
更有意思的是,OpenAI 不仅接了单,还在公告里公然拉踩竞争对手 Anthropic,大意是:
我们谈下来的合同,比他们的更安全、更有底线。
红线画得再圆,也遮不住变味的初衷
OpenAI 这次显然是有备而来。
为了平息外界的质疑,他们上来就划了三条醒目的“红线”,试图证明自己还是有底线的:
- 绝不用于大规模国内监控。
- 绝不用于指挥自主武器系统。
- 绝不用于高风险的自动化决策(比如那种臭名昭著的“社会信用”评分)。
听起来很美好?但老实讲,这些承诺在现实面前显得有点脆弱。
OpenAI 强调,他们的模型只会在云端运行,不会部署在边缘设备(比如无人机或机器人终端)上。他们觉得这样就能拦住自主武器的开发。逻辑是:没有本地算力,武器就没法“自主”。
但这在技术上简直有点掩耳盗铃。只要 API 接口够快,云端和本地的界限其实很模糊。网友的评论一针见血:“难道通过 API 调用就不算自主武器了吗?这种定义简直让人细思极恐。”
OpenAI 还特意强调,他们保留了“安全栈”的完整控制权,会有通过安全审查的 OpenAI 工程师“在环”(in the loop)进行监督。
说白了,就是既当运动员,又当裁判员。既赚了军方的钱,又想握住最后的“道德刹车”。
踩着 Anthropic 上位,这波操作有点“狠”
这篇公告最精彩的部分,其实是对 Anthropic 的“背刺”。
大家都知道,Anthropic 是由前 OpenAI 员工创立的,一直以“安全第一”自居。但在和军方的谈判桌上,Anthropic 似乎碰了钉子。
OpenAI 在文章里毫不客气地写道:“我们认为我们的协议比之前的任何协议——包括 Anthropic 的——都有更多的护栏。”
甚至还得寸进尺地补了一刀:作为交易的一部分,他们要求五角大楼把这些优厚条款向所有 AI 公司开放,“特别是为了解决政府和 Anthropic 之间的问题”。
这话说得太有水平了。翻译一下就是:Anthropic 谈不下来的条件,我 OpenAI 谈下来了;不仅谈下来了,我还以此证明了我们比他们更懂怎么平衡安全和业务。
根据 OpenAI 的说法,Anthropic 之前担心合同无法保障红线不被突破。而 OpenAI 觉得自己做到了——通过合同条款、云端架构和人员介入的三重锁。
甚至当被问及“Anthropic 是否会被视为供应链风险”时,OpenAI 还假惺惺地表示:“不,我们已经向政府表明了立场,我们不希望他们被针对。”
这一套组合拳,既展示了自己的肌肉,又在道义上占了高地,虽然这高地看着有点晃悠。
“合法”二字,成了最大的保护伞
说实话,这份合同里最让人不安的,不是技术细节,而是那些法律辞令。
合同里有一段核心表述:
“战争部可以将 AI 系统用于所有合法目的……AI 系统不会用于独立指挥自主武器……任何使用都必须符合法律、法规和部门政策。”
看起来很严谨?但网友的吐槽非常犀利:“告诉一个有权制定法律的实体‘你只能把它用于合法目的’,这基本等于说‘你想干嘛就干嘛’。”
如果法律变了呢?如果政策松绑了呢?
OpenAI 的解释是,合同里明确引用了当下的法律和政策。也就是说,即便未来法律放宽了,对 OpenAI 模型的使用限制依然要参照签约时的标准。
这听起来像是一种“道德锁死”。但在巨大的国家机器面前,一家商业公司的合同条款能坚持多久,恐怕只有天知道。
更有意思的是,文中多次使用了“Department of War”(战争部)这个词。美国国防部早在 1947 年就改名了,OpenAI 在这里用这么复古的词,不知道是想搞点黑色幽默,还是单纯为了显得硬核。
把道德责任外包给法律,这招真高
OpenAI 在文章最后试图升华主题。
他们说,因为相信民主,所以 AI 必须和民主进程深度合作;因为技术会带来风险,所以保卫美国的人手里必须握着最好的工具。
这套逻辑闭环很完美,几乎无懈可击。
但这掩盖不了一个事实:OpenAI 正在把道德判断的责任,外包给法律条文。
只要行为是“合法”的,只要符合“操作要求”,那就不是我的错。这种逻辑让人想起了历史上某些科技公司——比如当年给某些国家提供人口统计机器的公司,他们当时也觉得自己只是在做生意,而且完全合法。
评论区有人直接把这种做法比作“IBM 在 1930 年代的行为”。
这听起来可能有点过激,但反映出了一种普遍的焦虑:
当 AI 公司开始积极拥抱军事订单,并用复杂的法律术语来包装安全承诺时,我们离那个“终结者”的未来,究竟是更远了,还是更近了?
参考链接:
https://openai.com/index/our-agreement-with-the-department-of-war