那个曾经发誓要为AI装上“刹车”的公司,自己先踩下了油门。
本周二,Anthropic做了一件让整个科技圈大跌眼镜的事:它宣布废除实施了两年的核心安全政策。
要知道,这家公司可是由OpenAI的“流亡者”创立的,当初就是因为觉得OpenAI不够重视安全才出来单干。
他们一直标榜自己是AI行业里最有“灵魂”的公司,是那个会在狂奔的赛道上主动系鞋带的“好孩子”。但现在,鞋带解开了。
当“竞优”变成“竞底”,谁还敢踩刹车?
说实话,这理由找得挺“现实主义”。
Anthropic在博客里说,两年前他们推出“负责任扩展政策”,本意是想带个好头,搞一场“竞优赛”。意思是:我设了护栏,你们也得设,大家一起安全地卷。
结果呢?现实狠狠打了一记耳光。
行业直接无视了这些护栏,一脚油门踩到底。
Anthropic在声明里无奈地表示,原来的政策有个致命条款:如果模型能力失控,就暂停训练。
现在看来,这简直就是“自杀式条款”。
如果只有老实人停下脚步,而那些“鲁莽的玩家”还在疯狂往前冲,最后的结果反而是世界变得更不安全。
这逻辑听起来是不是有点耳熟?像不像小时候班里那个不写作业的学霸说的:“大家都抄答案,我不抄我就落后了。”
Anthropic首席科学官Jared Kaplan在接受《时代》周刊采访时说得就更直白了:
“如果竞争对手在狂飙,我们单方面承诺暂停训练,这对谁都没好处。”
于是,他们把那个硬性的“暂停键”给拆了。取而代之的,是一个所谓的“前沿安全路线图”。
名字听起来很宏大,但性质变了——从“硬性承诺”变成了“非约束性框架”。
用人话翻译就是:以前是“到了红线必须停”,现在是“到了红线我们尽量汇报,争取下次注意”。
一边是2亿美金合同,一边是政府黑名单
更有意思的是时间点。
就在Anthropic宣布这一政策调整的同一天,五角大楼那边正上演着一场生死博弈。
据CNN报道,美国国防部长Pete Hegseth在周二给Anthropic CEO Dario Amodei下了最后通牒:
周五之前必须撤销AI安全限制,否则就取消那笔价值2亿美元的五角大楼合同。
甚至,五角大楼还威胁要把Anthropic列入政府黑名单,这基本上等于在这个行业里被判了死刑。Hegseth甚至打算动用《国防生产法》,直接把Anthropic定性为“供应链风险”。
这压力,谁顶得住?
虽然知情人士拼命向媒体解释:“政策调整和五角大楼的谈判完全无关,两件事是独立的。”
但这解释是不是有点太“此地无银三百两”了?这周刚好要跟国防部硬刚,这周刚好就宣布放宽安全限制,这巧合得让人有点想笑。
不过,Anthropic似乎也没完全跪下。据说他们在跟国防部的谈判里还守着两条底线:拒绝AI控制武器,以及拒绝针对美国公民的大规模监控。
这点倒是值得给个好评,至少还没把灵魂彻底卖干净。
把“刹车片”拆了,说是为了跑得更快
对于这次政策大转弯,Anthropic的公关话术那是相当漂亮。
公司发言人对CNN说,这是“迄今为止最强大的政策”,因为他们承诺会定期发布详细报告,公开透明地给自己打分。
“这些不再是硬性承诺,而是公开目标,我们将公开评估我们的进展。”
听听,这味道多熟悉。把“我不保证能做到”包装成了“我会公开透明地告诉大家我没做到”。
这在硅谷似乎已经成了某种标准剧本。
当年Google说“Don't be evil”,后来也不怎么提了;
OpenAI为了商业化把“Non-profit”的皮给脱了。
现在轮到Anthropic,那个曾经最讲原则的“安全卫道士”,也开始学会变通了。评论区里有人一针见血地指出:
“AI领域的公共利益公司现在就是个笑话。他们只是戴着不同帽子的普通公司,受同样的金钱动力驱使。当作恶有利可图而不作恶会亏钱时,你猜他们会走哪条路?”
这话虽然刻薄,但确实难反驳。
没有灵魂的公司,只有资本的博弈
老实讲,我个人觉得Anthropic的困境其实挺真实的。
如果你是那个手里握着核按钮的人,看着对手都在乱按按钮,你坚持“我不按”确实显得很圣母,但也可能很愚蠢。
在华盛顿现在的反监管政治气候下,在这个赢家通吃的AI战场里,所谓的“道德洁癖”可能真的是一种奢侈品。但这依然让人感到一种深深的无力感。
那个曾经让我们觉得“科技向善”还有点希望的“灵魂”公司,最终还是选择了向现实低头。
他们告诉我们,拆掉刹车是为了更好地控制赛车,是为了不让坏蛋超车。
这理由或许在商业逻辑上无懈可击,但在信任的账本上,这无疑是一笔巨大的赤字。
当所有的科技公司都在说“我不得不狂奔,因为别人在狂奔”时,这场没有刹车的赛车,最后的终点到底在哪里?
参考链接:
https://www.cnn.com/2026/02/25/tech/anthropic-safety-policy-change