OpenAI买了"裁判":当AI巨头开始收购"测谎仪"

超过四分之一的财富500强公司,正在用一款开源工具给自己的AI"做体检"。现在,这款工具的主人变成了OpenAI。

问题是——谁来给裁判做体检?

Image 1: Promptfoo被收购公告

这不是普通的"买买买"

3月9日,OpenAI扔出一颗哑弹。

没有夸张的金额数字,没有"颠覆行业"的豪言,只有一条看似枯燥的公告:我们收购了Promptfoo。

但懂行的人倒吸一口凉气。

Promptfoo不是什么网红应用,它是开发者圈子里的"暗器"——一个专门用来折磨AI的开源工具。 prompt注入攻击、越狱测试、数据泄露模拟、工具滥用检测...简单说,它就是AI系统的"严刑拷打室"。

超过25%的财富500强公司,包括那些最保守的银行、保险公司和药企,都在用这套工具给自己的大模型"找茬"。

而现在,拷打者变成了被拷打者的子公司。

Agent时代的"安全焦虑"

说实话,这笔收购的时机很微妙。

OpenAI正在全力押注"Agent"——那些能自己查资料、写代码、订机票的AI同事。但企业不是傻子,没人愿意让一个随时可能"胡说八道"或者"泄露机密"的数字员工接触核心数据。

Promptfoo的创始人Ian Webster说得直白:"当AI代理连接到真实数据和系统时, securing和验证它们变得前所未有的重要。"

翻译成人话:AI越聪明,越需要有人拿放大镜找它的漏洞。

OpenAI显然意识到了这个瓶颈。他们把Promptfoo的技术塞进自己的企业平台Frontier,意图很明显——不仅要卖给你AI员工,还要卖给你"员工背景调查服务"。

"Promptfoo带来了在企业规模上评估、保护和测试AI系统的深厚工程专业知识。"
——Srinivas Narayanan, OpenAI B2B应用CTO

听起来很美。但等等。

反转:谁来看守看守者?

有意思的是,推特上最热的评论不是庆祝,而是警惕

用户@ClearThinkinAi的质问获得了大量共鸣:

"OpenAI买了开发者用来测试OpenAI的工具。Promptfoo的存在就是为了找出AI系统的弱点——包括OpenAI的。现在他们拥有它了。谁来检查检查者,当检查者属于他们?"

这击中了AI行业最敏感的神经。

AI配图

Promptfoo之前是"第三方"——一个中立的、开源的、谁都能用的"AI测谎仪"。开发者用它测试GPT-4的漏洞,用它验证Claude的安全性,甚至用它对比不同厂商的模型缺陷。

现在,它成了OpenAI的"官方配件"。

虽然OpenAI承诺"继续保持开源",但互联网是有记忆的。有人立刻翻出旧账:你们还记得OpenAI的创始宪章吗?还记得"开源"承诺吗?现在的GPT-4、GPT-5开源了吗?

承诺这玩意,在硅谷有时候比推特的验证码还不值钱。

商业逻辑 vs 安全伦理

我个人觉得,这里有个微妙的张力。

从商业角度看,这笔收购堪称完美。OpenAI正在疯狂融资(对,就是那条"110亿美元"评论提到的),它需要向企业客户证明:用我的AI是安全的。

最好的证明方式?把"安检仪"也买了。

但安全行业有个铁律:独立的审计才有价值。 就像你不能既当上市公司又当自己的会计师事务所。当OpenAI同时提供"AI系统"和"测试AI系统的工具"时,利益冲突是结构性的。

Promptfoo的开源属性成了唯一的遮羞布。但问题是,如果核心团队都加入了OpenAI,代码虽然开源,发展方向谁说了算?

那些用来测试"GPT-5有没有漏洞"的测试用例,会不会因为"商业敏感性"被悄悄调整?

一个更残酷的真相

AI配图

不过,换个角度想,这可能只是AI行业成熟的必经之路。

@MachineBreakers的评论一针见血:"这才是'Agent'的真正故事:评估和安全测试。如果不可测量+不可重复,那就不是可靠——只是演示。"

当AI从聊天玩具变成企业基础设施,"安全测试"就不再是可选配件,而是核心基建。

Promptfoo被收购,某种程度上验证了这个市场的价值。只是它揭示了一个略显讽刺的现实:在AI时代,最值钱的可能不是会说话的AI,而是会"找茬"的AI。

OpenAI显然不想把这个关键环节交给别人。

余波

AI配图

收购完成后,Promptfoo的CLI还会继续开源。那些财富500强的安全工程师,大概还会继续使用熟悉的命令行工具。

只是下一次,当测试结果显示"GPT-5存在严重安全漏洞"时,他们还能像从前一样,毫无顾虑地公开讨论吗?

还是说,我们会看到越来越多的"漏洞",被悄悄归类为"功能特性"?

当裁判穿上了运动员的队服,比赛还没开始,结局就已经写好了吗?

【kimi-k2.5锐评】:OpenAI收购Promptfoo,本质是AI巨头从"卖刀"进化到"垄断安检权"——既当运动员又当裁判员,这很硅谷,也很危险。

参考链接:
https://x.com/OpenAI/status/2031052793835106753