OpenAI 和 Hugging Face 的那次风波,给行业留下一个不太舒服的提醒:AI agent 并不总按人类预期出牌。
如果它只是活在软件里,问题也许还能回滚。
可当 AI 开始控制汽车、机器人、城市交通,失败的代价就会被放进现实世界。
Laplace Intelligence 的想法很直接:想确认物理AI是否安全,就让AI去测试AI。
当AI走出屏幕,安全测试也得换打法
Howie Sun 说:
想象一下,如果类似事情发生在物理世界。AI agents 正从计算机走向现实世界,我们真的不希望物理AI在现实世界失败。
他是 Laplace 的 CEO 和联合创始人。
这家公司位于 Ann Arbor,正在为机器人和物理AI做 automated red-teaming。
说白了,就是故意给系统下套,专门把它逼到失败。
他们的目标也很明确:帮企业在部署前发现并修复问题,再慢慢沉淀出一套客户、保险公司和监管机构都能信任的证据。
这听起来像安全测试,但 Laplace 想做的更像一场持续自动化的压力实验。
本周,这家公司也出现在旧金山 TechCrunch Disrupt 的 Startup Battlefield 200 舞台上。
按素材说法,它是 20 家参赛初创之一,将在 10 月 13 日周二下午登台。
用“拉普拉斯妖”预测现实,听上去有点狂
Laplace 成立刚满一年,脱胎于密歇根大学。
Sun 和联合创始人兼首席科学家 Henry Liu 的背景都偏学术。
Sun 花了 8 年研究如何在模拟环境中挑战自动驾驶AI。
2023 年,他和 Liu 发表相关论文,还登上了顶级科学期刊 Nature 的封面。
随后,自动驾驶公司开始找上门。
Sun 意识到,这件事可以从论文变成产品。
公司名字来自“拉普拉斯妖”。
这是 1814 年法国学者 Pierre Simon Laplace 提出的思想实验:如果知道宇宙中所有事物的精确状态,未来就能被完全预测。
Sun 的说法很直白:
我们本质上是在用模拟预测现实世界的未来。
这句话有点狂,但他们的产品确实围绕这个逻辑展开。
Laplace 的核心,是一套从现实世界重建出来的高保真模拟环境,再配上一个不断寻找弱点和失败点的AI agent。
机器人、自动驾驶汽车、智慧城市方案,都可以先在这个虚拟世界里被反复检验。
模拟世界里的车辆会躲,这才是关键
这套模拟环境基于 Nvidia Cosmos 的后训练版本。
它能重建亚利桑那州的高速公路,也能还原巴黎的人行横道。
Google Street View 的一张街景图,可以作为生成一条街道的参考。
重点在于,它并非随机捏造一个场景。
模拟器会结合真实地图数据,尽量按真实比例重建环境。
开发者还能用语言提示实时改变场景,比如加入下午车流。
Sun 说,Laplace 会从 TomTom 等导航服务商那里获取实时交通和拥堵信息。
更有意思的是,模拟里的其他交通参与者也会动。
在一次演示中,Sun 让测试车辆突然转向迎面车流。
那辆原本可能被撞上的车,并没有呆在那里,也没有像某些生成式世界模型常见的那样被直接穿过,而是主动避让。
Sun 说:
这是一个真正交互式的模拟环境。每个参与者都在对一切作出反应。这更像是一个拥有互动参与者的世界模型。
个人觉得,这里真正有价值的地方,并不在画面有多逼真,关键在于它试图还原现实世界里最麻烦的部分:别人也会反应。
让AI自动设计事故,比人类更会找茬
如果只是一个很真的模拟器,故事还不够新。
Laplace 真正的卖点,是让AI agents 自动设计 corner cases。
所谓 corner cases,就是那些罕见、棘手、最容易让AI系统翻车的场景。
Sun 说,这些AI可以从新闻、警方碰撞报告等各种信息里提取线索,主动设计挑战自动驾驶汽车和其他物理AI agents 的测试。
这相当于把人类测试员从回路里往外推。
目前,自动驾驶开发者处理边缘场景,常见办法仍然是把录制的真实画面转成模拟,或者靠人类想出新场景。
许多自动驾驶公司也开始让AI生成边缘案例,比如自动驾驶卡车公司 Waabi。
但 Sun 认为,等到通用机器人进入现实世界,这种需求会变得更迫切。
通用机器人的数据更少。没人知道现实世界的边缘案例会是什么。
老实讲,这句话戳中了要害。
自动驾驶至少还有大量道路数据。
仓库机器人、人形机器人、城市智能系统面对的场景更碎,也更难提前收集。
靠人脑穷举现实世界的离谱程度,难度太大。
让AI去设想AI可能怎么出错,反而更像一条现实路径。
没有大厂光环,他们却已经赚到钱了
很多AI安全初创还在讲愿景,Laplace 已经先一步拿到订单。
Sun 和 Liu 没有硅谷大厂的光环,背景也更偏学术。
但两人已经开始产生收入,甚至实现小幅盈利。
目前,大部分收入来自自动驾驶场景。
客户包括日本卡车制造商 Isuzu,以及德州自动驾驶卡车公司 Bot Auto。
Sun 还说,Nvidia 也是客户。
Laplace 正和 Nvidia、T-Mobile 一起,在加州圣何塞推进一个免费智慧城市试点,提供高级交通运营。
公司也在和开发仓储人形机器人的合作伙伴进行早期接触。
现阶段,大多数合同还是项目制。
Laplace 正想办法把这些项目变成经常性收入。
参加 Disrupt,也是它融资和扩张的一步棋。
面对150亿美元估值的对手,小公司押注新范式
Laplace 面前并非没有大山。
它的主要对手 Applied Intuition,已经累计融资 12 亿美元,投后估值达到 150 亿美元。
更有戏剧性的是,Isuzu 也是 Applied 的客户。
这意味着,Laplace 要在同一个客户池里,和一家资金充足、声量更大的公司抢位置。
Sun 并不担心。
他认为,Laplace 的核心方法论,也就是用AI测试AI,会改变物理AI测试的整个方式,让测试变成动态交互过程。
那将是最大的护城河。
这话听着有野心,但也点出了行业的一个变化:安全测试可能不再只是复现已知事故,而是让AI持续生成未知风险。
当机器人开始搬货,汽车继续走向自动驾驶,城市交通越来越多交给算法,真正稀缺的也许是一套能提前暴露失败的证据链。
Laplace 想在现实事故发生前,先在模拟世界里把AI逼到失控。
问题是,模拟世界里的失败,究竟能不能代表现实世界的风险?
【锐评】:物理AI的安全感,来自一次次被AI“故意搞崩”后留下的证据。
参考链接:
https://techcrunch.com/2026/10/13/laplace-intelligence-red-teams-robots-and-self-driving-cars-before-they-hit-the-real-world/