都在骂AI写的代码慢,他却说:软件再也没理由卡顿了

最近科技圈有个很火的论调。大模型正在制造一堆又慢又臃肿的垃圾代码,等这帮人用汇编语言重写一切的时候,就有好戏看了。

但前微软、现科技圈知名硬核博主 Dan Luu 直接甩出一篇长文打脸。

他的核心观点极其嚣张:软件再也没有理由变慢了。

AI配图

老实讲,刚看到这个标题我觉得他在扯淡。但看完他的实验数据,我沉默了。

以前搞性能优化,那是少数顶尖极客的专属游戏。你需要懂底层、懂硬件、懂各种反人类的编译原理。现在呢?你只需要会打字。

性能优化的成本,正在被AI以几个数量级的速度疯狂压缩。

几分钟干翻人类专家的几个星期

我们来看个极其暴力的数字对比。

Dan Luu 完全不懂游戏AI。他用了最新的大模型,花了一点时间写了个 Azul 游戏AI。结果这个AI直接登顶,把当时的世界第二名按在地上摩擦。

赢在哪?赢在优化。

对手的AI是单线程的。Dan 让大模型帮他写多线程算法。大模型一开始还瞎推理写错了,Dan 花了30分钟查阅资料,然后让AI重写了多次。

如果是人类手写这种多线程算法,加上实现日志回放来debug非确定性bug,起码要熬几天甚至一个星期。现在AI几分钟就搞定了。

在这个游戏里,速度每翻倍,Elo积分就能涨100分。当你叠加十几个这种人类嫌麻烦不想做的优化后,手写的AI根本没法玩。

更有意思的是 Anthropic 的性能面试题。

工程师 Jamie Brandon 自己做了一遍,然后让 Claude 接着做。Claude 不仅补全了他想到但没空做的优化,还搞出了一堆他原话说的“除非搞上几周否则绝不会尝试的疯狂操作”。

个人觉得,在限定时间的优化问题上,人类工程师已经打不过一个 decent 的模型了。

从通用轮子到私人定制

既然优化这么便宜,我们为什么还要用通用软件?

Dan 搞了个叫 FRE 的正则引擎。他让 AI agent 跑了一个月去优化性能。后来他突发奇想,让 AI 在 ripgrep 跑正常匹配的时候,后台起个线程编译原生代码。

长查询性能直接飙升 2到4倍。

这操作听起来很极客对吧?但其实他只花了几分钟打字,剩下的代码手术全交给了 AI。

亚马逊的 Marc Brooker 和 pgrust 的 Michael Malis 都高度认同这个方向。未来的软件,不再是针对某一类工作负载的通用轮子,而是针对你个人、你当前特定工作负载动态生成的定制软件。

Dan 甚至让 AI 针对他自己电脑上的 ripgrep 查询历史做专属优化。两分钟启动,跑出来的结果比标准版快了 2%,而且还在持续变快。

以前这种级别的定制优化,只有大厂的核心业务才配拥有。现在,它成了个人开发者的周末消遣。

反转与打脸:AI真的是性能救星吗

别急着欢呼,现实往往比理论骨感得多。

评论区里直接炸出了不少反面案例。有人吐槽,ChatGPT 的 Mac 客户端经常崩溃,内存莫名其妙飙升到 50GB。这可是拿着地球上最高薪水的工程师、用着最顶级的算力写出来的软件。

还有人怀念 WinXP 和 Win7 时代,吐槽现在 Win11 右键菜单居然要卡顿 1000毫秒。

说实话,这点我不太认同 Dan 的过度乐观。就像评论区一位老哥指出的:

写出高效代码的核心在于内存和缓存的极致利用,这跟大模型目前擅长的文本生成完全是两码事。

大模型依然不懂数据导向设计,也不懂硬件导向设计。它们生成的代码,很多时候只是看起来能跑,实际上冗长且缓慢。

更别提现代软件慢的根本原因,往往是在等网络请求。你代码优化得再飞起,跨洋光缆的 300毫秒延迟你也抹不平。

AI 确实把性能优化的门槛踩碎了。以前你觉得软件慢,是因为优化太贵,老板觉得不划算。现在优化便宜了,但软件真的会变快吗?也许决定软件速度的,从来都不是技术上限,而是人性的懒惰。

【锐评】:AI把优化的门槛踩进了泥里,却把软件臃肿的天花板顶到了外太空。

参考链接:
https://danluu.com/perf-opt/