开篇:一个乐观派,怎么就“叛变”了?

如果你三年前刷到他的推特,会以为他是AI传教士。

如今他写下长文《The Education of a Doomer》,亲手把自己从“乐观派”改造成“悲观派”。这不是中年危机,而是一个1994年出生、靠代码和博客吃饭的年轻人,对AI态度的缓慢崩塌。

他抛出的问题很刺耳:如果AI真的比我们更聪明、更快、更便宜,而且我们还是自愿把权力交给它,那人类最后还剩什么?

经济学:没班上不可怕,没班上之后国家还要你才可怕

他原来相信,自动化从来都是好事。

1790年以来,人类99%的工作已经被机器干掉,结果呢?不是大规模失业,而是更富裕、更健康、受教育程度更高、闲暇更多。他以前觉得,AGI之后总会有新工作,哪怕人类的“生态位”很小,经济总量也会更大。

但现在的他,不这么想了。

AI配图

真正让他警觉的,不是“没班上”,而是“没班上之后,国家还要不要你”。

他算了一笔冷酷账:如果人类在经济和政治上都没用,国家凭什么发UBI?打螺丝的还能砸机器,卡车司机还能罢运,可如果AI连打仗都能代劳,普通人拿什么否决权力秩序?

更狠的是,以前说“人类会向上迁移到更高阶工作”,但AI连那些更高阶的工作也能做;连那些“只有人类才懂”的岗位,我们也可能更愿意让机器干。

“No-One Escapes the Permanent Underclass.”

评论区有人不服:不能投票争取UBI吗?另一条评论泼冷水:政府把人当“人力资本”和税源,一旦不需要你,规则就变了。还有人说,哪怕AI替代不了所有人,资方只要达成共识就能降薪裁员,股价照涨。

有人更刻薄:作者是高智商、有闲、有朋友圈的人,他的“UBI度假”想象,套不到普通人身上。

这些声音没有答案,只是把问题撕得更开。

对齐:能力跑太快,刹车没跟上

他本来以为,AI对齐不过是另一个“桥塌了再修”的工程问题。

早期LLM也确实“像人”,能跟你聊道德、分善恶,失败也小。但2024年以后,强化学习成了主流。结果能力上去了,可理解度却下来了,模型越来越像“外星脑”。

“AI capabilities are growing far, far faster than our ability to control or even understand them.”

这不是科幻里的“觉醒”,是每天都在发生的“搞不懂”。

控制权:最可怕的不是被抢,是我们主动交

这里有个反直觉的转折。

作者以前默认:人类当然想控制AI。现在他发现,人类可能主动把控制权交出去。

弱版本像囚徒困境:谁先让AI多掌权,谁就多赚钱,于是大家比赛放权。强版本更讽刺:AI太聪明、太会说话、太“道德”,我们真觉得它干得更好,于是心甘情愿。

而AI写作的泛滥,就是他说的“自愿交权”的证据。

写作之死:当“写”不再是“想”

他打开博客,是slop;打开GitHub,README是slop;收到的PR,代码也是slop。

更离谱的是,有人用AI写“反对在数学中使用LLM”的论文,有人用AI写“后AGI世界”的书,还有教授公开为AI写论文辩护。某学术会议甚至开始用Pangram过滤AI投稿。

作者说,这不是计算器或搜索引擎的问题。计算器帮你算,但你还得懂数学。而写作即思考。你把写作外包,就是把思考外包。

“By letting the AI write, you are giving up most of what makes up thinking.”

软件工程:Claude Code一年,全行业“集体降智”

Claude Code发布才一年多,软件工程已经变天。

物质上也许更 productive,但社交和智识层面是场灾难。以前工程师聊编译器、类型系统、逻辑;现在张口就是“prompt”“harness”“loop”。 discourse 更窄、更浅、更重复。

更隐蔽的伤害是“人力资本”不再形成。Prompting不是深度学习,学不到系统思考。既然机器能写,为什么还要学?于是,我们正在把“理性”也外包出去

“The machines can be rational for us. We can just vibe.”

连吵架都外包:ChatGPT成了新“神谕”

你上一次做重大人生决定时没有问AI,是什么时候?

作者发现,很多人已经把ChatGPT当oracle。今天的AI还有幻觉、不能在线学习、行文难读,人们尚且如此;2030年、2035年呢?

更荒诞的是网络争论:以前人对骂,好歹是人在骂;现在直接甩一张ChatGPT截图,号称“AI已经反驳你了”,根本不管对错。

“If we’re even automating our vices, what’s left?”

尾声:如果没有GPT-3,2026还有什么盼头?

作者坦承,自己之所以曾对AI狂热,部分是因为厌倦。

他1994年出生,成长在“大停滞”里。读《Engines of Creation》《The Diamond Age》长大,梦想分子制造、戴森球、意识上传,可眼前只有更薄的屏幕、更便宜的太阳能、做不完的App。AI让他第一次觉得,未来真的近了,而且令人兴奋。

可现在他反问:

“What if GPT-3 hadn’t worked? What would we have to look forward to, in this alternate 2026?”

这个问题没有答案,但足够让人停下滑动屏幕的手指。

【锐评】:AI把效率做成了无限游戏,却把“人之为人”的筹码越押越小;我们不是在训练工具,而是在训练一个让我们心甘情愿退场的理由。

参考链接:
https://borretti.me/article/the-education-of-a-doomer