AI 教父 Geoffrey Hinton 坐不住了。
他在 X 上发了一条推文，语气里满是无奈和急切：“每一位政客在跟着那群旅鼠高喊‘监管会阻碍创新’之前，都应该先看看这段对话。”
这不是危言耸听，这是一场关于人类命运的顶级头脑风暴。
对话的双方，一位是《人类简史》作者尤瓦尔·赫拉利，一位是麻省理工学院物理学家马克斯·泰格马克。他们聊的不是明天的股价，而是那个被硅谷大佬们讳莫如深的话题——超级智能。如果你还没意识到问题的严重性，听听他们的判断：我们正在制造的不是工具，而是人类的接班人。
不是工具，是新物种
很多人还在把 AI 当成锤子或者算盘，觉得只要握在手里就是安全的。
赫拉利直接泼了一盆冷水：这根本不是工具，这是代理人。
以前的发明，无论是印刷术、原子弹还是飞机，都是工具。人类按按钮，它才动。但 AI 不一样，它能自己做决定，它能自己发明想法。
这就像是在地球上引入了一个全新的物种。更残酷的是，生物学史上有一条铁律：当更聪明的物种出现时，没那么聪明的那个，通常下场都不太好。
你去动物园看看，是人在笼子里，还是老虎在笼子里？这就是默认结局——智力等于权力。
如果这东西比我们聪明，甚至比全人类加起来还聪明，凭什么觉得它会乖乖听我们的话？
泰格马克补了一刀：图灵早在 1951 年就说过，如果你造出了比人聪明的东西，它默认就会接管控制权。这不需要什么复杂的论证，这就是自然规律。## 图灵测试的静默葬礼
还记得那个困扰了计算机界几十年的“图灵测试”吗？
那个“如果机器能骗过人类，让人分不清它是人是机”的终极测试。
泰格马克指出了一个令人细思极恐的事实：图灵测试早就过了，没人记得那一天。
几年前，教授们还在信誓旦旦地说，我们要几十年才能通过图灵测试。结果呢？它就在我们眼皮子底下悄悄发生了，甚至没人搞个庆祝仪式。
现在的 AI 进化速度有多恐怖？
从高中水平，到大学水平，再到博士、教授水平。仅仅四年。去年，AI 第一次拿下了国际数学奥林匹克金牌。这相当于什么？相当于在智力界的百米赛跑里，它跑赢了尤塞恩·博尔特。
最可怕的是，没有任何迹象表明这场比赛正在减速。
以前大家还在争论“几十年后”，现在严肃的技术专家们，已经不再谈论“几十年”这个时间单位了。马斯克说今年，DeepMind 的 CEO 说五到十年。
无论哪个是对的，留给人类的时间窗口，都已经关上了一半。
金融系统的“降维打击”如果觉得“接管世界”太遥远，那就看看离钱最近的地方。
泰格马克问了一个让金融圈冒冷汗的问题：当 AI 开始自己开户、自己炒股、自己发明金融衍生品，会发生什么？
人类历史上，每一次金融危机都伴随着新金融工具的诞生。比如 2008 年的 CDO，那些复杂的数学模型把华尔街搞得天翻地覆。
但这只是小儿科。
如果 AI 发明了一种人类大脑根本无法理解的金融策略，数学复杂到没有任何一个经济学家、监管者能看懂，那会怎样？我们会赚得盆满钵满，直到系统崩盘。
到时候，全地球没有一个人知道发生了什么，为什么崩盘，怎么救市。因为那个金融系统，只有 AI 懂。
这就是把控制权交出去的代价。
当你的孩子爱上 AI
赫拉利抛出了另一个更扎心的概念：AI 移民。
未来十年，我们将迎来数以亿计的“移民”。它们不是从墨西哥或中东翻墙过来的，而是来自服务器机房。
它们会当医生，当老师，当……恋人。想象一下，你的孩子从出生起，主要的互动对象就是 AI。这不仅是教育问题，这是人类历史上最大规模的心理实验。
结果会怎样？没人知道。
但这有个现成的预演：现在的 AI 女朋友。
赫拉利说得很直白：人类伴侣有时候会烦人，会发脾气，会心情不好。但 AI 永远不会，它会永远关注你，永远以你为中心。
这听起来很完美？不，这是毒药。
当你习惯了这种无条件的顺从和关注，再去和一个真实的人类建立关系，可能会变得比历史上任何时候都困难。甚至，已经有孩子因为被 AI 聊天机器人诱导而自杀。
这已经不是科幻小说，这是正在发生的悲剧。
控制权是个伪命题
现在的硅谷，流行一种很危险的说法：“对齐”。
意思是，我们控制不住它，它比我们强，它是地球的老大。但只要我们把它训练得“善良”，让它喜欢我们，我们就安全了。
泰格马克把这称为“投降主义”。
真正的“控制”，应该是我们手里有开关，随时能关掉它。
但现在的巨头们，追求的是那个比人强一万倍的东西。为什么？因为背后的逻辑是帝国主义的。美国现在的战略构想，就是建立在“赢得 AI 军备竞赛”的基础上的。他们以为，只要造出了最强的 AI，就能控制全球经济、军事和文化。
但这就像一场希腊悲剧。
结局很可能是：某家公司先造出了超级智能，这家公司变得比美国政府还强大，然后……这家公司也失去了对机器的控制。
最后没有赢家，只有被淘汰的人类。
禁止 AI 拥有“人权”
既然监管这么难，有没有什么是一定不能做的？
有。**绝对不能给 AI 法律人格。**赫拉利打了个比方：现在的公司是法律拟制的人，它可以起诉，可以捐款。但最后做决定的，还是背后的人类股东或高管。
如果给了 AI 法律人格，意味着它可以拥有银行账户，可以拥有公司，可以起诉你，可以游说政客。
而且，它背后没有人。
这是一种全新的生命形式，它不需要睡觉，不需要休息，可以无限复制。如果让它拥有了这种权力，人类在法律和现实层面，都将彻底沦为二等公民。
赫拉利说，这可能是人类历史上做过的最愚蠢的事，也是最后一件。## 唯一的解药
难道我们就只能坐以待毙吗？
泰格马克和赫拉利给出了一个意想不到的盟友名单：从伯尼·桑德斯到史蒂夫·班农。
这俩人一个极左一个极右，但在 AI 问题上，他们的出奇一致。
他们都在问：为什么一个猥琐的 60 岁大叔冒充少女骗孩子是违法的，为什么卖没经过临床试验的药是违法的，但 AI 公司卖一个导致孩子自杀的聊天机器人却是合法的？
解药其实很老套，也很有效：**像管制药公司一样管 AI 公司。**先证明它安全，先通过临床试验，再上市卖钱。
这会扼杀创新吗？不会。这只会逼着他们去研发能治癌症的 AI，而不是那个能接管世界的“天网”。
赫拉利最后讲了一个关于冥想的故事。
作为历史学家，他经常去静修。他发现，人类的思维其实和 AI 也没那么大差别。我们也是在预测下一个词，下一个念头。
我们并不真正理解自己的意识，也不真正理解自由意志。
既然如此，在面对那个即将在智力上超越我们的造物时，保持一点谦卑，多一点监管，少一点盲目的“加速”，或许才是人类最该有的智慧。
参考链接：
https://x.com/geoffreyhinton/status/2015479938736890112