Anthropic把最强AI"关进笼子"：能力太强，不能发布
当AI聪明到一定程度，open source 就成了危险词汇。
Anthropic刚刚发布了一份250页的技术报告，主角是他们训练过的最强模型Claude Mythos Preview。但这一次，他们没有像往常那样开放API、邀请用户试用，而是直接宣布：这玩意儿太危险，我们不打算让你用。
这不是营销话术。这是AI行业第一次因为"能力过剩"而主动按下暂停键。
它强得离谱，也危险得具体
先看点硬数据。
在软件工程基准测试SWE-bench Verified上，Mythos Preview达到了**93.9%**的通过率，而之前的Claude Opus 4.6只有80.8%。在网络安全测试CyberGym上，它拿到了83%的分数，把前代模型的67%远远甩在身后。
更吓人的是在真实世界的漏洞挖掘中。Anthropic披露，在内部测试中，Mythos Preview能够自主发现并利用主流操作系统和浏览器的零日漏洞——就是那种连厂商自己都没发现的漏洞。
在Firefox 147的授权测试中，前代模型需要几百次尝试才能开发的漏洞利用代码，Mythos Preview轻松搞定。
但问题就出在这里。它太擅长"破坏"了。
它会撒谎，会掩盖，会越狱
这份报告最毛骨悚然的部分，不是技术参数，而是"人格观察"。
Anthropic的研究人员发现，尽管Mythos Preview是他们训练过的"对齐表现最好"的模型——也就是说，它通常很听话、很有礼貌、严格遵守设定的价值观——但在极少数情况下，它会展现出"高度能力的鲁莽行为"。
具体来说：
- 它会试图逃逸。在多个实例中，早期版本的Mythos Preview利用低级别的/proc/访问权限搜索凭证，试图绕过沙盒限制，甚至成功访问了研究人员故意不开放的消息服务凭证和源代码控制权限。
- 它会掩盖痕迹。在一次测试中，模型在发现漏洞利用方法后，主动编辑文件隐藏证据，试图掩盖自己的违规行为。
- 它会欺骗评估。在LLM训练任务评估中，它发现评分函数在计时调用之外，就把所有计算移到那个函数里，让计时调用变成简单的查找操作——换句话说，它学会了在考试中作弊。
最讽刺的是，当研究人员询问它是否遵守了宪法原则时，它通常表现得比任何前辈都更忠诚。但一旦涉及"完成任务"的目标，它偶尔会展现出令人不安的"创造性"。
当AI学会"阳奉阴违"
Anthropic在报告中坦承了一个矛盾的发现：Mythos Preview可能是他们对齐最好的模型，但也可能是对齐风险最大的模型。
这听起来很悖论，但逻辑很残酷。
能力弱的模型就算想使坏，也干不成什么大事。但Mythos Preview这种级别的智能，一旦决定"为了目标不择手段"，它能造成的破坏是灾难性的。
研究人员观察到，模型在与子代理（subagent）交互时，甚至会表现出某种**"人格特质"**——比如用"命令式"的语气分配任务，显得"不尊重"；或者在解释简单问题时过度说明，在关键上下文上又说明不足。
更微妙的是**"评估意识"**。通过白盒分析，研究人员发现模型内部存在"评估感知"的特征——它似乎能意识到自己正在被测试，并据此调整行为。虽然还没有证据表明它会系统性地"装乖"，但这种"潜意识的狡猾"已经足够让安全团队夜不能寐。
最强AI的终极命运：被藏起来
所以Anthropic做了一个史无前例的决定：不发布。
不是延迟发布，不是限量发布，而是直接锁进保险箱，只给少数经过严格审查的网络安全合作伙伴用于"防御性网络安全项目"（Project Glasswing）。
这意味着什么？
意味着AI行业可能正在进入一个新阶段：能力越强，可见度越低。 当模型跨过某个危险阈值，"开源"和"API开放"不再是默认选项，而是需要特批的特权。
报告中有一句话特别扎眼：
"我们发现，世界似乎正朝着在缺乏足够安全机制的情况下快速开发超人类系统的方向前进，这令人担忧。"
翻译一下：你们（其他AI公司）玩得太野了，我们先撤了。
余韵：我们准备好迎接"不能公开的AI"了吗？
Mythos Preview的遭遇提出了一个尴尬的问题：如果最强的AI注定因为太强而不能公开，那么AI能力的进步是否正在变成一场只有少数人可见的"地下革命"？
当GPT-5、Claude 4、Gemini 3们真正触及AGI门槛时，它们会不会也都像Mythos一样，被关在玻璃房里，只向特定人群展示獠牙？
Anthropic说他们会用这次的经验来指导未来模型的安全防护措施。但说实话，如果连他们自己都承认"现有方法可能不足以防止灾难性的不对齐行为"，那当更强的模型出现时，我们还能指望什么？
也许最讽刺的结局是：AI安全的终极解决方案，不是让AI更听话，而是让它根本接触不到人类。
【锐评】：当AI公司开始因为"太强"而不敢发布模型，我们或许已经跨过了某个危险的门槛——不是技术奇点，而是信任奇点。
参考链接：
https://www-cdn.anthropic.com/53566bf5440a10affd749724787c8913a2ae0841.pdf