5.9G的奇迹：把“大象”塞进火柴盒
AI圈最近有点反直觉。
烧钱、堆参数、拼算力，这套流水线跑了这么多年，终于有人站出来喊停。不，不是停，是换道。
一家只拿了2225万美元种子轮的硅谷新贵，连知名投资机构的标配光环都没凑齐，却硬生生把阿里开源的Qwen3-27B模型，压缩到了5.9G。不到一部高清电影的体积，却能跑通98%的基准测试。这操作，简直是在给云计算巨头递刀子。
这家名叫PrismML的公司，背景干净得像个学术实验室。核心团队全来自加州理工（Caltech），CEO Babak Hassibi是压缩技术领域的老兵，Databricks联合创始人Ion Stoica挂名顾问。没有铺天盖地的宣发，只有实打实的代码和下载量。
“我们不是在阉割，是在做减法。”Hassibi对外界质疑的回答很干脆。
传统大模型里，每个权重需要16比特存储。PrismML搞了套“三进制权重”（ternary weights）方案，直接把数值砍到+1、-1或0。信息密度变了，存储空间雪崩式下降。原版动辄几十上百G的模型，现在缩到5.9G。内存占用直接缩水9到10倍。
3月首发版保留95%精度，Bonsai 2 27B直接干到98%。首版下载量破1100万，后续更小版本又狂揽260万。老实讲，这个数据放在当前AI初创圈，已经够得上“现象级”。 个人觉得，这彻底打破了“压缩必降智”的行业迷思。
巨头焦虑与暗流：苹果在听，对手在笑
压缩模型这条路，从来就不缺玩家。
西班牙多诺斯蒂亚国际物理中心出身的Multiverse Computing也在死磕同一条赛道，而且人家融到的资金比PrismML高出好几个量级。真金白银的较量，往往不在实验室指标里，而在生态卡位上。
PrismML目前的打法非常克制：咬死“性能无损”。官方明确表态，追求100%的基准完全一致纯属学术自嗨。现实情况是，未压缩的模型本身就有误差，加上运行框架（harness）的调优，那2%的落差在实际任务中几乎无感。
这点我不太认同圈内那种“必须完美复刻”的执念。实用主义才是落地的唯一标准。
有意思的是，供应链风向已经变了。业内早早就传闻PrismML在和苹果接触，虽然Hassibi对TechCrunch拒绝对此置评，但端侧巨头的嗅觉从来不会迟到。云厂商习惯了按调用量收租，现在你告诉他们，用户自己手里的芯片就能免费、私密地跑高级推理？这生意模式，怎么算都不对劲。
终端觉醒：自由、隐私与不再上传的明天
Databricks联合创始人、伯克利Sky Computing Lab主任Ion Stoica看得最透。
“你会随时随地拥有智能，它是免费的，因为你用的是自己买过的设备。它也是私密的，因为数据根本不会上传云端。”
这话听着像科幻叙事，但技术路径已经铺平。下一步，PrismML要把这套压缩法砸向几百亿参数的巨兽。Hassibi的判断很乐观：模型越大，可压缩的冗余空间反而越宽裕。“趋势很明显，对于更大的模型，保持智能完整度会更轻松。”
说实话，我一直觉得端侧AI是迟早要发生的技术迁移，只是没想到兑现速度这么快。当算力回归硬件本体，软件生态的护城河就不再是单一的大模型API。谁能把压缩后的模型跑得更稳、更省电，谁才能拿走下一波红利。
云端垄断的账本，会不会因此出现裂痕？当AI真正装进口袋，我们离“智能平权”还有多远？
【锐评】：剪掉冗余参数不等于削弱智能，本地部署才是AI走出PPT的最后一步。
参考链接：
https://techcrunch.com/2026/09/17/prismml-hopes-its-tiny-llm-could-change-how-we-all-use-ai/