开源后训练框架,把行业标准按在了摩擦区

没有发布会,没有高管站台。只有一段GitHub代码和一条推文。但就是它,让开源圈安静了整整一周。

吞吐量干到标准TRL的2.8倍,峰值内存反而砍掉四分之一。模型格式还死死兼容HuggingFace原生加载。说实话,这组数据放在昨天,属于实验室里的理论幻想。今天,它叫Halo。

9月21日,White Circle团队正式放出该项目。短短时间,推文飙出近40万播放,上千次互动。开发者没空看概念,直接跑基准测试。结果很直观:在8张B300显卡的集群上,Halo不仅跑得比原版TRL快得多,还顺手把显存压力卸下了大半。

“Every model we train at White Circle now uses Halo.”

速度翻倍,内存却敢“做减法”

训练大模型,最怕什么?怕卡在显存墙前,只能调小batch size;怕吞吐量上不去,烧钱的速度赶不上发版的速度。Halo这次的Benchmark直接撕开了一道口子。

官方实测数据摆在这:单卡跑gpt-oss-20b,吞吐量冲到24,456 tok/s。换到Qwen3.5-35B-A3B,BF16混合精度下跑出1,410 TFLOPS。更狠的是内存控制。同样处理16k上下文,EP8+CP8配置下,单卡显存占用压到23GB,而传统密集并行方案要吞掉76GB。

个人觉得,这组对比最恐怖的不是“快”,而是“稳”。2.3到2.8倍的吞吐量提升,背后是FA4注意力机制、Grouped GEMM和融合Loss算子的底层重构。显存省了,并行度才能拉满。长上下文训练不再是个烧钱玩具,普通实验室也能跑256k序列了。

一行YAML,打碎开发者的焦虑

技术再强,如果接入成本像登天一样,照样进不了工业界。很多框架赢在参数,输在生态。Halo选了条反直觉的路子。

它不要求你重写模型架构。加一个新模型家族,只需要写大约140行包装代码。所有配置塞进一个YAML文件:模型路径、训练方法、GPU拓扑、Checkpoint设置,一目了然。终端敲一句halo launch --list,SFT、DPO、在线GRPO还是环境驱动RL,全列出来等你挑。

“One YAML file contains the model, training method, GPU setup and checkpoint settings. One command starts training.”

这种“开箱即用”的粗暴美学,对苦逼的算法工程师简直是降维打击。从单卡24GB跑LoRA,到多节点分布式 rollout,同一套代码无缝切换。不用在多个框架间反复倒腾依赖库,也不用为了适配新模型去啃几千行的底层代码。

反转:真正的赢家不是算力,而是“后训练”

有意思的是,Halo这次抛出的不只是微调工具。它的野心藏在异步多轮强化学习(Async Multi-turn RL)里。

团队已经跟sgl_project搭上线,准备把它做成rollout的主力引擎。实测也验证了这一点:用Halo在1.77亿条智能体轨迹上微调GLM-4.7-Flash,SWE-bench-V2的得分直接从33%飙到42%。纯吞吐量对比,它依然能咬住TRL的1.63倍优势。

老实讲,我之前对这类“全能型”框架总是持保留态度。参数越多,往往意味着系统越脆弱。但Halo这次把重点放在了“可验证性”和“外部环境的交互”上。当后训练从简单的指令跟随,变成需要复杂环境反馈的智能体博弈时,传统框架的同步阻塞模式早就该被淘汰了。暗处的赢家,其实是那些终于能低成本跑通Agent闭环的独立开发者。

开源社区从来不缺新名字,但能同时解决“算得快、占得少、接得顺”这三个死结的项目,确实不多。TRL曾是标杆,但技术迭代从不认资历。当YAML取代了繁琐的配置地狱,当异步RL成为标配,后训练的时代门槛,已经被彻底踩碎了。

只是,当算力优化卷到极致,下一个被重新定义的,会是模型本身,还是我们训练模型的逻辑?

【锐评】:开源框架拼到最后,拼的不是参数堆砌,而是把复杂留给底层,把简单还给开发者。

参考链接:
https://x.com/whitecircle/status/2102087563913609534