别省预算了,该省“脑细胞”
大模型正在集体患上“话痨症”。尤其是那些主打深度推理的模型,为了给出一个答案,内部能疯狂输出上万字的思考链。单次调用贵就算了,一旦塞进多轮Agent工作流里,历史推理记录会被反复重读、重复计费,成本直接呈指数级爆炸。
说实话,这种“用力过猛”的聪明,正在拖垮无数开发者的钱包。
今天,Fireworks Research甩出一张底牌:Ember-1。核心卖点极其粗暴——用Kimi K3同等的质量,砍掉近一半的Token消耗。 不靠堆算力,不靠换底座,而是让模型学会“怎么想才不废话”。
推理模型,病在“想得太多”
这并非什么凭空而来的魔法。Fireworks的工程师们早就盯上了这个痛点。他们发现,像Kimi K3这样的推理模型,生成的Token里超过90%都花在了内部推演上,真正落笔的答案反而寥寥无几。
“把K3的推理强度调低能解决问题吗?不行。质量掉得太快。”
硬扛着长推理链做自动化编程,规模化之后就是纯纯的烧钱机器。早期的做法是简单粗暴地压缩推理步数,结果模型开始胡言乱语。想要保质量又降成本,唯一的出路是:重写模型的思考习惯。
于是,团队启动了大规模专项训练。50多次实验,200多轮评估,全跑在Fireworks自己的Serverless Training平台上。没租GPU集群,没管底层运维,想法一冒出来就直接开干。更关键的是,训练数据全部来自官方自有数据集,绝不碰客户隐私。
砍掉废话,留下真知
有意思的是,Ember-1不是简单地阉割能力,而是做了一场精密的“外科手术”。它识别出哪些推理是有效的自我反思,哪些是无意义的死循环和冗余铺垫。通过任务反馈和强化学习,模型学会了在关键时刻发力,在平时闭嘴。
效果怎么样?看硬指标。
在Doximity主导的Bedside Bench临床案例基准测试中,Ember-1直接画出了一条新的Pareto前沿线。成本/任务比不仅碾压同类开源模型,连GPT-5.6 Sol、GPT-6 Astra和Claude Opus 5这些闭源巨头也被拉下马。
再放大到五个行业基准的平均表现,Ember-1稳稳站在最优性价比曲线上。对比原始K3的三种推理档位,它在Terminal Bench、SWE-bench等硬核代码测试里,不仅跑赢了“高推理”模式,还在SWE-bench Verified上拿到了92.2%的通过率,同时砍掉了超过23美元的单次调用成本。
跑分再漂亮,也得看生产线
实验室里的帕累托最优,落地到真实业务往往要打个折。但这次,Fireworks直接把流量切到了生产环境。
两家客户的在线A/B测试给出了实打实的账本:每完成一个任务,Ember-1消耗的Token比原版K3少了大约35%。更惊喜的是,任务完成率、成功率和失败率没有一项下滑,反而全线向好。其中一位客户已经决定把它上线替换基座模型,准备全面扩量。
| Score | Steps | Output Tokens | Reasoning Token reduction | Total token reduction |
|---|---|---|---|---|
| Kimi K3 | 0.751 | 23.8 | 49.3K | - |
| Ember-1 | 0.753 | 21.4 | 29.9K | 71.3% |
内部测试更是低调得离谱。Fireworks自家的开发者日常写代码、跑vibe testing,切换模型后没人察觉异样。对于一款主打“同答少费”的模型来说,“毫无波澜”恰恰是最高的褒奖。
单价翻倍?这笔账到底划不划算
这里有个容易被忽略的细节。仔细看定价策略,Ember-1的单价其实是Kimi K3的两倍。乍一看,是不是买贵了?
老实讲,刚看到这条的时候我也愣了一下。但算细账就清楚了:单价翻倍,但Token用量腰斩,综合下来还是省了一大截。这背后藏着一个行业潜意识的转变——大模型竞争的主航道,已经从“拼单Token绝对低价”,转向了“拼单位产出效率”。
过去大家以为便宜就是王道,现在发现,如果模型在Agent多轮对话里疯狂复读早期推理,再便宜的单价也会被账单拖垮。Ember-1的出现,其实是在给盲目追求“低价推理API”的开发者的上了一课:别光盯着单价,得看整条工作流的吞吐成本。
当然,这也引发了社区一阵骚动。有人调侃这是“金发时代”的缩影,普通人也能用子代理生成数据、调教小参数模型;也有人担心Fireworks从单纯的推理分发商跨界做自研模型,会不会影响第三方中立性。我个人觉得,技术厂商下场做垂直优化是必然趋势,关键看交付是否透明。目前来看,Fireworks留了后门:支持企业用自有数据继续微调Ember-1,专有的路越走越窄,通用的墙越修越高。
效率才是终极护城河
Token消耗量的下降,从来不是简单的减法,而是一场对模型认知路径的重塑。当“想得多”不再等于“做得好”,我们或许该重新审视智能的本质。
未来半年,会有更多类似的“瘦身版”专业模型涌入市场。当各家都在拼命给模型做节食手术时,你觉得下一关会卷向哪里?是更短的上下文窗口,还是更强的工具调用直觉?
【锐评】:大模型终于意识到“话多”是种病,省下的不是Token,是开发者被长推理链绑架的现金流。
参考链接:
https://fireworks.ai/blog/ember-1