1万亿个时间点,只为算准你明天买哪款冰淇淋
直接抛出大数字。1万亿个时间点预训练,3.3亿参数。
谷歌刚刚扔出了一个叫 TimesFM-3 的时间序列基础模型。
说实话,刚看到这个发布的时候,我以为又是哪个套壳大模型在刷榜。
但仔细看眼技术细节,这次他们确实动了真格。
它能在单次前向传播里,把多变量时间序列预测给办了。
没有迭代,没有循环,一次过。
告别单线思维,现实世界从来不是单打独斗
以前的时间序列模型,包括谷歌自己的 TimesFM-2.5,都有个致命弱点。
它们只能做单变量预测。
什么意思?就是只看这一条线过去的历史,去猜未来。
但老实讲,现实世界哪有这么简单的事。
拿卖冰淇淋来说。你光看过去的销量,能算准明天的业绩吗?
肯定不行。你还得看天气、看客流量、看隔壁奶茶店是不是在打折。
TimesFM-3 最大的跨越,就是原生支持多变量。
它不仅能同时预测多个目标,还能把历史协变量甚至已知的未来事件塞进去。
比如你下个月要搞促销,把促销计划作为过去与未来协变量喂给它。
单变量模型还在傻傻地画平滑曲线,TimesFM-3 已经能精准预测出促销当天那 20% 的销量暴增。
这点我不太认同以前那些死磕单变量优化的路线,多变量才是业务的真实刚需。
单次前向传播,它是怎么做到一眼看穿的?
懂点技术的可能会问,多变量加上未来协变量,计算量不得爆炸?
有意思的是,TimesFM-3 反而变快了。
以前的模型生成预测,是一个数据块一个数据块往外吐。
这在学术上叫自回归。说白了就是慢,而且误差会像滚雪球一样越滚越大。
这次谷歌用了个叫连续Patch掩码的策略。
直接把未来要预测的占位符和已知上下文拼在一起,一次性算完。
底层架构也做了微调。
它把数据切成32个时间步的patch,然后搞了个交替注意力机制。
水平方向看时间因果,垂直方向看不同序列之间的关联。
两层注意力来回交替,时间规律和跨序列的化学反应就全抓住了。
最后还能同时输出9个分位数,把预测的不确定性也给你摸得透透的。
霸榜三大基准,但评论区的背刺更真实
看数据,TimesFM-3 确实猛。
在 Gift-Eval、FEV-Bench 和 Time 三个主流基准测试里。
无论是点预测还是概率预测,它都把 Chronos-2 和 Toto 2.0 这些竞品按在地上摩擦。
就算切回单变量模式,它也能打平甚至超越对手。
但如果你以为这就皆大欢喜了,那就太天真了。
我去翻了翻推特评论区,发现几个很有意思的槽点。
有人直接开喷,你们在编码和研究方面落后了那么多,还有脸发这个?
还有人眼尖,发现官方博客的主图居然是 AI 生成的,直呼 Seriously。
不过最致命的背刺来自许可协议。
有开发者敏锐地指出,这模型用的是 TimesFM 非商业许可 v1.0。
个人觉得,这才是最劝退的地方。
你在实验室里跑分第一,在金融交易、电力调度这些真金白银的场景里大杀四方。
结果一看License,对不起,不能商用。
这种只能看不能吃的操作,确实让不少等着接入生产环境的团队心里凉了半截。
预测了未来,却预测不了开源的边界
时间序列预测这个赛道,一直是个闷声发大财的领域。
从零售供应链到金融量化,谁掌握了更准的预测,谁就掌握了印钞机。
TimesFM-3 在技术上确实推开了多变量零样本预测的大门。
但非商业许可的枷锁,注定它目前只能是研究者的玩具,而不是企业的生产力。
当技术狂飙突进时,商业化的边界究竟该由谁来划定?
【锐评】:技术确实顶,单次前向传播算多变量很惊艳,但非商业许可直接劝退打工人,谷歌这波属于秀完肌肉就锁门。
参考链接:
https://x.com/GoogleResearch/status/2094483372718580066