现在的硅谷,几乎每个人都在谈论 Prompt Engineering(提示词工程)。

仿佛只要写对那几句咒语,AI 就能帮你搞定一切。甚至有人靠卖“提示词模板”赚得盆满钵满。

但就在大家还在钻研怎么跟 ChatGPT “聊天”的时候,科技巨头 LinkedIn 却给这股热潮泼了一盆冷水。

他们直接把“提示词”扔进了垃圾桶。LinkedIn 的产品工程副总裁 Erran Berger 说得很直白:对于下一代推荐系统来说,提示词工程是个死胡同,他们甚至都没打算试。

这事儿有点意思。

一个坐拥数亿用户的职场社交平台,放着现成的大模型不用,非要自己磨刀霍霍去搞“小模型”?

这背后藏着大厂不愿意明说的技术真相。

别被大模型忽悠了,提示词救不了推荐系统

LinkedIn 在推荐系统这行当里已经摸爬滚打了 15 年。按理说,他们最有资格直接把 GPT-4 接进去,搞个“AI 驱动”的招聘助手。但 Berger 发现,这招根本行不通。

推荐系统讲究什么?

精准、低延迟、高效率。

AI配图

你要让 AI 实时理解求职者的意图、简历的细微差别,还要匹配成千上万的职位描述。如果每次匹配都要调用一个庞大的云端大模型,还得靠精心设计的提示词来引导,那成本和速度简直是灾难。

“我们根本没试过用提示词来做下一代推荐系统,因为我们意识到那是个死胡同。”Berger 这句话,撕开了大模型落地的一层遮羞布。

直接调用 API 或者简单的提示词交互,在玩具级应用里很酷,但在这种需要极高并发和精准度的工业级场景里,就是个花架子。

他们需要的是更硬核的武器。

20 页文档和两个“老师”

既然不能靠“问”,那就只能靠“教”。

LinkedIn 搞出了一套非常反直觉的操作流程,他们管这叫 “多教师蒸馏”

这听起来很玄乎,其实逻辑很硬。首先,产品经理和工程师坐下来,没写代码,先写了一份长达 20 到 30 页 的“产品政策文档”。

这不是那种没人看的行政文件,而是一套详细的评分标准。它规定了什么样的简历配什么样的职位,在各个维度上应该得多少分。

有了这本“圣经”,他们利用 ChatGPT 生成了数千个“黄金查询-简历”对,喂给模型学习。

AI配图

这时候,第一个“老师”登场了。

这是一个拥有 70 亿参数 的大模型,它的任务只有一个:死磕那 30 页文档,把产品政策吃透,学会如何像 LinkedIn 一样思考。但光懂政策还不够。

推荐系统的核心是 “点击预测”“个性化”。用户喜不喜欢,点不点,才是硬道理。

于是,团队又训练了第二个“老师”模型。这个老师不关心政策,只关心怎么让人点击。

一个教“规矩”,一个教“人性”。

这就是 Berger 口中的“突破”。

通过把这两个截然不同的目标拆解,他们可以独立地优化、迭代,最后再把这两个老师的知识,“蒸馏”进一个只有 17 亿参数 的“学生模型”里。> “通过混合它们,你得到了更好的结果,而且可以独立迭代。”

这个“小学生”模型,虽然参数量只有大老师的零头,但它既懂规矩,又懂人性,关键是跑得快、成本低。

这就像把一个百科全书式的教授,和一个街头巷尾的销售冠军,把他们的脑子里的精华,强行压缩进了一个年轻力壮的小伙子身体里。

这小伙子干活,既稳又狠。

产品经理和工程师的“联姻”

这场技术变革,不仅仅是换了个模型。

它彻底改变了 LinkedIn 的组织工作流。以前在硅谷大厂,产品经理(PM)负责画大饼、定策略,机器学习工程师(ML)负责写代码、调模型。大家井水不犯河水,中间隔着一道厚厚的墙。

但现在,这套“多教师蒸馏”玩法,强行把这两拨人绑在了一起。

你要搞那个 30 页的“产品政策文档”吗?

AI配图

光靠 PM 写不出来,光靠工程师也看不懂。PM 必须把原本只存在于脑子里的“领域专家经验”,转化成工程师能理解的数学语言和评分规则。

“产品经理现在与机器学习工程师合作的方式,与我们以往所做的任何工作都不同。”Berger 说,这已经成为了 LinkedIn 所有 AI 产品的蓝图。

这不再是简单的“提需求”和“做开发”,而是一场深度的知识共创

以前,PM 说“我要这个功能”;现在,PM 要说“这是判断这个功能好坏的数学逻辑”。

这种变化,可能比模型参数的缩小更让人细思极恐。

它意味着,未来的 AI 竞争,不再是比谁家显卡多,谁家模型大。

而是比谁能把业务逻辑,更精准地“翻译”成模型能懂的语言,再蒸馏成最高效的执行单元。## 大模型是面子,小模型是里子

LinkedIn 的这个故事,给当下的 AI 狂热症打了一剂清醒针。

大家都在卷千亿参数、卷万亿参数,卷谁的上下文窗口更长。

但在真实的商业世界里,效率才是王道。

那个 70 亿参数的“老师”,可能永远只在实验室里待着,或者偶尔出来指点江山。

真正每天面对数亿用户、处理几十亿次请求的,是那个被千锤百炼出来的 17 亿参数“学生”

它不需要那么聪明,但它必须在特定的领域里,足够专业,足够快,足够便宜。Berger 透露,这种端到端的评估流程,给 LinkedIn 带来了多年来未曾见过的质量提升。

这就是大厂的“阳谋”。

表面上,他们在谈论大模型的无限可能;背地里,他们在疯狂地把大模型的能力,榨干、压缩、蒸馏,变成一个个不知疲倦的小模型,塞进自己的业务血管里。

毕竟,在商业战场上,能落地的,才是好 AI。

至于那些还在靠写 Prompt 炫技的团队,可能还没意识到,他们已经输在了起跑线上。

参考链接:
https://venturebeat.com/infrastructure/why-linkedin-says-prompting-was-a-non-starter-and-small-models-was-the