据 Search Engine Journal 转述的 Google 博客内容,Google 发布了一个新的 query fan-out 框架,据称比以往的方法更快、计算成本更低,fan-out 质量更高。这套系统叫 Retrieve-for-Train-Diffusion,简称 R4T Diffusion Model 或 R4T-Diffusion。据 Search Engine Journal 转述,Google 称它能在规模化的场景下实现"production ready"(可投入生产)的搜索。
R4T-Diffusion 是什么
据 Search Engine Journal 对论文的介绍,R4T 是一个分三阶段的框架,组合了强化学习(RL)训练、合成数据生成和一个小型生成式神经网络。
做法是:先训练一个模型,让它学习计算成本高的 fan-out 行为;把高质量的 fan-out 输出保存成样本;再训练一个小得多的模型来模仿大模型的行为。据 Search Engine Journal 对论文的介绍,这个用于模仿的小模型是一个 5390 万参数(53.9M)的扩散模型。
这里用到的方法是蒸馏。据 Search Engine Journal 介绍,神经网络知识蒸馏是 2015 年由一位前 Google 员工参与开创的思路。蒸馏的基本定义是:用大模型的输出训练小模型,让小模型以低得多的计算成本做到大模型几乎能做的所有事。
它如何处理一个查询
据 Search Engine Journal 对论文的介绍,R4T 经过训练,能识别原始查询中有用的方面。它生成的 fan-out 与原查询保持相关,同时具有多样性,不会产出冗余的同义词。
训练时使用的复合奖励,据研究人员介绍,是三个相互制衡的维度的加权平衡,适用场景是"开放式抽象检索任务":
- Groundedness(落地性):惩罚与数据库流形的距离,保证每个子查询都对应数据库里真实可检索的条目。
- Diversity(多样性):用 Vendi Score 在全部子查询的集合上衡量,促使模型覆盖更广的语义范围。
- Alignment(对齐性):把候选子查询锚定在原始宽泛提示上,防止语义漂移。
需要说明的是,这三个奖励维度与前面提到的三个阶段是两组不同的"三",不能混用。
延迟与提速
据 Search Engine Journal 转述的 Google 博客内容,R4T 成功"击穿了延迟瓶颈"。这里的延迟,指的是取回 fan-out 所需的时间。
据 Search Engine Journal 转述,扩散模型在连续嵌入空间里,通过单次、非自回归的并行计算,同时生成所有目标方向。据 Google 博客披露,与自回归方法相比,它的提速为 12 到 20 倍。
延迟数据方面,据博客披露:在大上下文批次条件下,自回归 fan-out 的延迟线性增长到接近 50 秒;而 R4T-Diffusion 保持在亚秒级到几秒之间。
这里需要区分两个指标:"12 到 20"是相对自回归方法的提速倍数;"接近 50 秒"是自回归方法在大上下文批次下的延迟,不是 R4T 的延迟。R4T 的延迟是亚秒级到几秒。并没有给出"从 50 秒降到 1 秒"这样一对一的对比。另外,"large context batches"具体多大、在什么硬件上测试,都没有说明。
论文里还提到了什么
据 Search Engine Journal 对论文的介绍,R4T 为部署这类检索模型提供了可行路径,能优化多样性、覆盖度、互补性等高阶属性,同时保持低推理延迟。
据 Search Engine Journal 对论文的介绍,论文列出的适用场景包括推荐系统、创意搜索、探索式信息获取。这里的"推荐系统"是论文的泛指表述,论文并没有点名 Google Discover 或 YouTube 推荐;用这两个产品来解释什么是推荐系统,是 Search Engine Journal 作者自己举的例子。
据 Search Engine Journal 对论文的介绍,研究者认为,用 RL 合成目标对齐的训练数据这一思路,可能延伸到检索以外、真值模糊或主观的结构化生成任务,比如规划、设计、创意生成。这里说的是"可能延伸",不是"已经可以用于"。
论文还提到,把奖励驱动的探索与推理阶段的部署分开,不需要反复做在线优化。
论文里的警示,博客里没有
据 Search Engine Journal 对论文的介绍,论文结论提到,框架在时尚、音乐等场景表现良好,但研究人员担心在敏感场景会放大偏见。据论文介绍,负责任的部署需要针对具体领域做偏见审计、采用包容性设计并设置监督机制。论文还提到,R4T 是一个必须配有防护措施的工具,不能替代人的判断和伦理监督。
据 Search Engine Journal 介绍,这些警示只出现在论文里,Google 的博客文章里没有。Google 是否已经对敏感场景做了限制或设置了护栏,目前没有公开信息。
时间线与是否已部署
据 Search Engine Journal 介绍,论文于 3 月发表,Google 博客于 9 月 15 日发布,两者相隔约半年。这里没有给出年份,只给到月份和日期。
关于是否已经在 Google 搜索或 AI Mode 中部署,目前尚无官方确认。Search Engine Journal 从"等了约半年才发博客"这一点做了推测,但报道也承认无法确定。至于社交媒体上关于流量上涨、AI Mode 链接变多的说法,据部分从业者在社交媒体反映,这些现象与 R4T 之间的关系并不明确。目前没有公开证据表明这些现象与 R4T 有关。关于 AI Overviews 中链接数量变化的独立观察,参见AI Overviews 外部链接数据的追踪。
对于关注搜索与内容分发的团队来说,R4T 这类检索侧的变化值得跟踪,但它并不是一个可以直接套用的 SEO(搜索引擎优化) 操作清单。如果希望把检索与内容策略放在一起梳理,可以参考我们关于 Search Console 多模态筛选的整理,也可以了解询盘云的谷歌 SEO 服务。
想结合自己的站点情况聊一聊检索与内容方向?给我们留言,沟通具体问题和可行的分析方式。