博客

R4T-Diffusion:Google查询展开新框架解读

Google发布R4T-Diffusion查询展开框架,用蒸馏小模型把AI搜索的"一问多查"做到更快更准。外贸企业的内容策略该怎么跟进?

据 Search Engine Journal 转述的 Google 博客内容,Google 发布了一个新的 query fan-out 框架,据称比以往的方法更快、计算成本更低,fan-out 质量更高。这套系统叫 Retrieve-for-Train-Diffusion,简称 R4T Diffusion Model 或 R4T-Diffusion。据 Search Engine Journal 转述,Google 称它能在规模化的场景下实现"production ready"(可投入生产)的搜索。

R4T-Diffusion 是什么

据 Search Engine Journal 对论文的介绍,R4T 是一个分三阶段的框架,组合了强化学习(RL)训练、合成数据生成和一个小型生成式神经网络。

做法是:先训练一个模型,让它学习计算成本高的 fan-out 行为;把高质量的 fan-out 输出保存成样本;再训练一个小得多的模型来模仿大模型的行为。据 Search Engine Journal 对论文的介绍,这个用于模仿的小模型是一个 5390 万参数(53.9M)的扩散模型。

这里用到的方法是蒸馏。据 Search Engine Journal 介绍,神经网络知识蒸馏是 2015 年由一位前 Google 员工参与开创的思路。蒸馏的基本定义是:用大模型的输出训练小模型,让小模型以低得多的计算成本做到大模型几乎能做的所有事。

它如何处理一个查询

据 Search Engine Journal 对论文的介绍,R4T 经过训练,能识别原始查询中有用的方面。它生成的 fan-out 与原查询保持相关,同时具有多样性,不会产出冗余的同义词。

训练时使用的复合奖励,据研究人员介绍,是三个相互制衡的维度的加权平衡,适用场景是"开放式抽象检索任务":

  • Groundedness(落地性):惩罚与数据库流形的距离,保证每个子查询都对应数据库里真实可检索的条目。
  • Diversity(多样性):用 Vendi Score 在全部子查询的集合上衡量,促使模型覆盖更广的语义范围。
  • Alignment(对齐性):把候选子查询锚定在原始宽泛提示上,防止语义漂移。

需要说明的是,这三个奖励维度与前面提到的三个阶段是两组不同的"三",不能混用。

延迟与提速

据 Search Engine Journal 转述的 Google 博客内容,R4T 成功"击穿了延迟瓶颈"。这里的延迟,指的是取回 fan-out 所需的时间。

据 Search Engine Journal 转述,扩散模型在连续嵌入空间里,通过单次、非自回归的并行计算,同时生成所有目标方向。据 Google 博客披露,与自回归方法相比,它的提速为 12 到 20 倍。

延迟数据方面,据博客披露:在大上下文批次条件下,自回归 fan-out 的延迟线性增长到接近 50 秒;而 R4T-Diffusion 保持在亚秒级到几秒之间。

这里需要区分两个指标:"12 到 20"是相对自回归方法的提速倍数;"接近 50 秒"是自回归方法在大上下文批次下的延迟,不是 R4T 的延迟。R4T 的延迟是亚秒级到几秒。并没有给出"从 50 秒降到 1 秒"这样一对一的对比。另外,"large context batches"具体多大、在什么硬件上测试,都没有说明。

论文里还提到了什么

据 Search Engine Journal 对论文的介绍,R4T 为部署这类检索模型提供了可行路径,能优化多样性、覆盖度、互补性等高阶属性,同时保持低推理延迟。

据 Search Engine Journal 对论文的介绍,论文列出的适用场景包括推荐系统、创意搜索、探索式信息获取。这里的"推荐系统"是论文的泛指表述,论文并没有点名 Google Discover 或 YouTube 推荐;用这两个产品来解释什么是推荐系统,是 Search Engine Journal 作者自己举的例子。

据 Search Engine Journal 对论文的介绍,研究者认为,用 RL 合成目标对齐的训练数据这一思路,可能延伸到检索以外、真值模糊或主观的结构化生成任务,比如规划、设计、创意生成。这里说的是"可能延伸",不是"已经可以用于"。

论文还提到,把奖励驱动的探索与推理阶段的部署分开,不需要反复做在线优化。

论文里的警示,博客里没有

据 Search Engine Journal 对论文的介绍,论文结论提到,框架在时尚、音乐等场景表现良好,但研究人员担心在敏感场景会放大偏见。据论文介绍,负责任的部署需要针对具体领域做偏见审计、采用包容性设计并设置监督机制。论文还提到,R4T 是一个必须配有防护措施的工具,不能替代人的判断和伦理监督。

据 Search Engine Journal 介绍,这些警示只出现在论文里,Google 的博客文章里没有。Google 是否已经对敏感场景做了限制或设置了护栏,目前没有公开信息。

时间线与是否已部署

据 Search Engine Journal 介绍,论文于 3 月发表,Google 博客于 9 月 15 日发布,两者相隔约半年。这里没有给出年份,只给到月份和日期。

关于是否已经在 Google 搜索或 AI Mode 中部署,目前尚无官方确认。Search Engine Journal 从"等了约半年才发博客"这一点做了推测,但报道也承认无法确定。至于社交媒体上关于流量上涨、AI Mode 链接变多的说法,据部分从业者在社交媒体反映,这些现象与 R4T 之间的关系并不明确。目前没有公开证据表明这些现象与 R4T 有关。关于 AI Overviews 中链接数量变化的独立观察,参见AI Overviews 外部链接数据的追踪。

对于关注搜索与内容分发的团队来说,R4T 这类检索侧的变化值得跟踪,但它并不是一个可以直接套用的 SEO(搜索引擎优化) 操作清单。如果希望把检索与内容策略放在一起梳理,可以参考我们关于 Search Console 多模态筛选的整理,也可以了解询盘云的谷歌 SEO 服务。

想结合自己的站点情况聊一聊检索与内容方向?给我们留言,沟通具体问题和可行的分析方式。

相关阅读

同一个词贵了约两成:14家B2B广告主同关键词点击成本同比涨约21%

Grey Matter追踪14家B2B广告主1349个非品牌词:控制花费、位置与质量得分后同词点击成本同比涨约21%,附同词自查三步。

阅读全文

YouTube剪辑工具转Shorts:播客切片自动回链原片,先对10国7语名单

YouTube Studio剪辑工具扩展到Shorts:按字幕选段转竖版并自动回链原片,AI推荐只覆盖10国7语,不处罚不等于不影响推荐。

阅读全文

AI智能体流量10月涨到8月的8倍:Muse一家占59%,八成半只逛不买

HUMAN10月报告:智能体请求约为8月的8倍,Meta与OpenAI占近九成,85%落在商品与搜索页;签名目录迁到muse.ai,黑五前先做三件事。

阅读全文

聊聊你的外贸获客现状

不用先准备材料,把现在最头疼的事说清楚就行。