跳到正文
RadarAI· Meta Engineering Blog(RSS)·· 3 小时前AI 评分58

Meta 详解如何用 AI 智能体将 ML 技术规模化推广到广告排序模型集群

AI 导读

Meta 工程博客介绍其“技术传播”流程如何借助 AI 智能体把已验证的 ML 技术推广到大量广告排序模型。自 2026 年 3 月由智能体驱动执行以来,估算超 60% 的技术传播由智能体完成,工程师生产力提升 3x,选定组合的训练算力中位数降低 4x,预计到年底节省超 4500 万美元算力成本。

正文 · AI 翻译

Meta Engineering Blog·2026-11-19 01:00· 2 小时前AI 评分57

Meta 如何利用 AI 智能体在广告排序模型中规模化推广机器学习创新

AI 导读

Meta 发文介绍其“技术传播”流程及 AI 智能体在其中的应用,此前已发布 Ranking Engineer Agent(REA)系统。自 2026 年 3 月起由智能体驱动执行以来,估算超 60% 的技术传播由 AI 智能体完成,早期结果显示工程师生产力提升 3x,选定组合的训练算力中位数降低 4x,预计到年底节省超 4500 万美元算力成本。

正文 · 原文

  • 本系列上一篇博文介绍了 Ranking Engineer Agent (REA),这是一个自主系统,能够生成假设、设计实验,并在广告排序模型上验证新的机器学习(ML)技术。 
  • 现在,我们将分享如何将架构改进和训练优化等排序模型改进,高效地传播到庞大且多样化的广告排序模型集群中。  
  • 本文详细介绍了我们称之为“技术传播”的这一流程,以及我们如何利用 AI 智能体优化该流程。
  • 自 2026 年 3 月智能体开始驱动执行以来,我们估计 AI 智能体处理了超过 60% 的技术传播工作。与引入智能体之前的同类工作相比,早期结果显示工程生产力提升 3x,选定组合的训练算力中位数降低 4x,预计到年底可节省超过 4500 万美元的算力成本。

Meta 的广告推荐系统由大量不同的广告排序模型驱动,每个模型服务于不同的产品场景和广告主目标,并各自拥有独立的架构、训练数据和服务约束。 

在这一模型组合中,机器学习研究人员和工程师通过我们称之为“技术”的创新不断推进最先进水平。技术是指任何能让排序模型变得更好的东西,例如 Wukong 因子分解层、Interformer 交互网络等架构改进、更丰富的数据表示、训练优化,或训练与推理的效率提升。

然而,由于每个模型都有自己的架构、数据以及训练和服务约束,在某个模型上验证过的技术几乎从来无法直接复制到下一个模型上。与此同时,速度至关重要,因为机器学习技术是有保质期的。今天能带来收益的创新,可能在几个模型开发周期内就会被取代。已验证的技术越快覆盖整个模型集群,它们就能在下一代技术到来之前创造更多价值。

那么,我们如何以最快的速度将一项技术传播到多样化的模型集群,同时最大限度地减少工程投入和算力消耗? 

规模化技术传播

将不断增长的已验证技术清单传播到庞大且多样化的模型集群中,会产生一个组合爆炸式增长的技术-模型组合探索空间,其中工程投入和算力都成为显著约束。

适配一项技术的标准做法是让具备领域专业知识的工程师手动执行适配。工程师研究一项技术如何与特定模型的架构交互,将其泛化,并针对该模型的约束进行调优。这能产生最强的结果,并且仍是我们最高收入模型所采用的流程,但它无法扩展到该领域中的所有模型。每次适配都是劳动密集型的,并且要求对技术和目标模型都有深入的了解。因此,吞吐量受限于工程带宽,而适配的机会增长得要快得多。

传播的第二个约束是算力。每次适配尝试都需要一次训练运行,而在算力预算有限的情况下,问题不仅在于尝试哪些技术,还在于如何遍历配置的组合空间,而不把预算花在那些尝试上(其中大多数只会带来次优的收益)。 

这两个约束指向同一个要求:要将技术快速传播到大量多样化的模型,传播必须变得标准化、自动化,并且能够做出判断性决策。 

我们从标准化模型设计和自动化传播入手:一种模板驱动的方法将模型组织成一小组可复用且可组合的构建块,因此一项在模板层面验证过的技术会自动传播到由该模板构建的每个模型。在过去 2 年里,通过标准化和自动化,我们已在庞大而多样化的模型群中交付了 5,000+ 个技术-模型组合,同时将每个模型的工程时间减少了 92%。你可以在我们关于 标准模型模板(SMT)的文章中了解更多。

标准化和自动化处理确定性步骤,但成功且高效的传播仍然需要做出判断性决策,例如哪项技术值得传播到哪个模型、超参数搜索应该多宽、为什么某个模型没有显示出收益,或者如何检测和解决失败。这些决策仍然需要大量人力带宽,这阻止了我们进一步扩展,也阻止了我们达到这样一种状态:所有技术在得到验证后的几周内都能到达所有适用的模型。

这正是 AI 智能体发挥作用的地方。

用 AI 智能体扩展技术传播

我们的技术传播系统围绕三项能力构建:

  • 发现: 保持对哪些技术已被验证的实时视图,并估计每项技术可能迁移得有多好,以生成一组按预期影响排序的优先技术-模型候选。
  • 泛化: 泛化一项已验证的技术,使其能在最初并非为其设计的模型上工作。对于由共享模板构建的模型,一项技术每个模板只需泛化一次,就能到达由该模板构建的每个模型。在模板覆盖范围之外,每个模型都需要自己的适配,这正是最深入的技术推理发生的地方。
  • 采用: 将验证过的适配转化为已交付的模型,并且一次多个:启动实验、管理异步的多天训练运行、监控收敛、诊断并从失败中恢复,以及组装能够落地的提案。

如今,AI 智能体通过承担判断密集型、非确定性的决策制定,并为系统注入深度智能,全面增强了上述各项能力。它们将基于 LLM 的推理与专门的 ML 工具相结合,负责决定尝试哪些适配方案、诊断失败原因并自动缓解、高效地探索超参数搜索空间,以及管理数百个并发作业的容量。这些智能体共享一个公共知识库,其中累积记录了过往训练运行、模型架构和技术成果,因此它们能够基于已有知识继续推进,而非从零开始。

智能体如何加速发现

发现要回答两个问题:存在哪些经过验证的技术,以及它们对模型集群中每个模型的适用性如何?直到最近,领域专家一直在回答这两个问题,逐个模型进行评估。他们跟踪整个组织内的研究和成果,识别值得推广的技术,并依靠领域知识判断适用性。

智能体不受领域专家所面临的知识或工程带宽限制的约束。它们不依赖任何单一专家所知,而是利用共享知识库,并且一次性对整个模型集群进行评估,而非逐个模型进行。它们系统地识别存在哪些经过验证的技术,估计其在模型集群中的可迁移性,并生成按预期影响排序的优先技术列表。工程师现在只需审查智能体的评估结果,并据此做出决策。

智能体如何让泛化在计算上更高效 

泛化是指重新实现已在某个模型上验证的技术,使其适用于具有不同架构、特征表示、训练数据和服务约束的模型。核心思想通常可以迁移,但实现方式几乎从不如此。所需的定制取决于技术和目标模型,范围从重新调优超参数,到将特征适配为目标模型已使用的形式,或调整架构规模以符合其推理预算,再到彻底重新设计该技术。判断给定模型需要什么以及需要做到什么程度,是一种判断性决策。

根据模型是基于标准化模板构建还是单独定制,泛化分为两种类型,智能体对两者都提供协助:

  • 模板泛化:对于基于标准化模板构建的模型,智能体协助构建、评估和改进模板本身。它们从经过验证的技术中提出模板优化假设,在代表性模型集上启动实验,评估结果,诊断失败,并迭代多轮,帮助管理模板开发所需的多日循环。在模板层面验证一项技术一次,其计算成本仅为逐个模型适配的一小部分。
  • 定制化泛化: 对于我们收入最高的模型,我们仍会为每个模型定制一项技术,在将某项技术初步应用于少量模型时,智能体与机器学习工程师并肩工作并逐步学习。当工程师做出适配决策,例如调整配置、调优超参数或解决故障时,智能体会跟踪每一次变更和结果,记录哪些做法有效、哪些无效,以及哪些决策是特定于模型的、哪些是可泛化的。基于这些积累,智能体会为其余模型提出并测试适配方案,工程师则负责审查和引导,而不是亲自驱动每一个模型。

借助数百万次既往训练运行的经验以及每个目标模型自身的特性,智能体从最可能奏效的配置出发,利用每一轮训练运行的结果缩小下一轮的��参数搜索空间,并判断哪些实验值得继续、哪些应尽早停止。因此,在选定的技术-模型组合上衡量,我们看到训练算力中位数降低了 4 倍。

智能体如何加速采用

在采用阶段,智能体逐个模型地交付通用化技术。它们启动实验、管理持续数天的异步训练运行、微调每个模型、监控收敛情况、从故障中恢复,并汇总经过验证的方案。

微调的方式取决于该技术的引入途径。对于单独应用的技术,智能体帮助为该特定模型找到技术组合的最佳配置。对于基于共享模板构建的模型,自动研究循环会在模板之上进行搜索,针对共享配置本身无法带来的收益对每个模型进行调优。

当发生故障时,无论是基础设施问题、训练发散还是数据管道错误,集成调试与恢复功能都会诊断根本原因,并应用有针对性的修复或重试。 

同时运行数百个此类工作流会带来一个问题:哪些任务优先,哪些运行值得继续、哪些应尽早停止。在固定算力预算下实现收益最大化是一个全局优化问题,也是我们当前投入的方向。智能体会监控并发的训练任务,按收入重要性、技术潜力和截止时间紧迫程度对它们排序,并从停滞或低价值的运行中回收容量,使 GPU 始终指向最高价值的工作,而不是闲置或排在低优先级实验之后。

过去,工程师必须盯着每一次运行、手动分诊每一个故障并重新启动,这使每人最多只能处理少数几个模型。现在,他们可以在决策点保持监督,批准计划并设定优先级,生产力提升至 3 倍(每位工程师现在可以处理 3 倍多的技术-模型适配),从而缩短从技术验证到模型交付的时间。

我们如何评估智能体驱动的传播

由智能体传播的技术与由工程师传播的技术采用相同的评估方式。一项技术必须展示出预测性能的离线指标有所提升,例如归一化熵(NE),同时不能在训练或推理成本等关键护栏指标上出现退化。随后,它还必须在在线 A/B 测试中展现出统计显著的胜出,才能被发布。

但仅在最后进行一次评估,对于引导一个跨多个阶段、持续数天工作的智能体来说为时已晚。每个阶段产出的产物不同,因此每个阶段都需要各自的指标。这就是我们验证智能体工作成效的方式。

发现:我们衡量智能体所选技术-模型候选的精确率和召回率。对于给定技术,精确率是指所选模型中该技术最终成功发布的比例,召回率是指智能体在该技术所有可行模型中找出的比例。此处召回率更为重要,因为在此阶段被遗漏的模型不会再有第二次机会;精确率则作为护栏,防止将算力花费在不会奏效的技术上。

泛化:我们在广泛的模型上评估由智能体泛化的技术,以确保每项技术都能在其最初验证的模型之外带来增益。我们首先在缩小版的模型上测试每项泛化技术,在保持算力使用高效的同时广泛筛选技术-模型适配。随后,通过筛选的技术会在一组具有代表性的全尺寸模型上接受评估,必须提升 NE 并满足所有护栏指标,才能进入采用阶段。

采用:在此阶段,我们继续使用与之前相同的预测性能和护栏指标来评估正确性。但采用也是运营负担最重的阶段,实验会持续数天,因此我们也会评估智能体的生产力。最重要的两项指标是:完成一次实验所需的人工干预次数,这体现了每次实验仍需多少工程时间;以及智能体自行诊断并缓解的问题百分比。

在整个传播过程中,人类始终是关键的利益相关者,负责审查关键决策、确认判断性决定,并最终批准发布内容。

让智能体驱动的传播成为 Meta 的标准 

基于早期结果,我们正在扩大智能体驱动工作流的规模,使其成为跨模型集群进行技术传播的主要方式。

如今,每项已验证的技术要触达每个适用模型可能需要一年以上。我们的目标是将这一时间缩短至三个月。要实现这一点,意味着需要推动智能体驱动工作流的端到端吞吐量提升至 5 倍,使传播能够跟上创新的步伐,而不是落后于创新。 

为此,我们持续投资于智能体本身的智能水平,通过自我演进学习提升泛化质量、容量效率和执行能力,让智能体基于积累的结果来优化自身策略,而不是仅依赖人类提供的启发式方法。

将技术推广到各个模型只是更大愿景的一部分。我们正在将排名 AI 领域端到端模型开发生命周期的各个方面代理化,从探索和假设生成到推广、实验和生产上线。这些代理代表了该系统的扩展层,确保每一项经过验证的创新都能在整个模型集群中充分发挥其潜力。

致谢 

Babak Behsaz、Anuj Bindal、Wenlin Chen、Jae-Woo Choi、Kapil Dontula、Jason Flaks、Ali Gowani、Umut Gunduz、Varun Jalan、Annapurna Kala、Anika Karpurapu、Santanu Kolay、Sundeep Mallela、JP Owed、Rudresh Rajnikant Panchal、Sandeep Pandey、Dhiraj Parashar、Ray Qin、Shah Rahman、Munaf Sahaf、Alex Sandrovskii、Matt Steiner、Vivienne Sung、Ritwik Tewari、Alireza Vahdatpour、Jacky Wang、Hitesh Yalamanchili、Fan Yang、Shuting Zhao、Wenhan Zhao 和 Peng Zhong。

文章 How Meta Uses AI Agents to Scale ML Innovations Across Ads Ranking Models 首次发表于 Engineering at Meta。

来源:Meta Engineering Blog · engineering.fb.com

来源:RadarAI · aihot.news