电信运营商为何将 AI 战略建立在开放模型之上
Why Telecom Operators Are Building Their AI Strategy on Open Models
NVIDIA《State of AI in Telecommunications》报告显示,89% 受访者认为开源模型和软件对公司 AI 战略重要。NVIDIA 发布 300 亿参数的 Nemotron 3 Large Telco Model(LTM),由 AdaptKey 基于开源电信数据集微调,并开放完整微调流程。
电信运营商越来越多地将其 AI 战略建立在开放模型之上——原因远不止成本。
开放模型让电信运营商能够在其最关键的工作负载中信任、控制和定制 AI——从自治网络到客户服务。
NVIDIA 最新的《电信行业 AI 现状》报告反映了这一转变:89% 的受访者表示,开源模型和软件对其公司的 AI 战略很重要。
对运营商而言,开放模型的战略价值体现在五个方面:
- 它们以更低的成本扩大了对前沿级智能的获取,使运营商能够将闭源模型保留在能带来最大价值的工作负载上。诸如Artificial Analysis Intelligence Index v4.3.2等独立基准测试表明,领先的开放模型在要求严苛的推理、编码、科学和智能体工作负载中正变得更具竞争力。
- 它们支持电信专属的定制化,凭借开放权重和训练配方,运营商可以利用网络、客户和行业数据针对自身运营进行微调。
- 它们通过让电信运营商对模型工件和行为拥有更高的可见性和控制力,实现可信 AI,从而能够按照法规和业务政策对模型进行评估、调整和治理。
- 它们支持灵活、安全的部署:团队可以调整和优化开放模型的规模,使其在公有云、私有基础设施和边缘环境中运行。
- 它们为电信运营商解锁了通过托管和微调开放模型,向企业和政府客户提供本地化适配 AI 服务的机会。
开放基础,为电信运营而调优
NVIDIA Nemotron系列开放模型提供了针对智能体工作流优化的前沿级推理性能,以及面向语音应用的语音能力,并附带开放权重、训练数据和配方。
软银公司展示了运营商如何利用开放模型作为基础,来开发并持续提升其电信专属 AI 能力。
“开放模型使软银公司能够在全球基础模型快速进步的基础上,应用我们多年来积累的网络知识和运营专长,”软银公司首席研究员兼 SB Telecom America 高级副总裁 Rajeev Koodli 表示。“我们广泛使用开放基础,包括 NVIDIA Nemotron 模型等,来开发我们的软银大型电信模型,并针对网络运营、设计和整体管理等电信专属用例持续提升它。”
此外,NVIDIA 正与合作伙伴协作,帮助将开放模型转化为电信 AI 的实用构建模块。
NVIDIA 宣布推出 300 亿参数的 Nemotron 3 Large Telco Model(LTM),由 AdaptKey 基于开源电信数据集进行 微调,为电信特定任务带来准确率提升。这为运营商提供了一个开放基线,能够理解电信行业术语,并有效推理网络配置和客户事件分诊等电信运营工作流。
为帮助运营商利用自身运营数据定制 Nemotron 3 LTM 及其他开放模型,NVIDIA 发布了完整方案,逐步介绍端到端微调流水线,使用 NVIDIA NeMo 开源库将开放模型适配到运营商特定的网络、客户和流程。
将开放模型扩展到生产工作流
开放模型是关键的构建模块,但要将自主电信运营安全地投入生产,仅靠模型是不够的。
对 AT&T 而言,模型选择的价值在于使这种灵活性与其业务优先级保持一致并投入运营。
“在 AT&T,我们相信 AI 的未来不在于选择单一模型,而在于智能地将每个工作负载匹配到性能、成本和控制的正确组合,”AT&T 首席数据与 AI 官 Andy Markus 表示。“开放模型对这种方法至关重要,借助 NVIDIA,我们可以将这种模型选择策略投入生产,并具备我们业务所需的规模、可靠性和治理能力。”
运营商需要流水线来准备和保护其数据以进行模型微调,包括匿名化敏感记录和生成隐私保护合成数据集。他们还需要一个平台,能够将开放模型转化为受治理的自主智能体工作流。
NVIDIA 提供了这样的端到端平台,由 NVIDIA AI Enterprise 软件和 NVIDIA Agent Toolkit 提供支持,涵盖数据流水线、开放模型、智能体编排、安全运行时和仿真。
再加上在该平台各层构建的强大合作伙伴生态系统,电信运营商拥有清晰的路径,将开放模型的优势转化为生产就绪的 AI 工作流。
打造本地 AI 创新平台
随着电信运营商构建 AI 基础设施以配合国家 AI 战略,开放模型正为他们奠定基础,以提供针对本地语言、行业、法规和数据治理要求量身定制的 AI 服务。
各国运营商可以针对本地语言和行业特定需求微调开放模型,并在其可信平台上托管开放模型,供客户直接使用,或基于自身数据和应用进行构建。
对于印度尼西亚最大的电信运营商之一 Indosat Ooredoo Hutchison 而言,这意味着通过其 Sahabat-AI 系列开源模型,构建反映本国语言和文化的 AI。
“对于像印度尼西亚这样的国家,开放模型的价值不仅在于获得强大的AI。关键在于将这种智能适配到我们自己的语言、文化、数据和现实需求中,”Indosat Ooredoo Hutchison首席数据与AI官Chirag Sukhadia表示。“Sahabat-AI将这一理念付诸实践,以开放模型为基础,构建能够理解印度尼西亚、并可为本地应用开发的AI。这使我们不仅能采用AI,还能围绕它构建能力,让更多印度尼西亚人按照自己的方式用AI进行创造。”
了解更多关于NVIDIA电信技术的信息。
来源:NVIDIA Blog · blogs.nvidia.com