跳到正文
RadarAI· MarkTechPost(RSS)·· 3 小时前AI 评分60

Gradium 开源 31M 参数端侧 TTS 模型 Phonon 31m,采用 Apache 2.0 许可证

AI 导读

从 Kyutai 分拆的巴黎语音 AI 公司 Gradium 开源端侧 TTS 模型家族 Phonon,其中英文版 Phonon 31m 为 31M 参数、64.5 MB q8 GGUF,采用 Apache 2.0 许可证,无需 GPU 或云端调用即可在 CPU、手机、树莓派 5 和浏览器上运行。

正文 · AI 翻译

MarkTechPost· Asif Razzaq·2026-10-23 00:56· 1 小时前AI 评分61

Gradium 以 Apache 2.0 许可证开源 Phonon,一款 31M 参数的端侧 TTS 模型

AI 导读

Gradium(从 Kyutai 分拆的巴黎语音 AI 公司)开源 Phonon 端侧 TTS 模型家族,其中英文 Phonon 31m 为 31M 参数、64.5 MB q8 GGUF,采用 Apache 2.0 许可证,无需 GPU 或云端调用即可在 CPU、手机、树莓派 5 和浏览器上运行。

正文 · 原文

Gradium 已开源 Phonon,这是一个专为端侧运行而构建的小型文本转语音模型家族。Gradium Phonon 端侧 TTS 模型提供 31M 和 40M 两种规模。英文版 Phonon 31m 以 Apache 2.0 许可证发布,文件大小仅 64.5 MB。开发者无需云端调用、无需 GPU、也无需按字符付费,即可获得自然语音。

TL;DR

  • 规模:31M 参数(不含音频分词器),64.5 MB q8 GGUF,24 kHz 单声道输出。Phonon 40m:40M,74.6 MB。
  • 运行平台:CPU、手机、树莓派 5、浏览器(WASM、WebGPU)和 NVIDIA GPU。无需 GPU。
  • 性能:在 Gradium 测试的开源模型中英文 Elo 最高;在 CPU 上约 7 ms 生成首个音频。
  • 最佳表现:在 500 句困难集上 WER 为 1.70%,而 Kokoro 为 3.50%(Gradium 的评测)。
  • 最差表现:Seed-TTS LLM WER 为 0.51%,落后于 Kokoro(0.45%)和 Magpie(0.46%)。

什么是 Gradium Phonon?

Phonon 是 Gradium 推出的开放权重 TTS 家族,Gradium 是一家从 Kyutai 分拆出来的巴黎语音 AI 公司。它可在手机、笔记本电脑、开发板和浏览器上本地生成语音。

该家族包含 三个模型:

  • Phonon 31m:仅英文,37 个内置音色,Apache 2.0。
  • Phonon 40m:每种语言 1 个模型(英语、法语、德语、西班牙语、葡萄牙语),CC BY-NC 4.0。
  • Phonon 40m 多语言版:1 个模型涵盖全部 5 种语言,102 个音色,CC BY-NC 4.0。

Phonon 如何工作?

Phonon 使用因果 transformer 主干。其前缀结合了文本和说话人嵌入。一个词表为 4,000 个 token 的 SentencePiece 分词器直接读取原始文本,无需音素转换。

主干每 80 ms 帧生成 1 个潜在向量。一个流匹配头将该向量与噪声在单步内转换为音频嵌入。随后,Kyutai Mimi 解码器的一个较小变体输出 24 kHz PCM 音频。一个独立的语音结束头决定何时停止。

Phonon 31m 使用 6 层 transformer,宽度 512,8 个注意力头。Phonon 40m 使用 9 层,宽度相同。两者均从更大的 Phonon 教师模型蒸馏而来。训练在配备 NCCL 和 CUDA Graphs 的 NVIDIA H100 集群上运行。

该工作基于 Kyutai 的 Continuous Audio Language Models 研究和 Pocket TTS。

Phonon 在基准测试中表现如何?

Gradium 进行了盲听成对比较测试,共有 1,189 名评分者和 17,270 次投票。在美式英语中,Phonon 40m 得分为 2117 Elo,Phonon 31m 为 2098。Kokoro 为 2043,NeuTTS 为 2034,Magpie 为 1939。

准确率在公开的困难句集上测试。每种语言包含 500 个句子,充满电话号码、电子邮件和邮政编码。Phonon 31m 的 WER 为 1.70%,而 Kokoro 为 3.50%,NeuTTS Nano 为 8.71%。

内置文本归一化是造成这一差距的主要原因。

在较简单的 Seed-TTS 集上,差距缩小。Phonon 31m 的 LLM WER 为 0.51%,而 Kokoro 为 0.45%。

Phonon 在 CPU 上有多快?

在配备 4 线程的 MacBook Air M5 CPU 上,Phonon 31m 在 6.9 ms 内输出首个音频。它比实时速度快 29.9 倍。Kokoro 需要 517 ms,因为它不支持流式输出。借助 Arm KleidiAI 和 Apple Accelerate,Phonon 31m 达到实时的 46.7 倍。

在 Raspberry Pi 5 上,Phonon 31m 在 38 ms 内启动,运行速度比实时快 3.7 倍。Gradium 表示 Kokoro 在该设备上需要 7 秒才能启动。

在 Snapdragon 8 Elite Gen 5 上,Phonon 在 7.5 ms 内启动,达到实时的 24 倍。在 NVIDIA L40S 上,CUDA 在 5 ms 内输出首段语音。根据新闻稿,AMD EPYC 7413 CPU 需要 43 ms。

对比:Phonon 与 Kokoro、NeuTTS Nano 和 Kitten TTS

特性Phonon 31mPhonon 40m 多语言Kokoro-82MNeuTTS NanoKitten TTS v0.8
开发者GradiumGradiumhexgradNeuphonicKittenML
参数量31M(不含分词器)40M82M总计约 228.7M,激活约 116.8M15M / 40M / 80M
权重64.5 MB (q8)74.6 MB (q8)未披露未披露25 至 80 MB
语言英语EN、FR、DE、ES、PT8 种(v1.0)英语(合集新增 ES、FR、DE)英语
许可证Apache 2.0CC BY-NC 4.0Apache 2.0NeuTTS Open License 1.0Apache 2.0
困难集 WER,英语(Gradium 评估)1.70%2.11%3.50%8.71%7.40%(未披露变体)
英语 Elo(Gradium 评估)2098209720432034未测试
Seed-TTS LLM WER,英语(Gradium 评估)0.51%0.48%0.45%0.62%未测试
首个音频,M5 CPU,4 线程6.9 ms8.8 ms(40m 架构)517 ms未披露未披露

基准测试行来自 Gradium 的博客和模型卡。大小、语言和许可证行来自各模型自己的模型卡。

开发者如何部署 Phonon?

运行时采用 MIT 或 Apache-2.0 许可证。它覆盖 Rust、Python(pip install ptts)、Swift、C、C++ 以及通过 phonon-tts 的浏览器。它还提供兼容 OpenAI 的服务器和 WebSocket 服务器。

Phonon 可在 Transformers、MLX-Audio、Ollama 和 LM Studio 中加载。语音克隆和语音设计在 Gradium Studio 中运行,然后语音在本地运行。

关键要点

  • Phonon 31m 是一个 31M、64.5 MB 的英语 TTS 模型,采用 Apache 2.0 许可证。
  • 它报告在困难文本上的 WER 为 1.70%,而 Kokoro 为 3.50%。
  • 在 MacBook Air M5 CPU 上,首个音频在 6.9 ms 内输出。
  • 在 Raspberry Pi 5 上,它的运行速度比实时快 3.7 倍。
  • 存在多语言 40m 模型,但采用非商业许可证。

查看技术博客、模型卡、GitHub 运行时和困难句子数据集。所有功劳归于该项目的研究者。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ ML SubReddit 并订阅 我们的新闻通讯。等等!你在 Telegram 上吗? 现在你也可以在 Telegram 上加入我们。

需要与我们合作推广你的 GitHub 仓库、Hugging Face 页面、产品发布或网络研讨会等? 联系我们

文章 Gradium 开源 Phonon:一个采用 Apache 2.0 许可证的 31M 参数端侧 TTS 模型 首次出现在 MarkTechPost。

来源:MarkTechPost · marktechpost.com

来源:RadarAI · aihot.news