Gradium 开源 31M 参数端侧 TTS 模型 Phonon 31m,采用 Apache 2.0 许可证
从 Kyutai 分拆的巴黎语音 AI 公司 Gradium 开源端侧 TTS 模型家族 Phonon,其中英文版 Phonon 31m 为 31M 参数、64.5 MB q8 GGUF,采用 Apache 2.0 许可证,无需 GPU 或云端调用即可在 CPU、手机、树莓派 5 和浏览器上运行。
MarkTechPost· Asif Razzaq·2026-10-23 00:56· 1 小时前AI 评分61
Gradium 以 Apache 2.0 许可证开源 Phonon,一款 31M 参数的端侧 TTS 模型
AI 导读
Gradium(从 Kyutai 分拆的巴黎语音 AI 公司)开源 Phonon 端侧 TTS 模型家族,其中英文 Phonon 31m 为 31M 参数、64.5 MB q8 GGUF,采用 Apache 2.0 许可证,无需 GPU 或云端调用即可在 CPU、手机、树莓派 5 和浏览器上运行。
正文 · 原文
Gradium 已开源 Phonon,这是一个专为端侧运行而构建的小型文本转语音模型家族。Gradium Phonon 端侧 TTS 模型提供 31M 和 40M 两种规模。英文版 Phonon 31m 以 Apache 2.0 许可证发布,文件大小仅 64.5 MB。开发者无需云端调用、无需 GPU、也无需按字符付费,即可获得自然语音。
TL;DR
- 规模:31M 参数(不含音频分词器),64.5 MB q8 GGUF,24 kHz 单声道输出。Phonon 40m:40M,74.6 MB。
- 运行平台:CPU、手机、树莓派 5、浏览器(WASM、WebGPU)和 NVIDIA GPU。无需 GPU。
- 性能:在 Gradium 测试的开源模型中英文 Elo 最高;在 CPU 上约 7 ms 生成首个音频。
- 最佳表现:在 500 句困难集上 WER 为 1.70%,而 Kokoro 为 3.50%(Gradium 的评测)。
- 最差表现:Seed-TTS LLM WER 为 0.51%,落后于 Kokoro(0.45%)和 Magpie(0.46%)。
什么是 Gradium Phonon?
Phonon 是 Gradium 推出的开放权重 TTS 家族,Gradium 是一家从 Kyutai 分拆出来的巴黎语音 AI 公司。它可在手机、笔记本电脑、开发板和浏览器上本地生成语音。
该家族包含 三个模型:
- Phonon 31m:仅英文,37 个内置音色,Apache 2.0。
- Phonon 40m:每种语言 1 个模型(英语、法语、德语、西班牙语、葡萄牙语),CC BY-NC 4.0。
- Phonon 40m 多语言版:1 个模型涵盖全部 5 种语言,102 个音色,CC BY-NC 4.0。
Phonon 如何工作?
Phonon 使用因果 transformer 主干。其前缀结合了文本和说话人嵌入。一个词表为 4,000 个 token 的 SentencePiece 分词器直接读取原始文本,无需音素转换。
主干每 80 ms 帧生成 1 个潜在向量。一个流匹配头将该向量与噪声在单步内转换为音频嵌入。随后,Kyutai Mimi 解码器的一个较小变体输出 24 kHz PCM 音频。一个独立的语音结束头决定何时停止。
Phonon 31m 使用 6 层 transformer,宽度 512,8 个注意力头。Phonon 40m 使用 9 层,宽度相同。两者均从更大的 Phonon 教师模型蒸馏而来。训练在配备 NCCL 和 CUDA Graphs 的 NVIDIA H100 集群上运行。
该工作基于 Kyutai 的 Continuous Audio Language Models 研究和 Pocket TTS。
Phonon 在基准测试中表现如何?
Gradium 进行了盲听成对比较测试,共有 1,189 名评分者和 17,270 次投票。在美式英语中,Phonon 40m 得分为 2117 Elo,Phonon 31m 为 2098。Kokoro 为 2043,NeuTTS 为 2034,Magpie 为 1939。
准确率在公开的困难句集上测试。每种语言包含 500 个句子,充满电话号码、电子邮件和邮政编码。Phonon 31m 的 WER 为 1.70%,而 Kokoro 为 3.50%,NeuTTS Nano 为 8.71%。
内置文本归一化是造成这一差距的主要原因。
在较简单的 Seed-TTS 集上,差距缩小。Phonon 31m 的 LLM WER 为 0.51%,而 Kokoro 为 0.45%。
Phonon 在 CPU 上有多快?
在配备 4 线程的 MacBook Air M5 CPU 上,Phonon 31m 在 6.9 ms 内输出首个音频。它比实时速度快 29.9 倍。Kokoro 需要 517 ms,因为它不支持流式输出。借助 Arm KleidiAI 和 Apple Accelerate,Phonon 31m 达到实时的 46.7 倍。
在 Raspberry Pi 5 上,Phonon 31m 在 38 ms 内启动,运行速度比实时快 3.7 倍。Gradium 表示 Kokoro 在该设备上需要 7 秒才能启动。
在 Snapdragon 8 Elite Gen 5 上,Phonon 在 7.5 ms 内启动,达到实时的 24 倍。在 NVIDIA L40S 上,CUDA 在 5 ms 内输出首段语音。根据新闻稿,AMD EPYC 7413 CPU 需要 43 ms。
对比:Phonon 与 Kokoro、NeuTTS Nano 和 Kitten TTS
| 特性 | Phonon 31m | Phonon 40m 多语言 | Kokoro-82M | NeuTTS Nano | Kitten TTS v0.8 |
|---|---|---|---|---|---|
| 开发者 | Gradium | Gradium | hexgrad | Neuphonic | KittenML |
| 参数量 | 31M(不含分词器) | 40M | 82M | 总计约 228.7M,激活约 116.8M | 15M / 40M / 80M |
| 权重 | 64.5 MB (q8) | 74.6 MB (q8) | 未披露 | 未披露 | 25 至 80 MB |
| 语言 | 英语 | EN、FR、DE、ES、PT | 8 种(v1.0) | 英语(合集新增 ES、FR、DE) | 英语 |
| 许可证 | Apache 2.0 | CC BY-NC 4.0 | Apache 2.0 | NeuTTS Open License 1.0 | Apache 2.0 |
| 困难集 WER,英语(Gradium 评估) | 1.70% | 2.11% | 3.50% | 8.71% | 7.40%(未披露变体) |
| 英语 Elo(Gradium 评估) | 2098 | 2097 | 2043 | 2034 | 未测试 |
| Seed-TTS LLM WER,英语(Gradium 评估) | 0.51% | 0.48% | 0.45% | 0.62% | 未测试 |
| 首个音频,M5 CPU,4 线程 | 6.9 ms | 8.8 ms(40m 架构) | 517 ms | 未披露 | 未披露 |
基准测试行来自 Gradium 的博客和模型卡。大小、语言和许可证行来自各模型自己的模型卡。
开发者如何部署 Phonon?
运行时采用 MIT 或 Apache-2.0 许可证。它覆盖 Rust、Python(pip install ptts)、Swift、C、C++ 以及通过 phonon-tts 的浏览器。它还提供兼容 OpenAI 的服务器和 WebSocket 服务器。
Phonon 可在 Transformers、MLX-Audio、Ollama 和 LM Studio 中加载。语音克隆和语音设计在 Gradium Studio 中运行,然后语音在本地运行。
关键要点
- Phonon 31m 是一个 31M、64.5 MB 的英语 TTS 模型,采用 Apache 2.0 许可证。
- 它报告在困难文本上的 WER 为 1.70%,而 Kokoro 为 3.50%。
- 在 MacBook Air M5 CPU 上,首个音频在 6.9 ms 内输出。
- 在 Raspberry Pi 5 上,它的运行速度比实时快 3.7 倍。
- 存在多语言 40m 模型,但采用非商业许可证。
查看技术博客、模型卡、GitHub 运行时和困难句子数据集。所有功劳归于该项目的研究者。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ ML SubReddit 并订阅 我们的新闻通讯。等等!你在 Telegram 上吗? 现在你也可以在 Telegram 上加入我们。
需要与我们合作推广你的 GitHub 仓库、Hugging Face 页面、产品发布或网络研讨会等? 联系我们
文章 Gradium 开源 Phonon:一个采用 Apache 2.0 许可证的 31M 参数端侧 TTS 模型 首次出现在 MarkTechPost。
来源:MarkTechPost · marktechpost.com
来源:RadarAI · aihot.news