Helmane:基于 Pipecat 与 Mistral Voxtral 的餐厅电话语音助手 moshi-rag-voice-assistant
GitHub 项目 helmi75/moshi-rag-voice-assistant 开源了餐厅电话语音助手 Helmane,可代接电话完成预订、改单、取消、答疑与留言,并支持多门店按 Twilio 号码区分。
GitHub 项目 helmi75/moshi-rag-voice-assistant 开源了餐厅电话语音助手 Helmane,可代接电话完成预订、改单、取消、答疑与留言,并支持多门店按 Twilio 号码区分。
开发者用一张网页把 4 美元玩具机器人改造成 AI 伴侣:Android 手机当大脑,通过 WebUSB 连接 FT232H 板直接驱动玩具电机,语音识别、对话与语音合成全部在 Chrome 网页内完成,API key 只存在手机本地。
pipecat-ai/pipecat 是一个面向语音智能体、多模态应用和实时 AI 的开源框架,由 Daily 与社区共同维护。
GROW 是一款免费开源的 AI 文本转语音工具,采用 Group-Relative Advantage-Weighted On-Policy Reinforcement Learning 与 Autoregressive-Diffusion 模型,生成接近真人、带语调和情感的自然语音。
Nihongo Talk 是一个基于 DeepSeek Reasoner 与 Google Gemini 2.0 的全栈 AI 日语学习平台,覆盖 JLPT N5–N1 及零基础入门。
前Plaud高管Peter Mo创办的Ambi完成2600万美元多轮融资,由Luminous Ventures和华勤(Huaqin)领投,并推出iPhone、Mac和Apple Watch应用。其AI智能体可在会议进行中主动给出建议或调取知识,支持跨设备接续任务,环境录音默认关闭且不存储录音。公司还计划推出带屏幕、扬声器、摄像头和麦克风的硬件设备。
Veda 发布一个从零用 Rust 编写的智能体原生操作系统,语音智能体作为系统服务在启动时运行,通过与应用相同的代码路径执行操作,而非截屏或模拟点击。应用以 JSON 声明动作、参数和风险等级,内置应用提供 70 多个动作;每个动作分为常规、敏感和破坏性三档,后两档由系统服务而非语言模型持有,需用户在三分钟内确认。
GitHub 项目 awesome-voice-typing 汇集了多款免费语音转文字与语音输入工具,支持听写、音频转写和语音命令,许多工具可离线运行以保护隐私。该指南面向 Windows 10/11 用户,要求 4 GB 内存、2 GHz 双核处理器和至少 1 GB 可用磁盘空间,无需编程知识即可下载安装使用。工具同时支持 Linux、macOS、Android 和 iOS。
Deepgram 推出官方 JavaScript/TypeScript SDK,覆盖语音识别、语音合成与语言理解 API,可通过 npm install @deepgram/sdk 安装。
开源项目 FormDoctor 让澳洲全科医生通过语音听写自动填写 Centrelink、WorkCover、TAC 等政府医疗表单:Deepgram Nova-3 Medical 实时转写后,本地正则先剥离姓名、生日、Medicare 等身份信息,再由 Claude 提取字段并填入官方 PDF 模板供医生复核。
阿布扎比 TII 发布 1.6B 参数的阿拉伯语语音识别模型 Falcon-ASR,聚焦阿联酋方言,同时支持英语、法语、西班牙语和葡萄牙语,5 种语言共用一套权重。
Xime 是一款基于 Rime 引擎的 Android 输入法,支持五笔(86/98)与拼音输入,并内置混合方案。它提供 T9、手写、数字键盘、悬浮键盘等布局,支持本地离线 ASR(内置 streaming zipformer2 引擎)与在线 ASR 插件,以及基于 Transformer 的预测文本。
Soenneker.Libraries.Whisper.CTranslate 将 Windows 版 whisper-ctranslate2 可执行文件打包为 .NET 内容资产,通过 `dotnet add package Soenneker.Libraries.Whisper.CTranslate` 安装后,exe 会被复制到应用输出目录下的 Resources 文件夹。
研究者推出 DEAF 基准,包含 2700 多条冲突刺激,覆盖情感韵律、背景音和说话人身份三个声学维度,并设计逐级增强文本影响的多层次评测框架。对 7 个 Audio MLLM 的评测显示,模型虽对声学变化敏感,但预测主要由文本输入驱动,标准语音基准的高分与真实声学理解之间存在差距。
AudioTETRIS 是一个免训练的两阶段音频 token 压缩框架,利用音频编码器的表示几何作为声学先验,在 LLM 解码器各层计算逐 token 融合分数并渐进式 top-k 选择,无需额外训练或辅助模型。
研究者提出 RL-NAS 框架,用强化学习驱动的神经架构搜索为音视频语音增强(AVSE)寻找紧凑架构,仅评估 35 个候选模型即找到参数量 2.9M 的模型,相比基线 22M 缩小约九倍。该架构实现 14.5 dB 的 SI-SNR 提升,仅比基线低 0.7 dB,在商用移动 CPU 上实时因子降低 4.3 倍,搜索效率较随机搜索高 92%。
研究者提出 CircuitTree,一种基于 Θ(N log N) 树形组合调度的数据结构,可将任意多个电路组合进单一模型,克服了此前朴素并集方法的局限。他们将从 HuBERT 中剪枝出的音素分类电路组合成音节分类器,这是 39 个音素电路单独都不具备的能力。
研究提出一种黑盒因果测试,通过 CLAP 相似度定位音频证据区域并用频谱门控移除,在三个 LALM 上以 2x2x2 网格对比随机窗口。在 Qwen2-Audio-7B 上,定位消融的原始 AUROC(0.613)低于 blank 波形(0.721),但这是时长混淆所致;固定时长后定位在每个网格单元均优于随机移除。
SWEAR 是一个难度感知的音频推理框架,通过离线评估生成五维难度分数与压缩推理轨迹,在监督微调中学习难度信号,并用强化学习在不同推理阶段自适应分配推理量。在 MMAU-test-mini 和 MMAR 上,SWEAR 在提升准确率的同时大幅减少生成 token,对简单样本缩短推理且不损失困难样本表现。
研究者提出 EAVA(Encoder Awakening via Adapters),一种面向 Speech-LLM 语音识别的领域自适应微调方法:先在各编码器层插入轻量 adapter 并单独训练,再对 LLM 应用 LoRA 联合微调全模型。
研究从熵分配视角重新审视 LLM-based ASR,提出三项指标刻画训练范式如何在语音编码器与 LLM 之间分配熵减,并据此设计基于能力边界意识的多阶段训练策略。该方法在中文和英文基准上仅用 2.3B 参数即达到与 SOTA 模型相当的竞争力,同时通过解耦设计有效缓解模型幻觉。论文已被 NeurIPS 2026 主赛道接收。
M3-DuplexBench 是一个面向全双工语音对话系统(FDSDS)的多轮、多语言、多领域基准,可对交互时序与回复内容进行受控评估。该基准覆盖英语和日语,横跨闲聊与多轮问答,其中英日问答数据源自同一语料库,支持跨语言的时序与内容对比。它还提供参考条件多轮设置作为可选诊断,实验揭示不同模型在交互模式、语言与领域差异以及对话上下文影响上的模型依赖性。
EchoDistill 是一个噪声到干净的自蒸馏框架,用干净音频作为后训练阶段的特权信息,让噪声输入的学生模型对齐干净条件下的语义,推理时仅保留学生模型、不增加额外开销。
研究者将量子视觉(QV)理论用于深度伪造语音检测,把 STFT、Mel-spectrograms 和 MFCC 经 QV block 转换为信息波,训练 QV-CNN 与 QV-ViT。
OpenPA 是一个无需强制对齐的自动发音评估框架,利用 Whisper 的交叉注意力机制同时预测词级和语句级发音分数。它通过混合转写自适应和自适应替换加权,在单一模型中兼容封闭与开放响应场景的异构转写。仅用 speechocean762 训练,OpenPA 在域内封闭及模拟开放响应条件下取得所评估系统中最强整体表现,并在 MultiPA 上保持零样本性能。
论文提出 Oído,一个完全在 ESP32-S3(240 MHz 双核 Xtensa LX7、512 KB SRAM、8 MB PSRAM、16 MB flash,无神经网络加速器)上运行的开放词表英语语音识别推理引擎,执行 13M 参数 Conformer-CTC 模型,采用 int8 权重、逐帧动态 int8 激活和 int8 注意力。
研究基于 DistilHuBERT 重新评估口音分类鲁棒性,使用 L2-ARCTIC 与多个外部英语口音数据集,对比文件级与说话人分离划分。结果显示文件级评估显著高估性能,说话人分离评估才能更真实反映对未见说话人的泛化能力;仅用外部数据训练的模型无法可靠泛化到 L2-ARCTIC,平衡外部数据训练是最有前景的监督设置,而仅靠置信度过滤的伪标签在域不匹配下不够充分。
研究将 Whisper-small 从通用语音语料适配到 Earnings22 基准,发现所有评估方法在同域金融语音留出集上均出现性能提升而非灾难性遗忘,任务互补性使正则化反而有害。当确需正则化时,逐层 mini-KFAC 近似比标准对角 EWC 取得更低 WER 和更稳定的优化。结果表明应用持续学习约束前应先评估任务互补性,必要时优先选择 mini-KFAC EWC。
研究提出四项探针检验开放音频语言模型作为生成音乐评判者时究竟响应音乐、文本提示还是提问方式,并在 MusicEval 全部 2,748 个片段上测试五个开放评判模型。去掉音频后,没有任何评判模型超过仅凭提示词从人类评分预测的水平;成对评判中四个较小模型的结论跟随片段位置而非质量,改写指令对多数模型相关性影响堪比更换评判模型。作者建议每次音乐评判都报告这四项探针结果。
研究在四种低资源语言和英语、五种数据规模上交叉对比了音频类增强(speed perturbation、SpecAugment)与文本类增强,并在音素层面分析错误。
研究者提出 BASIS-Bench,从人口统计鲁棒性、刻板偏见和个性化三个维度,区分语音 LLM 的有益个性化与刻板行为。对八个近期语音 LLM 的评测显示,多数模型虽能识别口音等人口统计线索,却无法将其转化为恰当的个性化回应;显式人口标签虽提升个性化效果,却也放大了文本骨干中已有的刻板关联。
研究团队从 210 万小时无约束广播音频出发,提出以 ASR 置信度作为预训练数据质量代理,相比基于 LID 的过滤在训练集更小的情况下取得 3-7% 的相对 WER 提升。研究还在匹配参数预算下对比了 Transformer、Macaron-Net、Conformer 和 E-Branchformer 四种架构,模型在 Base 规模和域外场景上优于此前的芬兰语 SSL 基线。
研究团队将 GPT Realtime、Gemini 3.1 Flash Live、Grok Voice 等六款实时语音系统置于 176 段无脚本对话的 427 个停顿点和 482 个话轮结束处,评估其"是否开口、何时开口"的对话决策。
研究提出 SI-cpWER 指标,在全局说话人 ID 分配下评测跨会议持久说话人归属,覆盖 5 个商业 diarize-then-identify 级联、2 个开放学术基线和 ThyVoice,测试集为 CHiME-8 NOTSOFAR 全部 129 场会议(干净与加噪)及 CHiME-6。
UltraInstinct0x/vlc-auto-dub 是一个全本地运行的视频配音工具,流程为提取音频→faster-whisper 转写→argostranslate 可选翻译→piper 或 espeak-ng 合成语音→对齐时间轴→混流新音轨,原视频不被修改,默认无需 API key。
开源桌面应用 VidBee 支持从 YouTube、TikTok、X 等 1000+ 网站下载音视频或导入本地文件,并在本地生成带时间戳和说话人标签、与播放同步的转录文本。该工具由 @nexmoe 开发,免费开源,集成多家 AI 供应商实现内容摘要与问答。
YouTube Transcript Generator 是一款免费在线工具,用 AI 语音识别把无字幕或无 caption 的 YouTube 视频转成文字,无需下载或注册。它支持粘贴视频链接后自动转录,生成带时间戳的文稿和摘要,并可导出为 TXT、SRT、DOCX 格式。官方称已有 10M+ 用户和 8,000+ 团队使用,累计转录超 8000 万小时。
Colmena 是一个基于 Pollinations 的多模型 AI 工作室,支持 30+ 文本模型(含 GPT-6、GPT-5.5、DeepSeek、Grok、Kimi、Mistral、Llama、Qwen,付费 Pollen 账户可用 Claude 和 Gemini),按消息用自有 Pollen 付费,无订阅、无服务器、无广告、无追踪。
Voice Key 是一款隐私优先的按住说话语音输入工具,支持 Windows、macOS 和 Linux,音频在设备本地通过 ONNX 模型转写,无需 ASR API key。
Atticus 是一个 macOS 按住说话语音助手,按住 control option 空格说话、松开执行,通过 claude -p 复用已有的 Claude 付费订阅,无需 API key。