提出SIFT范式并发布AZeroS语音LLM
热点事件持续更新
提出SIFT范式并发布AZeroS语音LLM
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
Yiwen Shao等作者提出自生成无指令微调(SIFT)范式,并据此发布语音大模型AZeroS。SIFT用冻结的LLM基于语音文本表示生成监督信号,免去收集任务特定的问答对。 AZeroS基于Qwen2.5-7B-Instruct,只训练两个各2380万参数的投影模块,LLM与音频编码器均保持冻结。训练数据来自公开语料,包括约25000小时带ASR转写的语音和3000小时带副语言标注的语音。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 12:00
AZeroS:用自生成无指令微调将 LLM 扩展到语音报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv cs.CLAZeroS:用自生成无指令微调将 LLM 扩展到语音
AZeroS 提出自生成无指令微调(SIFT)范式,用冻结 LLM 基于语音文本表示生成监督信号,免去收集任务特定问答对。该模型基于 Qwen2.5-7B-Instruct,仅训练两个各 2380 万参数的投影模块,LLM 与音频编码器均冻结,训练数据约 25000 小时带 ASR 转写语音和 3000 小时副语言标注语音。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。