arXiv cs.AI· Jiankun Wei, Ewan Dunbar, Gerald Penn·· 6 天前AI 评分24
CircuitTree:将电路组合成音节转录器
CircuitTree: Composing Circuits into A Syllable Transcriber
AI 导读
研究者提出 CircuitTree,一种基于 Θ(N log N) 树形组合调度的数据结构,可将任意多个电路组合进单一模型,克服了此前朴素并集方法的局限。他们将从 HuBERT 中剪枝出的音素分类电路组合成音节分类器,这是 39 个音素电路单独都不具备的能力。
正文 · AI 翻译
摘要:电路发现的目标是将单体神经网络分解为微小的模块化子网络,这些子网络在各自执行可识别的子任务这一意义上具有可解释性。我们提出了一种将任意多个电路组合成单一模型的实用方法。我们提出了一种贪心的、密度缩放的组合算法,克服了以往通过朴素并集组合电路尝试的局限性,然后通过 CircuitTree 将其推广到 $N$ 个电路,CircuitTree 是一种基于 $\Theta(N\log N)$ 树组合调度的新数据结构。我们将从 HuBERT 中剪枝得到的用于分类单个音素的电路组合成一个音节分类器,这是 39 个音素电路中的任何一个单独都不具备的能力。将 CircuitTree 链接成电路层次流水线,我们以 64.8\% 的准确率转写开音节,与一个完全不共享任何电路、准确率为 66.0\% 的上限相差 1.2 个百分点,同时共享了 99.5\% 的电路组件。
| 学科: | 机器学习(cs.LG);人工智能(cs.AI);声音(cs.SD) |
| 引用为: | arXiv:2610.12520 [cs.LG] |
| (或 arXiv:2610.12520v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.12520 arXiv 颁发的 DOI 经由 DataCite |
提交历史
来自:Jiankun Wei [查看邮箱]
[v1]
2026年10月7日星期三 21:29:44 UTC(148 KB)
来源:arXiv cs.AI · arxiv.org