跳到正文
arXiv cs.AI· Jiankun Wei, Ewan Dunbar, Gerald Penn·· 6 天前AI 评分24

CircuitTree:将电路组合成音节转录器

CircuitTree: Composing Circuits into A Syllable Transcriber

AI 导读

研究者提出 CircuitTree,一种基于 Θ(N log N) 树形组合调度的数据结构,可将任意多个电路组合进单一模型,克服了此前朴素并集方法的局限。他们将从 HuBERT 中剪枝出的音素分类电路组合成音节分类器,这是 39 个音素电路单独都不具备的能力。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:电路发现的目标是将单体神经网络分解为微小的模块化子网络,这些子网络在各自执行可识别的子任务这一意义上具有可解释性。我们提出了一种将任意多个电路组合成单一模型的实用方法。我们提出了一种贪心的、密度缩放的组合算法,克服了以往通过朴素并集组合电路尝试的局限性,然后通过 CircuitTree 将其推广到 $N$ 个电路,CircuitTree 是一种基于 $\Theta(N\log N)$ 树组合调度的新数据结构。我们将从 HuBERT 中剪枝得到的用于分类单个音素的电路组合成一个音节分类器,这是 39 个音素电路中的任何一个单独都不具备的能力。将 CircuitTree 链接成电路层次流水线,我们以 64.8\% 的准确率转写开音节,与一个完全不共享任何电路、准确率为 66.0\% 的上限相差 1.2 个百分点,同时共享了 99.5\% 的电路组件。
学科: 机器学习(cs.LG);人工智能(cs.AI);声音(cs.SD)
引用为: arXiv:2610.12520 [cs.LG]
  (或 arXiv:2610.12520v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.12520

arXiv 颁发的 DOI 经由 DataCite

提交历史

来自:Jiankun Wei [查看邮箱]
[v1] 2026年10月7日星期三 21:29:44 UTC(148 KB)

来源:arXiv cs.AI · arxiv.org