arXiv cs.AI· Zimian Wei, Tianqi Zhang, Hengyue Pan·· 14 小时前AI 评分24
ACSAN：用卷积运算替代全连接矩阵乘法的全卷积自注意力网络
ACSAN: All-Convolutional Self-Attention Network Integrating Convolutional Operations with Vision Transformer
AI 导读
研究者提出全卷积自注意力网络 ACSAN，用卷积运算替换 ViT 框架中的全连接矩阵乘法。其基础模块 DCSA 通过多尺度空洞卷积生成 Query、Key、Value，并分别定义空间自注意力与通道自注意力，两路特征合并后输出。在 CIFAR-10、CIFAR-100 和 ImageNet-1k 上从零训练，ACSAN 在参数量相当或更少的情况下分类准确率优于标准 ViT 及其他 SOTA 方法。
正文 · AI 翻译
摘要：过去几年中，视觉 Transformer（ViT）在计算机视觉领域取得了优异的性能。然而，仍存在一些问题。例如，ViT 由于仅包含大量可训练参数而严重依赖大规模训练数据，这降低了其学习效率，并限制了其在资源受限场景中的适用性。本文提出了一种新颖的深度学习模型，即全卷积自注意力网络（ACSAN），该模型在 ViT 框架中应用卷积操作替代全连接矩阵乘法。为实现 ACSAN，我们首先设计了动态卷积自注意力（DCSA）作为基本模块，该模块采用多尺度空洞卷积生成 Query、Key 和 Value。我们定义了空间自注意力和通道自注意力以分别生成注意力特征。这两个注意力特征最终被合并为 DCSA 模块的输出。基于 DCSA，我们随后构建了基本的 ACSAN 块。与 ViT 相比，我们使用 DCSA 替代常规自注意力操作，并使用卷积层替代 MLP。为评估所提方法的性能，我们在三个广泛使用的图像分类数据库（即 CIFAR-10、CIFAR-100 和 ImageNet-1k）上从头训练 ACSAN。实验结果表明，与参数量相当或更少的标准 ViT 以及其他最先进方法相比，ACSAN 取得了优异的分类准确率。消融研究验证了每个组件均对最终性能有积极贡献。
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.35375 [cs.CV] |
| （或 arXiv:2610.35375v1 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.35375 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Hengyue Pan [查看电子邮件]
[v1]
2026 年 10 月 26 日星期一 12:58:25 UTC（289 KB）
来源：arXiv cs.AI · arxiv.org