正交循环神经网络量化方法QORNN提出
热点事件持续更新
正交循环神经网络量化方法QORNN提出
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Armand Foucault等作者发表QORNN，将正交循环神经网络（ORNN）的权重矩阵量化，用两种基于正交投影的量化感知训练（QAT）策略学习量化后的近似正交RNN，并研究激活值的训练后量化，以实现循环环路的纯整数计算。 作者称，最高效的全量化模型是目前唯一能求解1000时间步Copy-task的方案，在permuted MNIST及部分IoT任务等长程依赖任务上超越现有量化模型；但在LSTM等门控RNN更擅长的任务上表现较弱。
AI 根据报道生成 · 52 分钟前更新
最新进展10月26日 12:00
正交循环神经网络量化研究：QORNN 的两种学习策略与全量化模型表现报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- arXiv cs.AI正交循环神经网络量化研究：QORNN 的两种学习策略与全量化模型表现
研究提出 QORNN，通过量化感知训练（QAT）结合正交投影的两种策略学习量化近似正交 RNN，并研究激活值的训练后量化以实现循环环路的纯整数计算。最高效的全量化模型是目前唯一能求解 1000 时间步 Copy-task 的方案，在 permuted MNIST 及部分 IoT 任务等长程依赖任务上超越现有量化模型，但在 LSTM 等门控 RNN 更擅长的任务上表现较弱。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。