研究者提出稀疏微调框架SWIFT

研究者提出稀疏微调框架SWIFT，通过块对角稀疏更新做局部特征混合，再用固定的确定性散射置换跨特征组路由输出，且不增加可训练参数。 作者称，理论分析表明，在等大小、结构稠密的方形块条件下，散射置换可保证正的块级扩展，从而避免信息孤岛。 在常识推理、自然语言生成和图像分类实验中，SWIFT 平均优于所评估的 PEFT 基线，并可匹配或超过全量微调。

AI 根据报道生成 · 46 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。