FILO：低秩适配的统一Fisher几何框架

Ziyun Liu等作者提出 FILO，一个面向低秩适配（LoRA）的统一 Fisher 几何框架，可在不直接求逆奇异算子的情况下完成因子空间更新。 该框架按因子空间求逆策略与 W 空间预条件器 F_t，将现有 LoRA 优化器归为四类；作者同时提出 FILO-Adafactor 优化器。上述为论文中的主张，尚未见独立验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。