arXiv cs.AI· Hyunsuk Chung, Soyeon Caren Han, Seungyeon Ji, Jinwoo Kim, Eun-Jung Holden, Kyungreem Han·· 10 小时前AI 评分30
FiLoRA：可控制特征依赖的 Focus-and-Ignore LoRA
FiLoRA: Focus-and-Ignore LoRA for Controllable Feature Reliance
AI 导读
FiLoRA 是一种指令条件化的参数高效适配框架，通过将适配分解为特征对齐的低秩模块并施加指令条件门控，让自然语言指令成为作用于内部表示的计算级控制信号，从而在不改变任务语义的前提下选择性地放大或抑制不同特征组。在受控分类与生成式多模态任务上，包括自然与组合指令，FiLoRA 均能诱导一致且可解释的特征依赖变化。该工作提出指令条件化参数适配可作为干预模型内部行为的实用机制。
正文 · AI 翻译
摘要：多模态基础模型整合了跨模态的异构信号，但其预测能否通过显式调节对不同内部特征通路的依赖来加以控制，目前仍不清楚。现有的针对捷径与虚假行为的方法主要依赖事后分析或数据层面的干预，难以直接干预模型使用信息的方式。我们提出 FiLoRA（Focus-and-Ignore LoRA），一种以指令为条件、参数高效的适配框架，能够在保持任务与预测目标不变的前提下，实现对特征依赖的可控调节。FiLoRA 将适配分解为特征对齐的低秩模块，并施加指令条件门控，使自然语言指令能够作为计算层面的控制信号作用于内部表征。我们在受控分类设置和生成式多模态任务上，并在包括自然指令与组合指令在内的多种指令类型下评估了 FiLoRA。结果表明，FiLoRA 能够按照指令选择性地放大或抑制不同特征组，从而在特征依赖上引发一致且可解释的偏移，同时不改变任务语义。我们的发现表明，以指令为条件的参数适配可以作为干预模型内部行为的实用机制，为超越输出层提示或事后解释的多模态系统可控性与分析提供了新视角。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2602.02060 [cs.LG] |
| （或 arXiv:2602.02060v3 [cs.LG] 为本版本） | |
| https://doi.org/10.48550/arXiv.2602.02060 由 DataCite 颁发的 arXiv DOI |
|
| 期刊 参考： | NeurIPS 2026 |
提交历史
来自：Jinwoo Kim [查看邮箱]
[v1]
2026年2月2日（周一）13:00:57 UTC（7,617 KB）
[v2]
2026年8月19日（周三）03:17:34 UTC（13,325 KB）
[v3]
2026年11月10日（周二）04:14:27 UTC（13,041 KB）
来源：arXiv cs.AI · arxiv.org