跳到正文
热点事件持续更新

视觉语言模型权重修复依赖低位痕迹

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

研究者在 SmolVLM-256M 和 LFM2-VL-450M 的权重中植入故障,测试编码智能体能否不借助梯度、在不知道故障位置的情况下直接修复权重。智能体找回了大部分被缩放的投影器行和视觉编码器噪声,但作者指出,这种修复依赖 32 位运算在 16 位权重中留下的低位痕迹,而真实故障未必留下这类线索。 抹去这些低位后,两个模型对测试问题的回答不变,但智能体在无提示时不再能修复任一模型:LFM2-VL 的准确率仅恢复约 4 个点,而未舍入时为 17 个点。在 LFM2-VL 上,多数会话能自行找到被缩放的行,但没有一次找到噪声;交换行或列(存储值集合不变)在两个模型上均未在给定预算内被自行发现。 作者据此建议,权重修复研究应披露权重数值格式并加入舍入对照组。

AI 根据报道生成 · 59 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    权重空间编程修复视觉语言模型:SmolVLM-256M 与 LFM2-VL-450M 实验揭示修复依赖故障计算痕迹

    研究者在 SmolVLM-256M 和 LFM2-VL-450M 的权重中植入故障,测试编码智能体能否无梯度直接修复权重。智能体在未被告知故障位置的情况下找回了大部分被缩放的投影器行和视觉编码器噪声,但修复依赖 32 位运算在 16 位权重中留下的低位痕迹;抹去这些低位后,LFM2-VL 准确率仅恢复约 4 个点,而未舍入时为 17 个点。作者建议权重修复研究披露权重数值格式并加入舍入对照组。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。