研究称视觉语言模型存在潜意识学习
热点事件持续更新
研究称视觉语言模型存在潜意识学习
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Arman Hatami 等作者发表研究称,视觉语言模型(VLM)也存在“潜意识学习”:教师 VLM 被微调出对特定动物或面部属性的偏好后,其在无关几何图形任务中生成的数字可被学生 VLM 学到,学生选择目标偏好的比例比对照组最高高出约 10 个百分点。 该迁移在 2B 至 7B 参数模型上均成立,且训练数据越多迁移越强;有偏学生的解释还会更多复用教师解释中的相同词语和短语。上述结果来自作者的研究,尚未见独立复现。
AI 根据报道生成 · 1 小时前更新
最新进展11月9日 13:00
视觉语言模型中的潜意识学习:无关数据也能传递偏好报道时间线
沿着报道,了解事件的不同侧面。
11月9日
- arXiv cs.CL视觉语言模型中的潜意识学习:无关数据也能传递偏好
视觉语言模型(VLM)同样存在潜意识学习现象:教师 VLM 被微调出对特定动物或面部属性的偏好后,其在不相关几何图形任务中生成的数字可被学生 VLM 学到,学生选择目标偏好的比例比对照组最高高出约 10 个百分点。该迁移在 2B 至 7B 参数模型上均成立,且训练数据越多迁移越强。有偏学生的解释还会更多复用教师解释中的相同词语和短语。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。