免训练方法SHRINK调控VLM注意力
热点事件持续更新
免训练方法SHRINK调控VLM注意力
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Hui Zhu等作者提出免训练方法SHRINK,在生成过程中部分削减可见键中与sink对齐的分量,以此调控视觉语言模型的注意力。 在采样推理下,该方法在LLaVA-OneVision-7B和Qwen2.5-VL-3B上分别将平均准确率提升5.1和2.7个百分点;在Qwen2.5-VL-7B与Gemma-3-4B上增益较小。
AI 根据报道生成 · 58 分钟前更新
最新进展11月20日 13:00
超越 Sink Token:视觉语言模型中的 Sink 引导键编辑报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv cs.AI超越 Sink Token:视觉语言模型中的 Sink 引导键编辑
研究提出 SHRINK,一种无需训练的方法,通过在生成过程中部分削减可见键中与 sink 对齐的分量来调控注意力。在采样推理下,该方法在 LLaVA-OneVision-7B 和 Qwen2.5-VL-3B 上分别将平均准确率提升 5.1 和 2.7 个百分点,在 Qwen2.5-VL-7B 与 Gemma-3-4B 上增益较小。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。