跳到正文
arXiv cs.AI· Gautam Kumar Jain, Carsten Markgraf, Julian St\"ahler·· 3 天前AI 评分18

DriveLM-nuScenes 跨阶段一致性研究:显式提示与门控上下文路由对比

Cross-Stage Coherence in Hierarchical Driving VQA: A Consistency Protocol and Parameter-Efficient Gated Context Routing

AI 导读

研究在 DriveLM-nuScenes 上对比两种跨阶段上下文传递机制:显式变体在 4B 模型 Mini-InternVL2-4B-DA-DriveLM 上免训练使用三种提示策略。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:面向自动驾驶的图视觉问答(GVQA)将推理组织为有序阶段,即感知、预测和规划,其中规划决策应与模型自身的感知保持一致。我们在 DriveLM-nuScenes 上对跨阶段上下文传递进行了比较研究,采用两种互补机制。显式变体在领域适配的 4B VLM(Mini-InternVL2-4B-DA-DriveLM)上评估了三种基于提示的条件策略,无需额外训练,将 NLI 矛盾最多降低 42.6%,并建立了强大的零训练基线。隐式变体引入了门控上下文投影器,从一个阶段提取隐藏状态向量,并将归一化的门控投影注入下一阶段的输入嵌入。这些投影器与阶段特定的 QLoRA 适配器在通用 8B VLM(InternVL3-8B-Instruct)上联合训练,同时仅更新约 0.5% 的参数。隐式变体在规划阶段 NLI 矛盾上实现了统计显著的 34% 降低(bootstrap 95% 置信区间,p < 0.05),并将跨阶段蕴含提高了 50%,评估使用多语言 NLI 分类器以考虑混合语言输出。规划语言质量也有所提升(CIDEr +30.3%),但由于缺乏驾驶领域预训练,词汇重叠和结构一致性有所下降。由于两种变体使用不同的基础模型,我们将它们作为互补的案例研究呈现:显式上下文传递为表面一致性提供了强大的免训练基线,而隐式门控投影则带来了显著的规划阶段语义增益,表明领域适配可能是实现全谱改进的合理下一步。
评论: 17 页,8 幅图,8 张表。已被 COLM 2026 高效推理研讨会接收并展示
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2604.22560 [cs.CV]
  (或 arXiv:2604.22560v2 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2604.22560

arXiv 颁发的 DOI 通过 DataCite

提交历史

来自:Gautam Kumar Jain [查看电子邮件]
[v1] 2026 年 4 月 24 日星期五 13:54:48 UTC(14,243 KB)
[v2] 2026 年 10 月 13 日星期二 09:52:37 UTC(14,245 KB)

来源:arXiv cs.AI · arxiv.org