跳到正文
arXiv cs.AI· Luca Lusvarghi, Javier Gozalvez·· 10 小时前AI 评分31

注意力不等于相关性:研究质疑自动驾驶中注意力的因果性

Attention Is Not Relevance: Challenging the Causality of Attention in Autonomous Driving

AI 导读

研究基于 PlanT 2.0 在超过 80,000 个合成驾驶场景中对比注意力相关性估计与反事实分析得到的因果参考,发现注意力只提供相关性而非因果性指示。注意力方法无法稳定识别所有相关物体,还会把对驾驶几乎无影响的物体误判为相关;在单车道直路场景中有效,但在多车道道路和交叉路口等复杂场景下准确率下降。

正文 · AI 翻译

查看 PDF

摘要:注意力机制已成为用于估计周围物体相关性并解释自动驾驶车辆驾驶决策的最广泛采用的解决方案之一。然而,其在捕捉单个输入元素对 AI 模型输出的因果影响方面的能力,长期以来在文献中一直存在讨论,尤其是在自然语言处理(NLP)领域。本工作将这一讨论引入自动驾驶领域,通过分析注意力在估计输入物体对自动驾驶车辆驾驶的影响(即其相关性)方面的准确性。为此,我们将不同的基于注意力的相关性估计方法与通过反事实分析获得的物体相关性因果参考进行比较。我们基于 PlanT 2.0(一种用于物体级规划的最先进 Transformer 模型)的自动驾驶车辆,在超过 80,000 个合成驾驶场景上进行了分析。结果表明,注意力提供的是物体相关性的相关性而非因果性指示。基于注意力的相关性估计方法不能一致地识别所有相关物体,并且倾向于错误地将对车辆驾驶影响很小或没有影响的物体归类为相关物体。特别是,结果表明注意力可以在简单的单车道直线道路场景中有效识别相关物体,但在更复杂的设置中(如多车道道路和交叉路口)其准确性会下降。这些发现凸显了注意力作为物体相关性代理的局限性,呼吁提出能够准确捕捉单个物体对车辆驾驶的因果影响并将其与相关性关联区分开来的新方法。
主题: 人工智能(cs.AI);机器人学(cs.RO)
引用为: arXiv:2611.24051 [cs.AI]
  (或此版本的 arXiv:2611.24051v1 [cs.AI])
  https://doi.org/10.48550/arXiv.2611.24051

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Luca Lusvarghi [查看电子邮件]
[v1] 2026年11月18日 星期三 08:42:22 UTC(738 KB)

来源:arXiv cs.AI · arxiv.org