arXiv cs.AI· Song Xia, Meiwen Ding, Chenqi Kong, Wenhan Yang, Xudong Jiang·· 3 天前AI 评分32
TARA：跨视角与时间的轨迹泛化物理攻击，可持续干扰世界模型与视频理解模型
Across Viewpoints and Time: Trajectory-Generalizable Physical Attacks on World Models and Video Understanding Models
AI 导读
研究者提出轨迹感知对抗对齐与精炼攻击 TARA，用轨迹感知优化与对比对齐生成单一可打印对抗纹理，在 EPIC-KITCHENS-100 和 Something-Something V2 上跨视角、跨时间持续误导世界模型与视频理解模型。团队还构建了几何跟踪流水线并采集真实打印-重拍视频，形成可复现测试平台。
正文 · AI 翻译
摘要：世界模型和视频理解模型越来越多地部署在动态视觉环境中，然而它们对物理对抗威胁的鲁棒性在很大程度上仍未得到充分探索。我们研究单一物理对抗纹理是否能在不同真实世界场景中误导受害模型，这些场景中观察视角沿着不受控的物体—相机轨迹变化。我们发现，异构的视频语义和轨迹会导致用于优化对抗纹理的梯度对齐不佳。为解决这一问题，我们提出了轨迹感知对抗对齐与细化攻击（TARA），它结合了轨迹感知优化，以捕捉真实世界场景下印刷纹理不断演变的几何变化。为提高跨实例优化兼容性，TARA 引入了轨迹感知对比对齐，以促使来自不同视频—轨迹实例的受攻击表征趋近一个共享的对抗区域，然后执行轨迹感知任务细化，将已对齐的表征转化为任务级预测错误。为了可复现的评估，我们开发了一个基于几何的跟踪流程，在 EPIC-KITCHENS-100 和 Something-Something V2 上提供具有时间一致轨迹的物理上合理的对抗区域。我们进一步收集了真实世界的打印与重录视频，以验证物理部署条件下的攻击有效性。这些标注基准和真实世界采集数据共同构成了一个可复现的测试平台，供未来评估使用。值得注意的是，我们的结果揭示，单一可打印对抗纹理能够在物理条件下持续干扰世界模型和视频理解模型，凸显了这一根本性安全挑战。
| 评论： | 项目页面：this https URL |
| 学科： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.15343 [cs.CV] |
| （或 arXiv:2610.15343v1 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.15343 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Song Xia [查看电子邮件]
[v1]
2026年10月11日星期日 04:49:53 UTC（4,188 KB）
来源：arXiv cs.AI · arxiv.org