跳到正文
10月15日周四
  1. arXiv cs.AI24

    ESTHER:面向野外场景的自我中心立体手部估计与重建

    ESTHER 是首个面向可穿戴自我中心立体的端到端度量 3D 手部重建模型,其立体几何、时序推理与输出表示均针对该信号设计。模型基于标定标注流程生成的伪标签训练,并据此构建了 ESTHER3D 基准,将大规模野外模型生成标签训练集与动捕真值度量测试集配对。实验显示其达到 SOTA 精度,对外部泛化更强,在缺失视角、丢帧及光照与运动模糊等极端条件下保持鲁棒,甚至坍缩为单目视角后仍能保留真实度量尺度。

  2. arXiv cs.AI40

    从人像到病理:探究视觉语言模型的诊断越界行为

    研究构建了人口统计平衡数据集 PARITY,测试视觉语言模型是否会拒绝对面部图像做出自闭症谱系障碍、ADHD、重度抑郁症和广泛性焦虑症的诊断判断。对 27 个开源与闭源模型的评估显示,模型会将面部表情转化为缺乏依据的医学判断,且该行为在开源权重模型中普遍存在,并延伸至经过安全训练的前沿模型——后者对单张人像会拒答,但在比较同一身份的多张人像时仍会给出诊断。

  3. arXiv cs.AI27

    TC-Next:零样本多模态热带气旋预报模型

    多模态深度学习模型 TC-Next 可基于 GraphCast 预报与 GridSat 红外卫星图像,实现 6-24 小时热带气旋路径与强度预报。在 GraphCast 上,其路径误差较规则追踪器 TempestExtremes 降低 15-44%,强度误差降至 1/3-1/6,且无需重训练即可迁移至 Pangu-Weather 和 IFS HRES。

  4. arXiv cs.AI20

    COSI-Lab:面向多视角多模态社交意图建模的会议生活实验室数据集

    COSI-Lab 发布了一个真实跨学科科学研讨会的多模态多传感器数据集,涵盖 32 位学者、两场各 30 分钟的真实社交互动。该数据集聚焦由外部观察者判定的表观意图推断(AII)问题,提出将主观感知的多样性建模为可解释的视角驱动推理过程,而非标签噪声,并提供新的 AII 标注流程、意图叙事的定量与定性分析、基准任务、语音质量音频及隐私保护的多模态环境与可穿戴传感器数据。

  5. arXiv cs.AI24

    LLM 辅助 ISR 集群的任务级运行时保障:基于验证感知消息结构的三层组合验证框架

    针对 LLM 辅助 ISR 集群中单平台合规动作组合成任务级违规的问题,研究者提出三层(平台/小队/任务)组合式运行时验证框架,将任务策略分解为单智能体与跨智能体切面,并通过验证感知消息结构聚合各平台判定,用安全×完整性双轴代数融合证据、溯源共同触发违规的平台。

  6. arXiv cs.AI35

    Agentic Real2Sim:用视觉语言智能体实现基于物理的世界建模

    研究者提出 Agentic Real2Sim 框架,用视觉语言智能体把真实世界物体-机器人交互录像转化为可仿真的情节孪生,并接入下游策略微调与评估。该框架在刚体操作、可变形物体交互和人形运动场景上完成评测,其智能体决策可由开放权重 VLM 后端驱动,成本仅为前沿模型的一小部分,转换成功率相当。项目站点含代码已公开。

  7. arXiv cs.AI18

    面向自动驾驶危险检测的视觉语言模型任务对齐稳定性分析

    研究用 BDD100K 道路场景的受控损坏实验,检验 CLIP 图像-文本相似度导出的危险分数变化能否由嵌入漂移预测。结果显示两者关系高度依赖损坏类型:部分损坏族中表征漂移与决策漂移强耦合,另一些则在嵌入变化不大时仍引发危险决策不稳定。多数损坏族通过漏检抑制危险识别,遮挡则触发误报,表明鲁棒性基准应纳入任务对齐的稳定性指标。

  8. arXiv cs.AI29

    Plan, Watch, Recover:主动式流程辅助的基准与架构

    研究者提出 EgoProactive 智能眼镜数据集与跨域基准 Pro²Bench,用于评测主动式多模态助手的干预时机、流程完成度和响应质量。零样本下没有前沿或开源权重模型能在首次出错前完成超过 26% 的流程干预。其 PWR(Plan, Watch, Recover)架构在上下文中维护显式计划状态并在每次干预后修订,在三个开源权重骨干上把平均流程完成率从 20% 提升到 27%。

  9. arXiv cs.AI27

    NoRA:评估视觉第一人称规范动作推理中的可溯源合理性

    研究者推出 NoRA,一个视觉第一人称视频基准,要求模型从零生成候选下一步动作,并通过显式的"事实-理由-动作"支撑图说明理由。该基准包含 1,420 段标注视频片段,分为 HumanGold-190 与 LLMSilver-1230,按动作对齐、事实溯源与支撑绑定三项指标汇总为可溯源合理性分数。

  10. arXiv cs.AI23

    Luar:让推理模型学会何时该翻译

    针对推理语言模型(RLM)在多语言推理中因语言理解失败而表现不佳的问题,研究者提出 Luar——一个语言理解边界感知强化学习框架,训练模型在直接理解不可靠时才选择性地调用翻译。在 Qwen3-4B 上,Luar 相比标准 GRPO 平均准确率提升 8.4 个百分点,低资源语言上增益尤为明显,并将翻译调用集中在真正受益的查询上以降低推理成本。项目将公开。

  11. arXiv cs.AI30

    Real2SAM2Real:用生成式 3D 缓存为视频扩散模型提供互补上下文

    Real2SAM2Real 提出用生成式 3D 缓存为视频扩散模型补充上下文,从单张参考图像估计出拓扑完整、包含未观测表面的物体与人体网格,再以指定相机轨迹和前景运动渲染的法线图引导视频合成。该方法仅用约 2,000 段单目视频训练,无需显式 3D 资产或多轨迹配对录制,支持相机与多实例运动解耦控制,在剧烈视角变化等场景下时空一致性和控制精度优于所评估的 SOTA 方法。

  12. arXiv cs.AI22

    TypoCast:用类型学条件替代语言标签的多语言语音翻译前端

    TypoCast 是一个以源语言类型学特征(形态类型、语序、语系)为条件的多语言语音翻译前端,而非仅依赖语言标签。在 CVSS-C 上,它以仅 228M 可训练参数在法语、德语、西班牙语到英语三个方向上平均超越 SOTA 语音到语音翻译系统,并在七语言测试中每个语言都优于身份条件的 S2ST-Omni。

  13. arXiv cs.AI32

    研究揭示 VLM 与人类场景描述之间的语义显著性差距

    研究者提出 Counterfactual Semantic Saliency(CSS)框架,通过因果消融物体测量语义偏移,以黑盒方式量化物体重要性。基于 307 个复杂自然场景、1,306 个反事实变体和 16,603 份人类有效回答的对比测试显示,VLM 相比人类更依赖大物体、图像中心物体和高显著性物体,而对场景中人物的依赖更少,其中尺寸偏差是模型与人类语义分歧的主要驱动因素。

  14. arXiv cs.AI21

    多模态潜在扩散模型通过交叉注意力在共享潜在空间联合合成 MRI 与表格数据

    研究者提出一种多模态潜在扩散模型,通过交叉注意力在共享潜在空间内联合合成体积 MRI 与表格临床数据,先用变分自编码器融合两种模态,再以独立解码器分别重建。该框架在德国国家队列(NAKO)超 1 万名参与者的 MRI 与年龄、性别、身体测量、族裔等表格特征上评估,生成影像具备解剖合理性与身体成分一致性,表格模态在标准指标上优于 CTGAN、与 TVAE 相当。

  15. arXiv cs.AI26

    新手如何编辑 AI 草稿?草稿质量在音频描述创作中的作用

    研究通过 GenAD 音频描述生成管线和 RefineAD 编辑界面,比较新手从零创作与编辑不同质量 AI 草稿的差异。GenAD 草稿将完成时间缩短一半以上并显著降低认知负荷,而简单无引导提示生成的基线草稿收益有限,表明有效辅助存在最低质量阈值。该阈值随内容视觉复杂度上升而提高,作者据此提出设计原则:AI 辅助应达到与目标内容匹配的质量阈值,而非仅仅存在。

  16. arXiv cs.AI40

    UniT:面向人到人形机器人策略学习与世界建模的统一物理语言

    UniT(Unified Latent Action Tokenizer via Visual Anchoring)通过视觉锚定建立统一物理语言,实现人到人形机器人的跨本体迁移。其三分支交叉重建机制将异构运动学映射到共享离散隐空间,在策略学习(VLA-UniT)中实现零样本任务迁移与OOD泛化,在世界建模(WM-UniT)中实现人到人形机器人的直接动作迁移。

  17. arXiv cs.AI22

    前馈 3D 场景建模综述:从问题驱动视角看模型设计

    一篇 67 页、395 篇参考文献的综述提出以模型设计为中心的前馈 3D 重建分类法,抛开隐式场与显式图元等输出表示差异,将研究方向归纳为特征增强、几何感知、模型效率、增强策略和时序感知模型五个关键问题。该综述还系统梳理了相关基准与数据集,并对前馈 3D 模型的实际应用进行分类讨论,最后指出可扩展性、评测标准和世界建模等开放挑战。

  18. arXiv cs.AI27

    面向长音频摘要的合成医患对话数据集发布

    研究者提出一套合成数据生成流程,用于长上下文音频推理的训练与评测,并以首诊医患对话生成 SOAP 病历为任务实例化。该流程完全基于开放权重模型,包含人设驱动对话生成、带重叠/停顿建模与房间声学及声音事件的多说话人音频合成、LLM 生成参考 SOAP 病历三个阶段,已发布 8,800 段合成对话、1.3k 小时音频及参考病历。

  19. arXiv cs.AI30

    面向视觉语言模型临床推理保证的神经符号形式化验证框架

    研究者提出一种神经符号验证框架,将 VLM 生成的放射学报告自由文本自动形式化为结构化命题证据,并用 SMT 求解器 Z3 结合临床知识库判定每条诊断结论是被数学蕴含、幻觉还是遗漏。在五个胸部 X 光基准上评估七款 VLM,该验证器揭示了传统指标无法察觉的推理失败模式,如保守观察与随机幻觉。在标注数据集上,以求解器蕴含约束作为事后保证,可系统性消除无依据幻觉,显著提升诊断可靠性与精确率。

  20. arXiv cs.AI22

    Uni-RS:面向遥感的空间忠实统一理解与生成模型

    针对统一遥感多模态模型在文本到图像生成中难以忠实执行空间关系的"空间反转诅咒",研究者提出 Uni-RS,通过显式空间布局规划、空间感知查询监督和图像-字幕空间布局变换三项设计,将几何规划与视觉合成解耦。实验显示该方法在多个基准上大幅提升生成的空间忠实度,同时在图像描述、视觉定位和 VQA 等理解任务上保持强劲表现。

  21. arXiv cs.AI25

    多模态基准何在?基础模型识别视频精彩片段的能力研究

    研究构建了一个基于公开足球精彩集锦的新数据集,用于评估多模态模型区分比赛中重要与非重要子事件的能力。对比多个 SOTA 多模态模型后发现,它们无法可靠捕捉上下文重要性,倾向于依赖单一主导模态,且难以综合多源信息。研究强调需要能动态适应多模态异质性的模块化架构及促进跨模态协同的训练方法。

  22. arXiv cs.AI22

    PRISM:标签引导的程序性与教学视频高效摘要框架

    PRISM 是一个零样本、免训练的程序性视频摘要框架,仅选取不到 5% 的视频帧即可保留超过 84% 的语义内容,较基线最高提升 7.5%。它通过轻量视觉过滤和动态生成的过程标签作为语义锚点,筛选有意义的帧-标签组,减少传入下游视觉语言描述阶段的视觉输入。该工作在 YouCook2、ActivityNet Captions 及外科手术视频数据集上验证了语义对齐与准确率表现。

  23. arXiv cs.AI23

    GeoMotionGPT:用大语言模型实现几何对齐的动作理解

    GeoMotionGPT 提出一种几何对齐框架,对动作码本与 LLM 嵌入空间同时施加正交性约束,使两者的关系结构自然对应,而非仅靠 token ID 关联。该方法采用带 Gumbel-Softmax 的 decoder-only 量化器实现可微训练与码本均衡使用,并通过稀疏投影将动作码映射进 LLM 嵌入空间,配合两阶段正交正则化调度。

  24. arXiv cs.AI22

    HERO:通过先推理后总结的分层证据推理优化实现放射学报告生成

    HERO 是一个分层证据推理优化框架,通过片段级、token 级和补全级三种粒度分别优化推理、诊断和推理依据忠实度,并采用覆盖诊断准确性、推理质量和思考-答案一致性的异构奖励。在 MIMIC-CXR 和 IU-Xray 上,HERO 超越强监督和强化学习基线,达到 SOTA 临床效能,同时生成更多有推理依据支持、思考-答案一致的报告,显著缓解临床幻觉。