OmniCam:基于几何锚定姿态 token 学习的全景相机轨迹生成
OmniCam 是一个自回归模型,可从单张全景图和文本轨迹描述生成相机姿态序列,其几何锚定姿态 token 学习结合了全景点云编码器、混合绝对旋转与相对平移 tokenization 以及独立的几何与语义条件流。
OmniCam 是一个自回归模型,可从单张全景图和文本轨迹描述生成相机姿态序列,其几何锚定姿态 token 学习结合了全景点云编码器、混合绝对旋转与相对平移 tokenization 以及独立的几何与语义条件流。
研究者提出 Mixture of Layers(MoL),一种在视觉 patch 级别、由指令条件驱动的层路由方法,可动态聚合视觉编码器中间层的查询相关隐状态,支持图像级、patch 级或混合路由的 top-k 稀疏聚合。
针对现有潜在视觉推理中多个 latent token 共享同一视觉证据、易产生冗余表征的问题,研究者提出 MoLE(Mixture of Latent Experts)框架,让不同潜在视觉专家在证据提取阶段相互隔离,并由专门的潜在摘要专家聚合其互补表征。
研究者提出 WeLike2Party,一个基于直接上下文视频条件的多人物动画框架,推理时无需提取显式姿态或人体网格,并引入 Reference Asymmetric RoPE Conditioning 与 Identity Binding Supervision 来保持外观细节和身份-动作绑定。
ESTHER 是首个面向可穿戴自我中心立体的端到端度量 3D 手部重建模型,其立体几何、时序推理与输出表示均针对该信号设计。模型基于标定标注流程生成的伪标签训练,并据此构建了 ESTHER3D 基准,将大规模野外模型生成标签训练集与动捕真值度量测试集配对。实验显示其达到 SOTA 精度,对外部泛化更强,在缺失视角、丢帧及光照与运动模糊等极端条件下保持鲁棒,甚至坍缩为单目视角后仍能保留真实度量尺度。
研究者推出 GameHorizon Suite,一套面向多时间跨度的游戏玩法数据与评测套件,包含自动化标注流水线 GameHorizon-Annotator、首个大规模 AAA 游戏数据集 GameHorizon-Data(21 款游戏、5000 小时录像、100 名人类专家玩家)以及支持离线与逐步在线测试的 GameHorizon-Bench。
SeRV 是一种面向美国手语(ASL)生成的语义对齐 RVQ 分词器,通过全局运动-文本对齐与 token 级文本条件监督学习语义化残差 token 空间,并由分层 GPT 以由粗到细方式预测残差运动 token,生成 3D ASL 动作。
研究构建了人口统计平衡数据集 PARITY,测试视觉语言模型是否会拒绝对面部图像做出自闭症谱系障碍、ADHD、重度抑郁症和广泛性焦虑症的诊断判断。对 27 个开源与闭源模型的评估显示,模型会将面部表情转化为缺乏依据的医学判断,且该行为在开源权重模型中普遍存在,并延伸至经过安全训练的前沿模型——后者对单张人像会拒答,但在比较同一身份的多张人像时仍会给出诊断。
多模态深度学习模型 TC-Next 可基于 GraphCast 预报与 GridSat 红外卫星图像,实现 6-24 小时热带气旋路径与强度预报。在 GraphCast 上,其路径误差较规则追踪器 TempestExtremes 降低 15-44%,强度误差降至 1/3-1/6,且无需重训练即可迁移至 Pangu-Weather 和 IFS HRES。
COSI-Lab 发布了一个真实跨学科科学研讨会的多模态多传感器数据集,涵盖 32 位学者、两场各 30 分钟的真实社交互动。该数据集聚焦由外部观察者判定的表观意图推断(AII)问题,提出将主观感知的多样性建模为可解释的视角驱动推理过程,而非标签噪声,并提供新的 AII 标注流程、意图叙事的定量与定性分析、基准任务、语音质量音频及隐私保护的多模态环境与可穿戴传感器数据。
针对 LLM 辅助 ISR 集群中单平台合规动作组合成任务级违规的问题,研究者提出三层(平台/小队/任务)组合式运行时验证框架,将任务策略分解为单智能体与跨智能体切面,并通过验证感知消息结构聚合各平台判定,用安全×完整性双轴代数融合证据、溯源共同触发违规的平台。
研究者提出 Agentic Real2Sim 框架,用视觉语言智能体把真实世界物体-机器人交互录像转化为可仿真的情节孪生,并接入下游策略微调与评估。该框架在刚体操作、可变形物体交互和人形运动场景上完成评测,其智能体决策可由开放权重 VLM 后端驱动,成本仅为前沿模型的一小部分,转换成功率相当。项目站点含代码已公开。
RoboGaze 是一个免训练的多智能体 VLM 评估器,通过将任务与场景接地、把子任务路由给维度专属专家并用 critic 核验,生成时间定位的诊断报告,覆盖 6 个维度和 30 种失败类型。
研究用 BDD100K 道路场景的受控损坏实验,检验 CLIP 图像-文本相似度导出的危险分数变化能否由嵌入漂移预测。结果显示两者关系高度依赖损坏类型:部分损坏族中表征漂移与决策漂移强耦合,另一些则在嵌入变化不大时仍引发危险决策不稳定。多数损坏族通过漏检抑制危险识别,遮挡则触发误报,表明鲁棒性基准应纳入任务对齐的稳定性指标。
研究者提出 EgoProactive 智能眼镜数据集与跨域基准 Pro²Bench,用于评测主动式多模态助手的干预时机、流程完成度和响应质量。零样本下没有前沿或开源权重模型能在首次出错前完成超过 26% 的流程干预。其 PWR(Plan, Watch, Recover)架构在上下文中维护显式计划状态并在每次干预后修订,在三个开源权重骨干上把平均流程完成率从 20% 提升到 27%。
研究者推出 NoRA,一个视觉第一人称视频基准,要求模型从零生成候选下一步动作,并通过显式的"事实-理由-动作"支撑图说明理由。该基准包含 1,420 段标注视频片段,分为 HumanGold-190 与 LLMSilver-1230,按动作对齐、事实溯源与支撑绑定三项指标汇总为可溯源合理性分数。
针对推理语言模型(RLM)在多语言推理中因语言理解失败而表现不佳的问题,研究者提出 Luar——一个语言理解边界感知强化学习框架,训练模型在直接理解不可靠时才选择性地调用翻译。在 Qwen3-4B 上,Luar 相比标准 GRPO 平均准确率提升 8.4 个百分点,低资源语言上增益尤为明显,并将翻译调用集中在真正受益的查询上以降低推理成本。项目将公开。
Real2SAM2Real 提出用生成式 3D 缓存为视频扩散模型补充上下文,从单张参考图像估计出拓扑完整、包含未观测表面的物体与人体网格,再以指定相机轨迹和前景运动渲染的法线图引导视频合成。该方法仅用约 2,000 段单目视频训练,无需显式 3D 资产或多轨迹配对录制,支持相机与多实例运动解耦控制,在剧烈视角变化等场景下时空一致性和控制精度优于所评估的 SOTA 方法。
TypoCast 是一个以源语言类型学特征(形态类型、语序、语系)为条件的多语言语音翻译前端,而非仅依赖语言标签。在 CVSS-C 上,它以仅 228M 可训练参数在法语、德语、西班牙语到英语三个方向上平均超越 SOTA 语音到语音翻译系统,并在七语言测试中每个语言都优于身份条件的 S2ST-Omni。
研究者提出 VLAs-as-Tools 策略,由高层 VLM 智能体负责时序推理与全局规划,一组专用 VLA 工具执行局部物理操作,并通过 VLA 工具族接口实现事件触发的重规划。
研究者提出 Counterfactual Semantic Saliency(CSS)框架,通过因果消融物体测量语义偏移,以黑盒方式量化物体重要性。基于 307 个复杂自然场景、1,306 个反事实变体和 16,603 份人类有效回答的对比测试显示,VLM 相比人类更依赖大物体、图像中心物体和高显著性物体,而对场景中人物的依赖更少,其中尺寸偏差是模型与人类语义分歧的主要驱动因素。
HIMMEL 用稀疏语义锚帧加轻量压缩域三流适配器编码帧间运动,在 Video-MME 上以 3.6 倍更少上下文 token 超过 32 帧密集基线 2.3 个百分点(61.2% 升至 63.5%),单题端到端耗时从 2.75 s 降至 1.03 s。
研究者提出一种多模态潜在扩散模型,通过交叉注意力在共享潜在空间内联合合成体积 MRI 与表格临床数据,先用变分自编码器融合两种模态,再以独立解码器分别重建。该框架在德国国家队列(NAKO)超 1 万名参与者的 MRI 与年龄、性别、身体测量、族裔等表格特征上评估,生成影像具备解剖合理性与身体成分一致性,表格模态在标准指标上优于 CTGAN、与 TVAE 相当。
研究通过 GenAD 音频描述生成管线和 RefineAD 编辑界面,比较新手从零创作与编辑不同质量 AI 草稿的差异。GenAD 草稿将完成时间缩短一半以上并显著降低认知负荷,而简单无引导提示生成的基线草稿收益有限,表明有效辅助存在最低质量阈值。该阈值随内容视觉复杂度上升而提高,作者据此提出设计原则:AI 辅助应达到与目标内容匹配的质量阈值,而非仅仅存在。
研究在 DriveLM-nuScenes 上对比两种跨阶段上下文传递机制:显式变体在 4B 模型 Mini-InternVL2-4B-DA-DriveLM 上免训练使用三种提示策略。
UniT(Unified Latent Action Tokenizer via Visual Anchoring)通过视觉锚定建立统一物理语言,实现人到人形机器人的跨本体迁移。其三分支交叉重建机制将异构运动学映射到共享离散隐空间,在策略学习(VLA-UniT)中实现零样本任务迁移与OOD泛化,在世界建模(WM-UniT)中实现人到人形机器人的直接动作迁移。
一篇 67 页、395 篇参考文献的综述提出以模型设计为中心的前馈 3D 重建分类法,抛开隐式场与显式图元等输出表示差异,将研究方向归纳为特征增强、几何感知、模型效率、增强策略和时序感知模型五个关键问题。该综述还系统梳理了相关基准与数据集,并对前馈 3D 模型的实际应用进行分类讨论,最后指出可扩展性、评测标准和世界建模等开放挑战。
研究者提出一套合成数据生成流程,用于长上下文音频推理的训练与评测,并以首诊医患对话生成 SOAP 病历为任务实例化。该流程完全基于开放权重模型,包含人设驱动对话生成、带重叠/停顿建模与房间声学及声音事件的多说话人音频合成、LLM 生成参考 SOAP 病历三个阶段,已发布 8,800 段合成对话、1.3k 小时音频及参考病历。
AromaGen 是一套 AI 驱动的 12 通道可穿戴嗅觉系统,可将自由形式的自然语言描述映射到 12 种基础气味分子,并支持通过自然语言反馈迭代调整。
研究者提出 Event Logic Tree(ELT)知识表示框架,将自然语言事件描述转化为信号基元上的结构化时序逻辑,并据此构建神经符号 VLM 智能体框架 SELA,迭代地从信号可视化中定位基元并按 ELT 约束组合,同时输出事件区间与树状解释。
研究者提出一种神经符号验证框架,将 VLM 生成的放射学报告自由文本自动形式化为结构化命题证据,并用 SMT 求解器 Z3 结合临床知识库判定每条诊断结论是被数学蕴含、幻觉还是遗漏。在五个胸部 X 光基准上评估七款 VLM,该验证器揭示了传统指标无法察觉的推理失败模式,如保守观察与随机幻觉。在标注数据集上,以求解器蕴含约束作为事后保证,可系统性消除无依据幻觉,显著提升诊断可靠性与精确率。
针对现有指代多目标跟踪(RMOT)仅依赖 2D RGB 观测、难以唯一确定目标的问题,研究者提出 DRMOT 任务并构建 DRSet 数据集,包含 186 段 RGB-D 源序列上的 2,076 条指代表达,配有同步 RGB 图像、深度图及显式深度相关描述。
OpenVTON-Bench 是一个约 10 万对高分辨率图像(最高 1536×1536)的虚拟试穿评估基准,结合 Gemini 密集描述与 DINOv3 K-Means 聚类的 20 个视觉簇分层采样。
PixSearch 是一种端到端的分割式大型多模态模型(LMM),将区域级视觉锚定与检索增强推理统一起来,在自回归生成中学习何时检索、如何在文本、整图和区域级检索间路由查询,并用联合训练的掩码解码器裁剪目标实体作为视觉查询。
针对统一遥感多模态模型在文本到图像生成中难以忠实执行空间关系的"空间反转诅咒",研究者提出 Uni-RS,通过显式空间布局规划、空间感知查询监督和图像-字幕空间布局变换三项设计,将几何规划与视觉合成解耦。实验显示该方法在多个基准上大幅提升生成的空间忠实度,同时在图像描述、视觉定位和 VQA 等理解任务上保持强劲表现。
研究构建了一个基于公开足球精彩集锦的新数据集,用于评估多模态模型区分比赛中重要与非重要子事件的能力。对比多个 SOTA 多模态模型后发现,它们无法可靠捕捉上下文重要性,倾向于依赖单一主导模态,且难以综合多源信息。研究强调需要能动态适应多模态异质性的模块化架构及促进跨模态协同的训练方法。
PRISM 是一个零样本、免训练的程序性视频摘要框架,仅选取不到 5% 的视频帧即可保留超过 84% 的语义内容,较基线最高提升 7.5%。它通过轻量视觉过滤和动态生成的过程标签作为语义锚点,筛选有意义的帧-标签组,减少传入下游视觉语言描述阶段的视觉输入。该工作在 YouCook2、ActivityNet Captions 及外科手术视频数据集上验证了语义对齐与准确率表现。
GeoMotionGPT 提出一种几何对齐框架,对动作码本与 LLM 嵌入空间同时施加正交性约束,使两者的关系结构自然对应,而非仅靠 token ID 关联。该方法采用带 Gumbel-Softmax 的 decoder-only 量化器实现可微训练与码本均衡使用,并通过稀疏投影将动作码映射进 LLM 嵌入空间,配合两阶段正交正则化调度。
HERO 是一个分层证据推理优化框架,通过片段级、token 级和补全级三种粒度分别优化推理、诊断和推理依据忠实度,并采用覆盖诊断准确性、推理质量和思考-答案一致性的异构奖励。在 MIMIC-CXR 和 IU-Xray 上,HERO 超越强监督和强化学习基线,达到 SOTA 临床效能,同时生成更多有推理依据支持、思考-答案一致的报告,显著缓解临床幻觉。
PhyAVBench 是首个系统评估 T2AV、I2AV、V2A 模型音频物理 grounding 能力的基准,包含 25.5 小时、11,605 段视频的 PhyAV-Sound-11K 数据集,覆盖 6 个音频物理维度和 41 个细粒度测试点。