V-JEPA Policy:在预测性视觉潜空间上构建世界-动作模型
V-JEPA Policy 在冻结的 V-JEPA 2.1 编码器潜空间上构建世界-动作模型,总参数 0.9B、可训练 0.6B,在 LIBERO、LIBERO-Plus 和 RoboCasa-GR1 上与代表性 WAM 及视觉-语言-动作基线表现相当。
V-JEPA Policy 在冻结的 V-JEPA 2.1 编码器潜空间上构建世界-动作模型,总参数 0.9B、可训练 0.6B,在 LIBERO、LIBERO-Plus 和 RoboCasa-GR1 上与代表性 WAM 及视觉-语言-动作基线表现相当。
Purlin 是一个将集合通信的语义、编排与数据通路解耦的 scale-up 通信框架,通过 SNAC 编排协议和硬件相关的 Atom 数据通路实现 copy 与 reduce 原语。
研究者提出 WeLike2Party,一个基于直接上下文视频条件的多人物动画框架,推理时无需提取显式姿态或人体网格,并引入 Reference Asymmetric RoPE Conditioning 与 Identity Binding Supervision 来保持外观细节和身份-动作绑定。
研究证明 Benzmüller 与 Scott 关于 Gödel 本体论论证的浅层嵌入中,294 条显式证明均未使用混合逻辑的名义词或满足算子,全部经机器验证。文章还以非退化方式限制合取公理,重新解决了笔记遗留的三个开放问题,其中一个变体下该限制反驳了上帝类存在者的可能存在。所有定理均在 Isabelle/HOL 与 Lean 4 中独立验证,反模型由 Nitpick 生成并经构建检查。
DSpine 是一种在骨干网络各层注入相邻因果条件的投机解码草稿模型,让每个前驱的预测特征写入后继位置,使因果条件链随网络深度展开而所有位置并行更新。
针对物理求解器编译所需模块必须可读、而编码智能体不应读取其中知识产权的问题,研究对容器、权限规则和沙箱三种隔离手段下的 15 条读取路径做了分类,发现三者都无法识别究竟是哪个程序在读取文件。该研究共 6 页,含 1 张图和 1 张表,相关分类与历史脚本随论文一并提供。
ESTHER 是首个面向可穿戴自我中心立体的端到端度量 3D 手部重建模型,其立体几何、时序推理与输出表示均针对该信号设计。模型基于标定标注流程生成的伪标签训练,并据此构建了 ESTHER3D 基准,将大规模野外模型生成标签训练集与动捕真值度量测试集配对。实验显示其达到 SOTA 精度,对外部泛化更强,在缺失视角、丢帧及光照与运动模糊等极端条件下保持鲁棒,甚至坍缩为单目视角后仍能保留真实度量尺度。
Eval4DiRec 是首个专为扩散模型推荐系统设计的统一开源评估框架,支持 5 种推荐场景下的 14 个代表性扩散推荐模型,提供一致可复现的实验设置。基于该框架的大规模基准测试揭示了扩散模型在推荐任务上的强劲潜力,同时暴露了显著影响性能的关键因素与实际挑战。该工作已被 ACM TKDD 接收,代码与数据已公开。
arXiv 论文《LLM Alignment--Utility Asymmetry under Semantic-Preserving Transformations》用规则化。
研究者提出软目标微调(SoFT),通过为每个示范 token 设定最低目标概率、并对 Base 分布做最小 KL 改动,在从教师示范学习与保留 Base 模型原有能力之间取得平衡。该方法用领域特定梯度预算控制这一平衡,并为每条轨迹确定概率阈值。在混合域推理与智能体任务上,SoFT 在分布内能力获取和分布外泛化上均取得对比方法中的最佳整体表现。
研究提出将验证作为 LLM 智能体的架构层,借鉴软件工程 V-Model,让规范层级逐级对应专用验证器,由确定性控制器执行判定,仅验证结果写入记忆。在 MuSiQue 四跳任务、8B 参数骨干上对比五种配置:两个无验证配置十题全未答对,均因步数上限或 token 限制终止;带验证但无规划器的配置答对八题,其余弃答。确定性 gate 以零边际成本贡献了九次纠正中的八次,且验证存在时规划反而降低表现。
R-DEIM Net 是一个 76M 参数的双专家架构,用于复述检测并生成人类可读的理由。它由交互专家(多尺度 2D 卷积与注意力头,支持可变输入长度)和推理专家(Flan-T5-small 解码器生成理由作为辅助监督)组成,通过池化解码器隐藏状态作为分类特征。
研究提出 MTAG-Bench 多轮护栏归因数据集(含 4,167 段对话)与 MTAG-Probe 分层归因模型,可定位推动对话走向不安全的轮次级与片段级证据。
研究提出 FakeContextBench 基准,覆盖七个领域的伪科学主张,评估发现大规模预训练不足以可靠辨别上下文权威性,主流 ICL 微调方法反而使模型对误导性上下文的易感性增加,现实准确率最多下降 14.95 个百分点。
研究者提出一种量化鲁棒的 LLM 遗忘框架,通过损失景观分析发现基于曲率的判据可定位导致遗忘不鲁棒且效用下降的敏感权重,并据此提出敏感度引导的噪声正则化与仅更新遗忘关键层的遗忘关键优化。在 MUSE 和 TOFU 基准上跨多种 LLM 遗忘算法实验显示,该方法在保持模型效用的同时实现了更强的抗量化遗忘效果。
研究者提出 Prediction-Interval-Conditional Prediction Intervals(PICPIs),一种基于预测值的条件化框架,通过自洽条件 E[Y | p(X) ∈ I] ∈ I 同时定义预测值分层并保证该层结果均值落在同一区间内。
研究者推出 GameHorizon Suite,一套面向多时间跨度的游戏玩法数据与评测套件,包含自动化标注流水线 GameHorizon-Annotator、首个大规模 AAA 游戏数据集 GameHorizon-Data(21 款游戏、5000 小时录像、100 名人类专家玩家)以及支持离线与逐步在线测试的 GameHorizon-Bench。
研究考察了 Qwen-2.5-7B/32B 和 Llama-3.1-8B/70B 四款开放权重 LLM 如何在内部表征临床成本权衡。在糖尿病数据集上,患者风险可线性恢复(AUC≈0.83),成本方向在每个模型中均可恢复,但仅两个较大模型的表征偏移与输出变化一致,12 组模型-措辞中仅 2 组同时表现出对 FN 与 FP 成本增加的反向响应及成本正确排序。
研究提出 MusicConstraintBench 基准(2180 条、八类可程序化验证约束)与 MusicRLVR 方法,仅用验证器奖励对语言模型做 GRPO 训练,无需人工标注、奖励模型或音乐领域监督微调。
EGMEMORY 是一个免训练的智能体记忆框架,以证据链保留消息级证据与来源,并追踪状态的修订历史。它在 GroupMemBench 上达到 68.2%、在 EverMemBench 上达到 77.9%,分别超出最强基线 22.7 和 21.4 个百分点,在双人对话基准 LoCoMo 上达到 73.6%。该系统仅通过提示词与工具调用运行,无需针对记忆的策略训练。
一项研究以迷宫任务中的“好-坏”结果方向为对象,用受控干预区分实际结果与信息历史,检验该方向的构念效度。跨多个 LLM checkpoint,基于一种显式结果编码拟合的方向能良好迁移到另一种编码,但同一结果经由“预告”与“未预告”两种历史达成时迁移显著下降,事件后读出仍强烈依赖早先的预告。
研究用 104 例训练患者(878 个 MRI 体积)比较直接图像到图像回归模型与基于条件流匹配的生成模型,预测鞘内注射示踪剂在脑内的后期分布。直接模型在 23 例留出患者和 51 例特发性正常压力脑积水(INPH)队列中,将"直接复制平扫图像"的误差分别降低约 60% 和 25%,且预测变化图与观察到的示踪剂强化一致;生成模型在两个队列中精度均更低。
CoReLoop 通过循环专属 LoRA 与轻量模块实现受控循环精炼,让已训练的 SSL 音频深度伪造检测器在不新增数据、不更新原参数的情况下提升泛化能力。在 14 个测试集上,24 层模型两轮精炼将 EER 从 4.85% 降至 3.74%,仅训练 598M 参数中的约 11M。可选 halting head 按语句选择精炼深度,以平均 1.18 轮达到 3.73% EER。
论文提出一种名为能力洗白(capability laundering)的攻击:较弱的未对齐模型把有害任务拆成看似无害的子问题,分别向更强的已对齐模型咨询,再在本地组合答案,因此没有任何单次回复本身构成有害任务。
研究者提出 SPINE 基准,由 LLM 代理扮演持续但错误的用户,自适应挑战目标模型最多 25 轮,以测量大语言模型的谄媚行为。
RoboCousin 是一个基于 RoboTwin 2.0 的可扩展仿真数据生成平台,可将用户提供的物体图像转为带视觉与碰撞几何、语义物理元数据及自动抓取接触候选的仿真资产,并生成变化物体、背景、布局与语言指令的"数字表亲"。
研究者提出 OpenTI(Open Tabular Insight Extraction)框架,从第一性原理形式化"人需要什么分析知识、如何从表格语料中推导、结果如何服务用户"三个问题,以统一表格问答、text-to-SQL、数据分析智能体等分散的任务标签。
SeRV 是一种面向美国手语(ASL)生成的语义对齐 RVQ 分词器,通过全局运动-文本对齐与 token 级文本条件监督学习语义化残差 token 空间,并由分层 GPT 以由粗到细方式预测残差运动 token,生成 3D ASL 动作。
研究构建了人口统计平衡数据集 PARITY,测试视觉语言模型是否会拒绝对面部图像做出自闭症谱系障碍、ADHD、重度抑郁症和广泛性焦虑症的诊断判断。对 27 个开源与闭源模型的评估显示,模型会将面部表情转化为缺乏依据的医学判断,且该行为在开源权重模型中普遍存在,并延伸至经过安全训练的前沿模型——后者对单张人像会拒答,但在比较同一身份的多张人像时仍会给出诊断。
多模态深度学习模型 TC-Next 可基于 GraphCast 预报与 GridSat 红外卫星图像,实现 6-24 小时热带气旋路径与强度预报。在 GraphCast 上,其路径误差较规则追踪器 TempestExtremes 降低 15-44%,强度误差降至 1/3-1/6,且无需重训练即可迁移至 Pangu-Weather 和 IFS HRES。
LatentPress 将对话历史和长文档写入连续 memory tokens,由冻结解码器通过输入嵌入接口直接读取,推理时无需重建文本。
EmbodiedSkills 是一个基于技能的智能体框架,通过世界动作模型为冻结的 VLA 策略增强后果感知的动作选择,在 MetaWorld MT50 上把成功率从 76.28% 提升到 78.64%,在 CLIPort 上从 33.94% 提升到 36.83%。
针对 LLM 模拟用户过度配合、被测系统靠提问数量刷分的问题,研究者提出"披露门控"用户模拟器,将信息释放条件化为五级有序门、合并为三个可观测深度层。在已发布陪伴型智能体基准的英文语料上,移除逐样本门控语句会改变 12 个系统的排名且超出种子重跑的噪声带,但各系统分数无明显变化。该模拟器同时满足排名保序与分数尺度稳定两项标准,与已发布排行榜相关性达 0.993。
一项针对 12 名学生的访谈研究考察了生成式 AI 在学术沟通中的使用,发现学生在给导师和管理人员写邮件时最倾向于把专业信息委托给 AI,AI 参与程度从修改原文到直接代写不等。
DualOPSD 通过让特权教师模型在学生每次更新后同步适应,闭合了 OPSD 中教师收不到学生反馈的回路,并用基于冻结初始模型的残差目标保留特权上下文效果。在 Qwen3-8B/4B/1.7B 和三个数学基准上,DualOPSD 的 avg@12 准确率较 OPSD 提升 9.83 个百分点。诊断分析显示其双向 KL 更低、失配更少,代码已开源。
SIDScope 为生成式推荐的语义 ID 接口提供诊断资源,包含来自 7 个 tokenizer 家族、覆盖 Amazon 与 Yelp 的 9 个导出,其中 8 个可执行、1 个为可审计快照。
AudioChaps 是一个通过 GRPO 结合 CoT 推理对端到端 LALM 进行后训练对齐的框架,用于将连续音频流切分为主题连贯的章节。不做 SFT 冷启动直接应用 GRPO 的 AudioChaps-R1-Zero 平均 F1 比 SOTA 的 Audio-Flamingo-3-Think 提升 33 分,最终对齐模型 AudioChaps-R1 提升 49 分。
P2Skill 是一种基于提示词的技能蒸馏方法,让本地小模型自主执行四项技能,由云端 LLM 根据执行失败迭代优化技能,使本地 SLM 泛化到记忆化的 PII 模式之外,最终技能在设定边界内按最低验证泄露率选取。该方法无需隐私专用微调或学习型辅助检测器。在真实用户查询上,三种本地 SLM 中表现最佳者搭配 P2Skill 时,传输的标注标识符少于所有将文本发往云端的现有隐私保护方法。
研究用两个闭源模型和两个开源权重模型在 MMLU 与 ARC-Challenge 上测试四类策略,发现准确率与顺序敏感性并不一致变化:两阶段提示词在 MMLU 上降低了 GPT 的翻转率和 RStd,准确率却无显著变化。
arXiv 论文《Lost in Context Compaction: When LLM Systems Drop Side Constraints》研究上下文窗口承压时压缩过程会静默丢弃用户下达的附带约束(Side Constraints,如“在我确认前不要删除任何邮件”)。