反射近端动力学:加速高精度对数凹采样
研究者提出反射近端动力学(reflected proximal dynamics),将近端采样与辅助变量的精确反射、条件动能运动及受控刷新结合,用于从对数凹分布 π(x)∝e^{-V(x)} 中采样。
研究者提出反射近端动力学(reflected proximal dynamics),将近端采样与辅助变量的精确反射、条件动能运动及受控刷新结合,用于从对数凹分布 π(x)∝e^{-V(x)} 中采样。
AutoNovo 用智能体程序搜索迭代地提出、执行、评估和修改核酸设计器代码,其设计器在 3/3 个 DNA 设计任务的 in-silico 性能上取得所评估方法中的最佳均值,并在 6/6 个独立模型迁移任务上表现最佳。这些设计器来自一个被发现的设计器家族,而非单一通用最优设计器,团队计划发布这些设计器。
GenRevisit 是一个智能体框架,将动作选择扩展为联合的延续状态与动作选择,让智能体可从交互历史中挑选图像候选再编辑,而非固定从最新图像继续优化。该框架采用 SFT 加智能体强化学习训练,并提出 Normalized Action Credit Assignment(NACA)解决 GRPO 中轨迹级优势分配过粗的问题。
SafeDSE 是一个面向同步数据流应用的设计空间探索框架,用单一声明式约束模型同时决定每个 actor 的模式、故障模型要求的放置、静态顺序调度与平台,并对 SIL 提升定价。
MP-MNCA 是一种形态学先验掩码邻居交叉注意力框架,在保留完整 3,000 维高变基因表示的同时,跨空间邻居选择性路由分子信息,并将组织学相似度作为连续注意力先验。
EventLens 是一个以视觉为中心的强化学习框架,通过事件结构恢复来训练视频理解,涵盖事件分割、进程判别和多事件关系推理三类可验证任务,并可用确定性奖励进行 GRPO 训练。在 Qwen3-VL 骨干上,该方法在时间定位与事件敏感推理基准上取得一致提升,同时保持通用视频问答性能。研究还提出多教师在线策略蒸馏(MT-OPD)将多个专用策略整合为统一模型,训练成本显著低于直接混合 RL 优化。
研究揭示 Fisher 信息可刻画神经网络如何在泛化与记忆之间分配容量。在 CIFAR-10 上训练的视觉模型中,将权重投影到 Fisher 特征向量顶部可解耦通用任务性能与噪声样本记忆,且该效应在不同层表现各异。相同现象在小 Transformer 的合成上下文学习任务及可解析线性模型中均得到复现。
研究团队提出 WildTrace,一个面向真实大规模后训练场景的训练数据检测基准,覆盖 SFT、DPO、RL 各阶段模型,并针对四类任务构建分布匹配、成员标签可验证的评估集。结果显示,表现最好的检测方法平均 AUC 仅 0.529,接近随机猜测的 0.5。分析还表明,评估协议会显著影响检测性能的测量结果。
Unravel 是一个免训练框架,能把单张图像转成每个物体都可独立移动的交互式 3D 场景。它先用视觉语言模型规划可见物体、由图像编辑器逐层移除并修复遮挡区域,再按移除的逆序重建场景,并以点云作为空间关系恢复的主要模态。在多种室内场景实验中,Unravel 比现有方法恢复出更多物体、摆放更忠实,场景物理合理性也更高。
研究发现 Omni-modal LLM 常无法表达其已正确感知的非文本模态信息,作者称之为"knows-but-cannot-say",并提出 Token-level Modality Alignment(TMA)度量模态表示与回复表示的对齐程度。
研究者提出 Active Probing Benchmark(APB),将猜谜式概念识别转化为多轮主动探测的交互推理任务,覆盖八个学科领域、960 个专业难度目标概念。评测发现一个反直觉现象:多数开源推理模型的表现显著低于其标准指令版本,说明它们在交互场景中难以用过程性推理可靠调用专业知识。APB 同时提供可扩展的基准生成流程。
针对 LLM 智能体在非平稳环境中因噪声反馈导致指令更新被污染的问题,研究者受 PID 控制启发提出一族轻量门控机制,依据当前误差、历史证据累积与编辑后回滚来决定何时触发持久指令更新。在多种漂移任务、不同 LLM 参数规模与反馈噪声水平下,PID 门控在任务性能与编辑器调用预算之间取得比 TextGrad、GEPA 及简单基线更优的 Pareto 权衡。
研究团队与领域专家合作构建了香港消防安全规范的本地化基准数据集,包含选择题和开放式问题,用于评测 12 个主流闭源与开源模型。表现最好的闭源模型在选择题上达到 80-90% 准确率,开源模型普遍落后;但在开放式评测中,专家人工评估显示准确率仅为 50-70%,表明 LLM 在专业合规任务上仍有较大提升空间。
论文提出将隐性知识建模为记忆基底 VaCoAl 的一种运行机制,而非某类内容。VaCoAl 是基于 GF(2) 的代数确定性 XOR-and-shift 超维记忆,以 CASRAM 和 PyVaCoAl 实现;其 DAG 有 Rescue 与 Don't Care 两种读法,后者产生路径积分置信度 CR₂,形成"审计—估值互补"。
Dream2Discern 是一种运行时审计器,通过自身预测损失引导的隐式增强来训练:Dream 阶段对表示算子施加扰动以生成困难潜变量变体,Discern 阶段用原始标签从这些变体学习预测执行结果,变体随训练不断再生,无需额外采集轨迹或验证结果。在 AFTraj-2K 和 StepShield 上,其轨迹级加权准确率均超过 90%,优于同类故障审计器,并兼顾预测准确性与及时性。
一项实证研究审计了 LLM Agent 评测框架的 oracle 可靠性,发现某 Agent 基准的奖励函数缺陷会在评分前改变环境状态,经回放修正后 4,320 个 episode 的数据库通过标签从 4,194 降至 2,883,测得成功率从 94.3% 降至 65.5%。
研究者提出统一音频深伪检测框架,结合自适应音频特征集成(AAFI)模块与 Mel-Band 对抗扰动(Mel-BAP)策略,在 ADD 2022、FakeOrReal 和 In-the-Wild 上基于 Whisper-small 实现 1.51% 的平均 EER。
研究者将自回归解码的每步预测误差定义为采样 token 指示变量与模型条件预测分布之差,证明其累积误差过程关于解码滤波是鞅,条件一阶矩恒为零。该鞅序列的可预测二次变差可化简为 $\sum_t(1-p(y_t\mid y_{<t}))$,仅凭已实现的 token 概率即可计算。在 Llama-3.x 与 Qwen2.5 系列(1B 至 72B 参数)上的白盒实验显示,实测二阶矩与理论预测高度吻合。
多智能体 LLM 系统(MALS)存在传统敏感度防御无法捕捉的隐私泄露:信息经常规协作传播至未授权智能体。研究评估了 485 个场景,发现拓扑结构使向拓扑引入接收方的泄露从 0% 升至 52.2%,而表面泄露稳定在 60.6%-62.8%。提出的 RECONS 净化器将残余泄露从 96.7% 降至 29.25%,同时保留 94.1% 的授权披露。
研究者提出 OT-FlowRec,一个最优传输引导的多桥流匹配框架,通过构建并行的兴趣专属传输流显式建模多中心兴趣分布,实现多模态序列推荐中的兴趣解耦。该方法还设计了几何传输机制与渐进式时间采样预热策略,在三个公开数据集上超越现有 SOTA 基线。
研究者提出 Error-Chain-Aware Optimization(ECHO),一种将责任识别与信用分配分离的责任感知信用分配框架,通过冻结评判模型区分新引入错误、继承后果、遗漏纠正与成功纠正,并对共享下游后果只计一次、以来源出资的恢复约束修复自身错误的奖励。在六个工具调用基准、4B 与 8B 两个规模上,ECHO 在每个规模的六个基准中有五个取得最高分。代码已开源。
研究追问逐层训练后量化中,各层补偿前层继承误差在何种假设下能保证网络输出误差不增大。对任意深度线性网络,在校准 Gram 矩阵可逆、每层舍入误差条件均值为零且两种方案共享确定性二阶矩映射时,强度固定在 [0,1] 的补偿可给出不劣于无补偿的均方输出误差。
AutoSec-RAN 通过两阶段 LoRA 微调 Mistral-7B-Instruct,并选择性结合 RAG 检索,实现 O-RAN 测试的自动化安全分析。
研究提出将随机策略的随机性作为信息嵌入与通信媒介,在保持预设动作分布不变的前提下,通过调制随机动作实现隐式通信。所提 PRAM(后验匹配随机性调制)方案借助与控制无关的公共随机性,对每个状态和消息都保持预设动作分布,并证明随状态轨迹足够长,消息可以任意小错误概率解码。实验展示了该框架在多比特策略水印和轨迹溯源等应用中的有效性。
arXiv 论文发现,用依赖刻板印象的礼貌回答微调语言模型,会让模型在无关任务上更不安全、更不真实,即出现涌现性失配(EM)。该效应在四个 7B 至 12B 开源权重模型家族、性别与种族刻板印象以及多次重复训练中均成立,且学到的刻板印象在模型激活中有独立方向,可被控制与监测。
研究者提出一种将软件层扫描与硬件层微处理器活动监控相结合的多阶段勒索软件检测框架,通过对抗训练强化静态分析抗混淆能力,并借助硬件辅助监控实现实时检测。该框架还引入神经架构搜索(NAS)自动定制模型以提升泛化性,实验显示检测精度显著提升、延迟降低,并提供可解释决策过程的追踪级可解释性。
DiffNash 提出一种基于扩散模型的均衡计算框架,通过重加权 score-matching 目标训练扩散策略,无需从每次更新后的策略中直接采样,从而实现 Online Mirror Descent(OMD)与 Fictitious Play(FP)的扩散变体。
研究者提出一种可扩展的全自动弱到强验证器加固方法,先建立智能体无法直接修改的隔离验证器沙箱,再用 hacker-fixer 循环发现并修复验证器漏洞。该方法应用于 Terminal Bench、KernelBench 和 SETA,大幅降低攻击成功率,且随循环迭代次数增加防御持续增强,优于静态非迭代基线。其早期版本已被 Terminal Bench 官方仓库采用,用于审计环境中的漏洞利用。
研究者提出 RINO(Renormalization Group DIstillation with NO Labels),首次将高能喷注形成的多尺度重整化群结构作为自监督学习的视图来源,用不同层级聚类构建跨能标的教师-学生表示,并以 DINO 式自蒸馏对齐。
Gen Through the Lens 是一个相机可控的图像到视频生成框架,通过跨坐标系条件融合,将相机坐标(内参)、世界坐标(空间几何提示)和物体坐标(目标主体的 3D 边界框)三类异构控制信号统一起来,实现对相机运动、对焦和构图的精确控制,同时保持时空一致性。实验表明,该方法在多种相机操作下均能生成可控且视觉一致的结果,在真实感和可编辑性上优于现有方法。
研究者提出 CodeTriage,一个 0.6B 参数的学习型策略,在生成和测试修订代码前,先读取测试输出、失败诊断和候选编辑,预测该编辑达到修复所需的修复步数分布,从而对多个程序的待处理编辑统一排序。
研究将冻结的 V-JEPA2 特征迁移至 RGB 视频、深度视频与雷达时间序列等异构传感器,用带模态查询、固定传感器槽位和显式可用性标记的共享融合模型,从全部七种非空传感器子集识别呼吸活动与姿态。
针对可验证奖励强化学习中大量 rollout 预算浪费在无学习信号状态上的问题,研究者提出方差驱动的状态重采样方法 VSR,其闭式解为 Neyman 分配 μ_var^π(s) ∝ d^π(s)·σ_π(s),并自然关联 GRPO 的组相对优势、随策略改进涌现出反向课程。
研究者提出一种服务时"跨度否决"机制,使被标记文本对语言模型行为不可见——不被摘要引用、问答忽略、下游过滤不标记,并在 10 个模型、7 种 mixer 家族、0.5B-120B 参数上验证了同长度替换下外部激活逐位一致的非干扰特性。
一项工业级对比研究显示,在基于 Semantic ID 的 LLM 推荐中,单头自回归 Beam Search 在排序与内容 QA 等多数产品关键指标上持续优于多 Token 预测(MTP),在 Qwen3-8B 规模下训练成本约低 2.6 倍,MTP 仅在原始推理吞吐上占优。
研究者提出 LLM Value Function RL(LVRL),利用预训练 LLM 的上下文学习能力估计策略感知的状态价值,无需微调独立 critic 即可实现步级信用分配。
针对现有多模态大模型快慢推理只调控文本推理长度、忽视视觉计算的问题,研究者提出统一推理框架 L2T,将工具产生的视觉状态离散化为视觉 token,使视觉感知与文本推理进入同一自回归空间。L2T 引入模态感知路由奖励选择推理模式,并用难度感知快慢策略按任务复杂度调整推理深度。在通用感知与推理密集任务上,L2T 相比显式工具调用方法保持有竞争力性能,吞吐量提升 1.7–3.6 倍。
该研究公开了 7604 条 Nastaliq 乌尔都语 Facebook 评论语料,并在统一网格搜索协议下微调四种乌尔都语 Transformer,与十二个特征分类器基线对比。最佳配置 MuRIL 达到 87.05% 准确率和 87.06% macro F1,较最强基线提升 5.52 个百分点。词级 SHAP 归因显示,归因质量集中于高频侮辱词,但也延伸至句法中性虚词和源页面特有的政治词汇。
SurgiCLAW 是一个分层技能框架,将 MLLM 限定于术中视觉理解、结构化解释与原子手术技能选择,物理执行交由可验证的确定性控制程序完成。在脑机接口植入任务上,其技能选择准确率达 94.6%、Macro-F1 为 93.0%,50 次闭环真机植入试验任务成功率为 88.0%。
研究者提出 DeskIF-Bench,用 255 个跨 6 款桌面应用的任务,在固定任务、智能体与验证器的情况下改变软件版本,测量界面变化对 LLM 智能体表现的影响,结果显示最新版本始终优于最旧版本。