PID 门控的持续提示词自适应:噪声反馈下的鲁棒调度
针对 LLM 智能体在非平稳环境中因噪声反馈导致指令更新被污染的问题,研究者受 PID 控制启发提出一族轻量门控机制,依据当前误差、历史证据累积与编辑后回滚来决定何时触发持久指令更新。在多种漂移任务、不同 LLM 参数规模与反馈噪声水平下,PID 门控在任务性能与编辑器调用预算之间取得比 TextGrad、GEPA 及简单基线更优的 Pareto 权衡。
针对 LLM 智能体在非平稳环境中因噪声反馈导致指令更新被污染的问题,研究者受 PID 控制启发提出一族轻量门控机制,依据当前误差、历史证据累积与编辑后回滚来决定何时触发持久指令更新。在多种漂移任务、不同 LLM 参数规模与反馈噪声水平下,PID 门控在任务性能与编辑器调用预算之间取得比 TextGrad、GEPA 及简单基线更优的 Pareto 权衡。
研究团队与领域专家合作构建了香港消防安全规范的本地化基准数据集,包含选择题和开放式问题,用于评测 12 个主流闭源与开源模型。表现最好的闭源模型在选择题上达到 80-90% 准确率,开源模型普遍落后;但在开放式评测中,专家人工评估显示准确率仅为 50-70%,表明 LLM 在专业合规任务上仍有较大提升空间。
论文提出将隐性知识建模为记忆基底 VaCoAl 的一种运行机制,而非某类内容。VaCoAl 是基于 GF(2) 的代数确定性 XOR-and-shift 超维记忆,以 CASRAM 和 PyVaCoAl 实现;其 DAG 有 Rescue 与 Don't Care 两种读法,后者产生路径积分置信度 CR₂,形成"审计—估值互补"。
Dream2Discern 是一种运行时审计器,通过自身预测损失引导的隐式增强来训练:Dream 阶段对表示算子施加扰动以生成困难潜变量变体,Discern 阶段用原始标签从这些变体学习预测执行结果,变体随训练不断再生,无需额外采集轨迹或验证结果。在 AFTraj-2K 和 StepShield 上,其轨迹级加权准确率均超过 90%,优于同类故障审计器,并兼顾预测准确性与及时性。
一项实证研究审计了 LLM Agent 评测框架的 oracle 可靠性,发现某 Agent 基准的奖励函数缺陷会在评分前改变环境状态,经回放修正后 4,320 个 episode 的数据库通过标签从 4,194 降至 2,883,测得成功率从 94.3% 降至 65.5%。
研究者提出统一音频深伪检测框架,结合自适应音频特征集成(AAFI)模块与 Mel-Band 对抗扰动(Mel-BAP)策略,在 ADD 2022、FakeOrReal 和 In-the-Wild 上基于 Whisper-small 实现 1.51% 的平均 EER。
研究者将自回归解码的每步预测误差定义为采样 token 指示变量与模型条件预测分布之差,证明其累积误差过程关于解码滤波是鞅,条件一阶矩恒为零。该鞅序列的可预测二次变差可化简为 $\sum_t(1-p(y_t\mid y_{<t}))$,仅凭已实现的 token 概率即可计算。在 Llama-3.x 与 Qwen2.5 系列(1B 至 72B 参数)上的白盒实验显示,实测二阶矩与理论预测高度吻合。
多智能体 LLM 系统(MALS)存在传统敏感度防御无法捕捉的隐私泄露:信息经常规协作传播至未授权智能体。研究评估了 485 个场景,发现拓扑结构使向拓扑引入接收方的泄露从 0% 升至 52.2%,而表面泄露稳定在 60.6%-62.8%。提出的 RECONS 净化器将残余泄露从 96.7% 降至 29.25%,同时保留 94.1% 的授权披露。
研究者提出 OT-FlowRec,一个最优传输引导的多桥流匹配框架,通过构建并行的兴趣专属传输流显式建模多中心兴趣分布,实现多模态序列推荐中的兴趣解耦。该方法还设计了几何传输机制与渐进式时间采样预热策略,在三个公开数据集上超越现有 SOTA 基线。
研究者提出 Error-Chain-Aware Optimization(ECHO),一种将责任识别与信用分配分离的责任感知信用分配框架,通过冻结评判模型区分新引入错误、继承后果、遗漏纠正与成功纠正,并对共享下游后果只计一次、以来源出资的恢复约束修复自身错误的奖励。在六个工具调用基准、4B 与 8B 两个规模上,ECHO 在每个规模的六个基准中有五个取得最高分。代码已开源。
研究追问逐层训练后量化中,各层补偿前层继承误差在何种假设下能保证网络输出误差不增大。对任意深度线性网络,在校准 Gram 矩阵可逆、每层舍入误差条件均值为零且两种方案共享确定性二阶矩映射时,强度固定在 [0,1] 的补偿可给出不劣于无补偿的均方输出误差。
AutoSec-RAN 通过两阶段 LoRA 微调 Mistral-7B-Instruct,并选择性结合 RAG 检索,实现 O-RAN 测试的自动化安全分析。
研究提出将随机策略的随机性作为信息嵌入与通信媒介,在保持预设动作分布不变的前提下,通过调制随机动作实现隐式通信。所提 PRAM(后验匹配随机性调制)方案借助与控制无关的公共随机性,对每个状态和消息都保持预设动作分布,并证明随状态轨迹足够长,消息可以任意小错误概率解码。实验展示了该框架在多比特策略水印和轨迹溯源等应用中的有效性。
arXiv 论文发现,用依赖刻板印象的礼貌回答微调语言模型,会让模型在无关任务上更不安全、更不真实,即出现涌现性失配(EM)。该效应在四个 7B 至 12B 开源权重模型家族、性别与种族刻板印象以及多次重复训练中均成立,且学到的刻板印象在模型激活中有独立方向,可被控制与监测。
研究者提出一种将软件层扫描与硬件层微处理器活动监控相结合的多阶段勒索软件检测框架,通过对抗训练强化静态分析抗混淆能力,并借助硬件辅助监控实现实时检测。该框架还引入神经架构搜索(NAS)自动定制模型以提升泛化性,实验显示检测精度显著提升、延迟降低,并提供可解释决策过程的追踪级可解释性。
DiffNash 提出一种基于扩散模型的均衡计算框架,通过重加权 score-matching 目标训练扩散策略,无需从每次更新后的策略中直接采样,从而实现 Online Mirror Descent(OMD)与 Fictitious Play(FP)的扩散变体。
研究者提出一种可扩展的全自动弱到强验证器加固方法,先建立智能体无法直接修改的隔离验证器沙箱,再用 hacker-fixer 循环发现并修复验证器漏洞。该方法应用于 Terminal Bench、KernelBench 和 SETA,大幅降低攻击成功率,且随循环迭代次数增加防御持续增强,优于静态非迭代基线。其早期版本已被 Terminal Bench 官方仓库采用,用于审计环境中的漏洞利用。
研究者提出 RINO(Renormalization Group DIstillation with NO Labels),首次将高能喷注形成的多尺度重整化群结构作为自监督学习的视图来源,用不同层级聚类构建跨能标的教师-学生表示,并以 DINO 式自蒸馏对齐。
Gen Through the Lens 是一个相机可控的图像到视频生成框架,通过跨坐标系条件融合,将相机坐标(内参)、世界坐标(空间几何提示)和物体坐标(目标主体的 3D 边界框)三类异构控制信号统一起来,实现对相机运动、对焦和构图的精确控制,同时保持时空一致性。实验表明,该方法在多种相机操作下均能生成可控且视觉一致的结果,在真实感和可编辑性上优于现有方法。
研究者提出 CodeTriage,一个 0.6B 参数的学习型策略,在生成和测试修订代码前,先读取测试输出、失败诊断和候选编辑,预测该编辑达到修复所需的修复步数分布,从而对多个程序的待处理编辑统一排序。
研究将冻结的 V-JEPA2 特征迁移至 RGB 视频、深度视频与雷达时间序列等异构传感器,用带模态查询、固定传感器槽位和显式可用性标记的共享融合模型,从全部七种非空传感器子集识别呼吸活动与姿态。
针对可验证奖励强化学习中大量 rollout 预算浪费在无学习信号状态上的问题,研究者提出方差驱动的状态重采样方法 VSR,其闭式解为 Neyman 分配 μ_var^π(s) ∝ d^π(s)·σ_π(s),并自然关联 GRPO 的组相对优势、随策略改进涌现出反向课程。
研究者提出一种服务时"跨度否决"机制,使被标记文本对语言模型行为不可见——不被摘要引用、问答忽略、下游过滤不标记,并在 10 个模型、7 种 mixer 家族、0.5B-120B 参数上验证了同长度替换下外部激活逐位一致的非干扰特性。
一项工业级对比研究显示,在基于 Semantic ID 的 LLM 推荐中,单头自回归 Beam Search 在排序与内容 QA 等多数产品关键指标上持续优于多 Token 预测(MTP),在 Qwen3-8B 规模下训练成本约低 2.6 倍,MTP 仅在原始推理吞吐上占优。
研究者提出 LLM Value Function RL(LVRL),利用预训练 LLM 的上下文学习能力估计策略感知的状态价值,无需微调独立 critic 即可实现步级信用分配。
针对现有多模态大模型快慢推理只调控文本推理长度、忽视视觉计算的问题,研究者提出统一推理框架 L2T,将工具产生的视觉状态离散化为视觉 token,使视觉感知与文本推理进入同一自回归空间。L2T 引入模态感知路由奖励选择推理模式,并用难度感知快慢策略按任务复杂度调整推理深度。在通用感知与推理密集任务上,L2T 相比显式工具调用方法保持有竞争力性能,吞吐量提升 1.7–3.6 倍。
该研究公开了 7604 条 Nastaliq 乌尔都语 Facebook 评论语料,并在统一网格搜索协议下微调四种乌尔都语 Transformer,与十二个特征分类器基线对比。最佳配置 MuRIL 达到 87.05% 准确率和 87.06% macro F1,较最强基线提升 5.52 个百分点。词级 SHAP 归因显示,归因质量集中于高频侮辱词,但也延伸至句法中性虚词和源页面特有的政治词汇。
SurgiCLAW 是一个分层技能框架,将 MLLM 限定于术中视觉理解、结构化解释与原子手术技能选择,物理执行交由可验证的确定性控制程序完成。在脑机接口植入任务上,其技能选择准确率达 94.6%、Macro-F1 为 93.0%,50 次闭环真机植入试验任务成功率为 88.0%。
研究者提出 DeskIF-Bench,用 255 个跨 6 款桌面应用的任务,在固定任务、智能体与验证器的情况下改变软件版本,测量界面变化对 LLM 智能体表现的影响,结果显示最新版本始终优于最旧版本。
HyperForecast 是首个在双曲空间中运行的长时时间序列预测(LTSF)框架,将分解后的时间片段嵌入 Poincaré 球,用径向距离刻画频率层级。它提供基于 Poincaré 残差动力学的自回归预测和并行预测全部未来片段的非自回归两种流形动力学变体,在 11 个长时预测基准中的 9 个上优于现有及 SOTA 基线,长时域均方误差最多降低 58%。
SkillMarker 是一种基于 KGW 的水印方法,用于智能体技能的所有权验证与泄露溯源,通过质量约束改写与信号导向候选搜索兼顾功能保持与水印强度。在四个数据集上,该方法对下游任务性能影响可忽略;复制粘贴测试中,基于窗口的检测可稳定识别最短 1,536 个连续 token 的抄袭片段,与一至三个背景技能合并后水印检出率仍保持 72.2–77.8%。
研究者提出 Spectral-Guided Quality-Diversity Diffusion 框架,将质量-多样性(QD)优化与扩散模型结合,通过直接优化模型的潜在噪声和条件嵌入来发现多样且高性能的输出。
研究评估了五个 DNA 基础模型的冻结表征,在 57 个基因组分类数据集和两个基因表达回归任务上与归一化 k-mer 频率对比。简单 k-mer 特征与多数模型相当,NTv3 表现出一致优势:与全局 6-mer 特征拼接后在 57 个数据集中的 46 个上提升(平均 ΔMCC = +0.072),Caduceus 增益较小,其余模型平均 MCC 未提升。
BharatSetu 22-Indic 1M 发布,这是一个行对齐表格,包含 984,764 条英文句子及全部 22 种印度表列语言的机器翻译(共 21,664,808 个 Indic 单元),由 sarvamai/sarvam-translate 模型族生成。
RespFocus 是一个基于多实例学习(MIL)的弱监督框架,从周期级标签中学习可检验的时间声学证据并融入分类,在公开 ICBHI 2017 上取得四分类 Score 69.55%,在新建的多中心儿科呼吸音队列 PedResp2026 上取得 72.91%。PedResp2026 采集自常规临床环境,带有经裁定的周期级标注。证据诊断与匹配的时间干预实验支持所学证据对模型预测的功能性贡献。
TabMosaic 是一个统一的上下文扩散模型,可在无需针对特定表格训练的情况下,为未见且可能不完整的表格生成混合类型目标单元格。该模型将扩散去噪目标定义在所有目标单元格的联合分布上,其预训练目标可约束条件负对数似然及与后验预测分布的散度,将上下文学习的贝叶斯解释从单值预测扩展到多单元格联合生成。在 48 个真实表格上,TabMosaic 在所有评估的生成任务中均排名第一,优于 20 种基线方法。
研究提出 HiCAD 两阶段框架,直接将手绘草图和文本描述等多层级人类意图映射为可执行的参数化 CAD 代码,无需预先存在目标 CAD 模型。该框架通过协同多任务对齐弥合异构输入的表示差距,并用空间感知强化学习保证几何与拓扑一致性,同时构建了首个对齐手绘草图、文本描述与参数化 CAD 代码的大规模数据集 HiCAD。实验表明该方法在多项任务上显著优于现有基线,论文已被 ICML 2026 接收。
研究者提出修复型 DCSP 求解器 DCC-Incomplete,将未解部分归入冲突簇,并通过协调层把通信限制在同一冲突区域内的智能体之间。在带预设可满足解的分布式图着色基准上,其记忆引导重启将成功率从 37.50% 提升至 61.11%,中位运行时间从 0.565s 降至 0.367s,每条约束的中位通信量从 12.493 条消息降至 6.503 条。
ELECT 提出一种免训练故事可视化方法,通过语言引导的场景-实体映射和从模型自身草稿中选出的固定锚点,在最终渲染前确定跨帧身份,使最终渲染的每帧成本与故事长度无关。
针对任意正权重与加性非负成本函数下的不可分杂务分配问题,研究证明每个实例都存在 4.124234528-WMMS 公平分配,并给出在权重与成本均为二进制有理数时,可在多项式时间内计算出 4.12424-WMMS 分配的算法。同时构造出一族成本严格为正且排序相同的实例,其最优 WMMS 近似因子收敛到 e,从而将此前 Li 等人给出的 [2,12] 区间收窄至 [e,4.12424]。
共 2000 篇论文