科学反馈如何让生成模型跳出训练惯例、发现更优设计
研究表明,科学性能反馈可将生成模型学到的搜索分布导向训练惯例之外的高产区域,且无需显式奖励对惯例的偏离。在反应堆栅格设计与化学反应条件选择两项任务中,适配均提升了科学性能,并增加了被监督数据排除的选项生成;实测反应中,被训练排除的任务专属配体选择概率从 0.29 升至 0.70-0.71,同时预期产率误差下降。
研究表明,科学性能反馈可将生成模型学到的搜索分布导向训练惯例之外的高产区域,且无需显式奖励对惯例的偏离。在反应堆栅格设计与化学反应条件选择两项任务中,适配均提升了科学性能,并增加了被监督数据排除的选项生成;实测反应中,被训练排除的任务专属配体选择概率从 0.29 升至 0.70-0.71,同时预期产率误差下降。
RAG4Tickets 提出一套 RAG 框架,用 Sentence-Transformers 做语义嵌入、FAISS 做向量检索,将历史 JIRA 工单、用户评论与关联 PR 元数据统一索引,再由 LLM 生成有依据、可解释的解决建议。该框架打通 JIRA 与 GitHub 数据,在精确率、召回率、解决时间缩短和开发者接受度等指标上显著提升了解题准确率与知识复用。
研究者提出多任务神经扩散过程(MT-NDPs),通过引入任务编码器从上下文观测中提取低维表示,使扩散模型具备任务条件化的概率回归与少样本适应能力,并保持对上下文观测顺序的置换不变性。
研究发现,符号、网格线等外部视觉线索能帮助大型视觉语言模型(LVLM)在物体与其文本描述之间建立更准确的连接。作者提出 Grounding IDs 概念,即外部线索结构化视觉与文本模态后在模型内部产生的潜在标识符,它能增强相关组件间的注意力,改善跨模态对齐并减少模型幻觉。
ZeST 将 VLM 的重复输出视为随机测量并融合为不确定性感知后验,实现零样本可通行性预测,避免为采集数据将机器人置于危险环境。在室内受控与户外非结构化环境实验中,ZeST 导航成功率达 90-100%,而所有基线均不超过 60%,且在查询延迟高达 3.6s 时仍保持完全成功。
M-Diffusion Planner 通过双解耦设计实现个性化自动驾驶:大语言模型推断驾驶需求并选择策略,由共享扩散规划器的对应头执行。研究采用代理策略比率估计与约束式头特定更新改进 Group Relative Policy Optimization,在无风格标注下用策略专属奖励微调各头。nuPlan 开环与闭环评测显示其具备策略对齐行为与有竞争力的规划性能。
UniFGVC 是一个免训练的少样本细粒度视觉分类框架,将分类任务重构为基于预定义类别模板的多模态检索问题。其核心 CDV-Captioner 模块借助 MLLM 生成结构化文本描述,结合链式推理与视觉参考定位相似类别的判别性视觉属性,抑制模型幻觉。在 12 个 FGVC 数据集上,该方法不仅超越现有少样本 CLIP 方法,还超过多个全监督 MLLM 方法。
一篇题为 Adaptive Duration Model for Text Speech Alignment 的 arXiv 论文已被作者 Junjie Cao 撤回,撤回理由为工作不完整、质量不佳且已过时。
PanoDiff-SR 提出一套两阶段端到端流程,先用扩散模型 PanoDiff 生成 256×128 低分辨率全景 X 光片种子,再由微调的 HAT 超分辨率阶段放大至 1024×512 诊断级分辨率,可在单张 47 GB GPU 上完成。
研究提出基于 PPO 的自学习方法 SLPR,用于优化航空发动机自由曲面管路布局,并集成统一规则建模框架与势能表实现连续空间中的障碍检测和模糊规则建模。对比测试显示,SLPR 以三次 NURBS 曲线生成平滑管路,在管路长度、规则遵循度、路径复杂度和计算效率上均优于三个代表性基线。在动态设计环境中,SLPR 无需从头搜索,甚至优于重新训练的模型。
针对时间切分图下的域适应问题,研究者提出对称时间平均消息传递算子 STAMP,用跨时间戳平衡的消息传播替代标准邻域聚合,强制时间域间一阶矩不变。其异构变体 STAMP-mag 在 ogbn-mag 上取得 SOTA,STAMP 在 ogbn-arxiv 上取得 SOTA,并在时间切分 Pokec 上持续提升原数据集 SOTA 模型的表现。
论文将成对差异学习(PDL)从回归扩展到分类,通过在原训练数据的成对版本上求解二分类问题来构建 PDL 分类器。大规模实证研究显示,该分类器在预测性能上优于当前最先进方法,并提供了易用的 Python 包实现。
InkSight 通过结合阅读与写作先验,将照片中的离线手写笔迹转换为可编辑的数字墨水(在线手写),无需大量配对样本即可训练。该模型首次能有效处理具有多样视觉特征和背景的任意照片手写文本,并可泛化到简单草图。在 HierText 数据集上,87% 的生成样本被视为对输入图像的有效描摹,67% 看起来像人类书写的笔迹轨迹。
研究者将分布鲁棒优化(DRO)正则化扩展到混合整数稀疏规划,为可解释机器学习模型提供随稀疏参数变化的统计保证,避免交叉验证选择稀疏度的高昂计算成本。该方法在基于特征值规则集构建可解释二分类模型的场景中进行了演示。
CoPE 通过在多步动作序列上增加预测性监督,让语言智能体的行动与预测能力在共享骨干网络中协同进化,推理时仍逐步行动、无额外开销。
CTXGAP 测量研究发现,编码智能体在按需回答任务状态问题时准确率达 93.6%,但仅读报告的监督者只能恢复 52.0%,与全上下文读者的 92.7% 相差 40.7 个百分点。在 30 个已验证修复的最终检查点上差距仍有 34.8 个百分点,完整终端回滚可将恢复率提升至 73.6%,但仍不及全上下文。该研究将基于报告的任务状态可恢复性确立为一项补充评估维度。
研究提出有界陈旧度异步进化策略(bounded-staleness asynchronous ES),在 WebShop 上系统改变策略滞后程度与陈旧适应度测量比例,并设计两项压力测试探测极端陈旧情形。结果显示自然异步几乎与同步 ES 表现持平,即便全部适应度测量均陈旧,评估精度下降仍很小,表明 ES 无需显式离策略校正即可容忍显著策略陈旧,支持其用于长程 LLM 智能体的异步后训练。
研究提出"视频-时间先验"——即每条视频每秒训练标签的平滑中位数,并将其与基于图的 EEG 和 fNIRS 信号模型以固定融合权重结合,用于预测新观众观看训练集中已出现视频时的情绪评分。
论文提出"全局一致性"问题:AI 智能体各自做出局部有效决策,联合结果却无效,根源是共享状态缺失而非智能不足。其 Observation-Aliasing Impossibility Theorem 给出精确边界——若 k 个不可区分世界需要两两不相交的动作,随机化最坏情况成功率上限为 1/k,更多推理、角色、消息或采样都无法弥补。
研究者推出 CompMat-Bench,一个源自近期计算材料研究、包含 94 项任务的 AI 智能体基准,通过预先复现研究步骤来评估智能体准备输入与分析输出的能力,从而避免评测时运行昂贵模拟。基于三个 LLM 的智能体在单任务完整指导下通过率为 66.0-90.4%,更长工作流与减少指导会以不同方式限制不同智能体表现,失败多归因于科学错误而非软件使用错误。
针对现有模型溯源方法依赖对称相似度、无法判断两个 checkpoint 谁先谁后的问题,研究者提出 Witness Overlap——一种无需提示词、无需训练的白盒方向性溯源测试,通过引入同家族第三个 checkpoint 作为"见证"比较两端几何结构来推断方向。
研究者提出 T-GADE,一个用 LLM 扩展的进化计算框架,将 LLM 生成的结构化产物作为个体,交叉与变异由 LLM 算子实现,并引入可在评估后自我修复个体的 HoxLM。
研究用全国调查、受控审议实验和真实审议民调评估六款 LLM 能否模拟公众审议,发现智能体常产生过度集中的意见,无法可靠复现人口统计差异。在模拟审议中智能体虽会交换论点并频繁改变立场,但在看不到彼此发言时也会出现类似变化,而仅重述初始立场则大幅减少立场变动。
研究提出 MedTraj 框架,将医疗 AI 智能体的推理轨迹作为构建、评估与优化对象,把多步临床推理链解析为临床观察、证据、编号推理步骤与结论,并从连贯性、证据支持、幻觉、完整性、可追溯性五个维度打分。
研究提出 Prior-Guided Tuning(PGT)方法,其实现 Contrastive Prior Steering(CPS)在保留监督目标的同时加入正负先验条件损失,方向相反地优化。
研究者提出一种面向开放式任务的强化学习框架,将编码在评分标准中的人类领域知识与模型推理结合,用分层奖励区分复杂输出,并把诊断出的失败归因映射为 GRPO 目标中的 token 级权重。
MEMONDEMAND 是一个面向大规模企业仓库的记忆管理系统,通过动态多级层级、每层双记忆(蒸馏路由与详细证据分离)和按需记忆提升三种机制协同工作。在 EnterpriseRAG-Bench 上,它从 10M token 到完整 618M token 集合的每个评测规模均超越已公开的 LB#1 最强结果,10M 时提升 12.23%,618M 时提升 4.66%。
MegaMem 是一个源解析双视图检索系统,将语义访问与生成证据分离,在 EnterpriseRAG-Bench(超 50 万份企业文档、约 6.5 亿 token)上将 Overall 从 68.22 提升至 82.26,Correctness 达 86.50。
研究团队提出 Agent Gym,一个模块化、领域无关的框架,可将任意现有 LLM 智能体包裹进持续评估与进化循环,无需修改智能体源码即可在部署后修正行为。框架包含 Act、Evaluate、Investigate、Correct、Learn、Observe 六项可组合能力,核心技术为带 21 个条件算子和三级动作的确定性-LLM 混合修正引擎,以及三层调查架构。
研究将"确定案件适用哪一版法律"形式化为 Temporal Applicable-Law Determination(TALD),并构建了覆盖《民法典》施行前后、含 51,956 份中国民事判决的 TALD-Bench。
一篇工作论文评估印度《2019年消费者保护法》是否足以应对缺陷 AI 产品与服务造成的损害,以及能否在 AI 价值链上按比例分配责任。该法对产品责任、损害和缺陷的宽泛定义看似技术中立,或可覆盖人身伤害、心理伤害、偏见输出与失控等 AI 相关事件。但论文指出,AI 缺陷与消费者损害之间的因果关系难以举证,且数据提供方、模型开发者、部署者与用户之间责任重叠,现有归责框架缺乏按比例分配的机制。
研究者提出 Batch Evolution Aware(BEA)估计器,通过重放服务框架的 token-batch 形成过程预测首 token 延迟(TTFT),误差约 5%,单次预测耗时约 0.1 ms。基于 BEA 的延迟感知路由器 BEAR 同时平衡准确率、成本与延迟,在七项基线对比中,目标内响应效用平均提升 63%,较最佳基线提升 30.5%。
研究者提出免训练、模型无关的视觉 Token 剪枝模块 TOPS,从第一性原理将剪枝形式化为构建 Token 最优保留集,并归纳出任务相关性、信息覆盖与语义多样性三条原则。在 7 个 MLLM 骨干和 14 个基准上,TOPS 在多种剪枝设置下优于此前方法;在 LLaVA-NeXT 上剪除 77.8% 视觉 Token 后,7B 与 13B 模型性能分别保持 100.0% 和 100.6%。
一项综述研究用社会选择理论审视基于人类反馈的对齐,指出当人类判断反映对理想行为的冲突观点时,学习到的目标就变成对模型偏好的聚合裁定。该研究梳理了近期工作,说明社会选择视角如何帮助识别反馈聚合层的失效模式,并揭示以显式、有原则的方式处理分歧的更广设计空间。
EvoFlux 是一种推理时搜索方法,通过对工具调用与依赖的结构化图进行进化循环来修复工具计划,并利用真实工具服务器的执行错误指导替换工具、修正参数、插入缺失步骤和删除冗余步骤。
SkillDAG 将类型化技能图作为 LLM 智能体可调用的接口,通过 search 返回向量匹配、类型化边邻居与冲突信号,并用 propose-then-commit 协议在执行中注册有执行依据的边。
KACE 通过按题目难度分层调用推理并只展示对应(难度层、领域)单元的知识卡片,在 MATH-HARD 上达到 77.3%,高于 Best-of-5 自洽性的 72.7%,且求解调用更少。
研究者推出 Harness-Bench,一个在真实 Agent 工作流中评估配置级 harness 效应的诊断基准,包含 106 个沙箱离线任务,在共享任务环境、预算和评测协议下对比多种模型后端与代表性 harness 配置。
PathCal 是一种免训练控制器,通过延续、修正与替代开启三类反思标记的瞬时竞争,动态调整固定延续偏置的强度,且无需额外前向传播。实验显示,PathCal 在多种数学推理场景中改善了准确率与长度的权衡,并在代码与多语言数学任务中缩短了生成长度。
研究者提出 Life-Harness,一种生命周期感知的运行时框架,在不改变模型权重和评测环境的前提下提升冻结 LLM 智能体的表现。它从训练轨迹中把反复出现的交互失败转化为可复用干预,覆盖环境契约、流程技能、动作实现和轨迹调控。