AdaptFuse:无需训练的序列偏好推断,通过外化贝叶斯计算实现
研究者提出 AdaptFuse,一个无需训练的框架,将概率计算从 LLM 中完全外化:符号模块维护离散假设集上的贝叶斯后验,冻结的 LLM 通过多样本 Dirichlet 聚合提供语义推理,两者经熵自适应融合按预测置信度自动加权。
研究者提出 AdaptFuse,一个无需训练的框架,将概率计算从 LLM 中完全外化:符号模块维护离散假设集上的贝叶斯后验,冻结的 LLM 通过多样本 Dirichlet 聚合提供语义推理,两者经熵自适应融合按预测置信度自动加权。
研究提出智能体反思平衡(ARE),一种嵌入 agent harness 的计算反思平衡框架,将系统提示词与运营方政策中的原则、审慎判断、工具证据和候选动作通过带类型的支持与攻击关系连接,并用溯源编码指令层级。
研究提出 PLACID 级联流水线,用完全本地部署的 2B-10B 小参数模型实现临床缩略语消歧,避免将受保护健康信息传至外部服务器。通用指令模型检测缩略语准确率约 0.988,但扩展能力仅约 0.655;接入领域医学生物模型后扩展准确率提升至约 0.81。
研究以注射吸毒人群的丙型肝炎相关行为为例,评估 LLM 生成的行为输出能否表征个体行为异质性。在三个 LLM 中,28 项文献关联的无条件方向恢复率为 46-68%,而直接让 LLM 分类同一批关联时一致率达 82-93%;与 ABM 和调查相关模式的平均绝对差异分别为 0.11-0.13 和 0.15-0.18。
研究者提出 LoopRPT,一种专为循环语言模型(LoopLMs)设计的强化预训练框架,通过将下一 token 预测重构为下一 token 推理任务,用 EMA teacher 参考和带噪隐状态 rollout 将强化信号直接分配给隐式计算步骤。
研究比较多轮 LLM 任务中初始模型选择与后续交接对成功率和成本的影响,数据集包含三个 Qwen 模型在 BFCL、MultiWOZ 和 τ-retail 上的 34,204 次完整执行。
研究对比四种开源语音 LLM 在 SpeechMMLU 和 VoiceBench BBH 上的跨层 CKA 与逐层答案 margin,发现 Qwen2.5-Omni 和 MiniCPM-o 的语音与文本表示在中层对齐但后层答案 margin 仍不同,即中层几何对齐不意味着功能等价;Qwen2-Audio 则表现为弱对齐,属于另一种失效模式。
论文提出 C0-C5 有界结果契约,用于判定分布式智能体工具网关的撤销是否真正完成,并以持久化监控在冻结网关集上实现。在 Keycloak 26.7、8 个物理网关、Filesystem 与 PostgreSQL 效果及 16 台 AWS 主机的实验中,接收端选择性不投递时传输确认与接收端持久化仍成功,但 225 次调用中 112 次(49.78%)被放行且效果全部提交。
PopGen 是一个利用 LLM 从零合成语义多样化智能体的框架,先由 LLM 生成多样化的智能体行为文本描述,再将每种行为转译为可在环境中执行的代码策略。在四个协作环境中,与 PopGen 种群训练的协作者对未见伙伴实现了稳健的零样本协作,表现优于种群博弈基线;语义多样性随种群规模扩大而提升,并改善协作者的最差情况表现。代码已开源。
研究者提出"语言向量"方法,通过计算平行语料在特定层的平均激活差异,在推理时对模型隐藏状态施加偏移,无需更新参数即可提升多语言上下文学习效果。该方法在覆盖 19 种语言、3 个模型的 3 项任务上均优于英文少样本提示,且向量呈现可解释的语言结构——相近语言形成紧密聚类,跨任务和跨语言迁移效果更好。
TeSearch 将测试反馈作为自进化智能体的可执行改进信号,用质量-多样性进化算法搜索既小又强的测试套件,并把套件规模作为行为描述符,在搜索中学习转移核以去噪 LLM 执行。
针对熄灯工业环境中可见光缺失的问题,研究者提出音频-深度动作规划框架 ADAPT,用空间音频定位目标、深度感知障碍几何,并通过强化学习优化闭环导航。其核心贡献 TARS 在位置-朝向图上定义姿态感知的最短动作势函数,兼顾可行移动与原地旋转。
研究者推出 MasalBench,用于评估 LLM 对低资源语言波斯谚语的语境与跨文化理解。八款 SOTA 模型在上下文中识别波斯谚语准确率超 0.90,但识别对应英文谚语时最佳模型仅 0.79,暴露了文化知识与类比推理的短板。该基准已被 PlurVA-LLM 2026 研讨会接收。
CALM-IT 是一个双智能体框架,通过追踪来访者状态与治疗师侧推断来指导策略选择和话语生成,在 8,232 段对话、686 个场景上取得四项 MITI 4.2 全局评分最高均值,且短对话与长对话之间的质量变化最小。其模拟来访者转向接受率达 64.3%,最强的转向之后出现更多改变性谈话、更少维持性谈话;消融实验显示移除对话动态组件会降低对话质量。
这篇愿景论文提出,不确定性估计能为主动式智能助手补上偏好预测所缺失的信息,即助手对预测偏好概率有多确定、置信来自群体假设还是个人数据、歧义源于用户偏好本身多变还是特定情境数据不足。作者以家庭助手为例,并借鉴人类轨迹预测、个性化活动识别、信息收集与基于模型的控制等邻近领域经验,展望不确定性感知的主动式助手如何应对主动交互中的关键挑战。
研究者推出 QuantEval,一个评估 LLM 能否完成量化金融"计算—实现—验证"闭环的基准,包含 1,575 个专家验证实例,覆盖知识问答、量化数学推理与量化策略编码三个维度。
一项在 7 个公开基准上的研究发现,LLM 评审被展示什么,比用哪个评审模型更重要——即便三个评审模型价格相差 10 至 17 倍。当评审看不到必须遵守的材料时,系统依据其反馈修改答案后,指令遵循与问答表现反而低于起点,且指令遵循上的损失逐轮扩大。研究还发现约十分之一的原文承担了几乎全部作用,小型蕴含图在定位有据文本错误上可媲美 LLM 评审。
研究者提出规则引导的 LLM 重构框架,从 123,786 条低分样本中构建出 54,888 条训练样本,在三个 7B/8B 基础模型上平均下游表现优于低分源数据及所有评估过的数据选择基线。该数据仅约 300K 全量数据的一小部分,却在三个基础模型上均取得高于全量数据训练的平均分。消融实验显示规则引导重构是相对直接融合的最大增益来源,人工审查也指出其在来源整合与答案忠实度上仍有局限。
一项发表于 COLM 2026 的研究提出并检验 LLM Brain Rot 假设,用真实 Twitter/X 语料构建垃圾与反向对照数据集,对 4 个 LLM 持续预训练后发现推理、长上下文理解、安全能力出现非平凡下降(Hedges' g>0.3),并放大心理变态、自恋等暗黑特质。
该研究基于 LightGBM 构建多时间跨度预测与决策支持架构,为 15、30、60、120 分钟分别建立回归器,联合预测未来等待时间与排队长度。模型使用时间滞后的交通、服务、密度与排队特征,并通过分位数 LightGBM 给出等待时间预测的 95% 预测区间。框架还输出机器可读建议、告警、聚合 KPI 与置信度信息,并建立可复现的合成数据基线。
研究提出一套四阶段 LLM 语料标注流水线(提示词工程、事前评估、批量自动处理、事后验证),通过 OpenAI API 在 60 小时内标注了 COHA 语料库中 143,933 条 consider 索引行,两项复杂标注任务准确率达 98% 以上。
研究者发布 LURE,一个用检索增强流水线生成的诱骗者-受害者对话合成语料库,基于 80 亿参数、拒绝机制被消融的开源语言模型构建。语料库含 2,121 段独特对话,覆盖 7 个标签和 4 个诱骗阶段,每段附 Plutchik 情绪字段,标签准确率 0.85、阶段准确率 0.93。真实与合成判别器区分两个领域的准确率为 91%,语料库、数据表与审计代码经审核后开放获取。
研究者发布 EconCausal,一个从 2,595 篇顶级经济与金融期刊实证研究中提取的 10,490 条上下文标注因果三元组基准。在 19 个模型上测试发现,单上下文预测最高约 84% 准确率,但源与目标符号相反时平均准确率降至 44.27%,且带符号源示例比仅给目标输入低 11.54 个百分点。模型预测研究报告中不显著效应的准确率仅 19.16%。
研究对比了两种几何条件神经网络代理模型在不同房间尺寸下实时预测室内气流与温度场的效果。基于画布的 CaNN 通过在固定画布中保留不同占用区域来显式编码房间尺寸,基于坐标的 CoNN 则使用归一化坐标通道,两者均采用 U-Net 自编码器分别预测气流与温度场。在高度和长度可变的简化房间基准上,CaNN 与 CFD 结果的一致性高于 CoNN。
Eigen-Agent 在 Humanity's Last Exam Bio/Chem Gold 上达到 48.3% 准确率,超过最强智能体基线 13.4 分、领先前沿 LLM 最多 18.1 分,同时减少 53.5% token 用量和 43.7% 智能体步骤。
RetryBench 提出用"虚假重试许可(FRP)"刻画智能体在无可见契约支持下重试超时工具调用的错误,并将其与实际恢复结果分开评估。
研究者提出"预期评估"(anticipatory evaluation)设定,并发布 EVALCAST——一个包含 1,519 篇 arXiv 论文中 2,290 组描述-性能配对的数据资源,测试集包含模型知识截止后发表的论文。实验显示,前沿 LLM 通过回归预测绝对性能仍具挑战,而配对预测在匹配设定下可恢复相对性能排序;在截止后与流式评估上的表现相当,表明该信号并非仅来自已报道结果。
研究提出 Engram Injection,将事实存入 LoRA 适配器并通过 FiLM 条件注入时钟,基于冻结的 Qwen2.5-3B-Instruct 测试模型能否仅凭问题和当前时间回答事实更新。在 62 对更新前后问题上,两种适配器方法在盲审下均答对 0 对,而全历史提示答对 59/62、检索答对 62/62。结果表明适配器能存储事实,但结合事实选择与基于时间的版本选择仍未成功。
研究者提出多数位感知编码(majority bit-aware encoding)新范式,将水印信号强度与绿名单规模解耦,即使使用大绿名单也能在生成文本中保留强水印信号。基于该范式给出 MajorMark 与面向长消息优化的 MajorMark⁺ 两种实现,在 SOTA LLM 上取得比既有基线更高的解码准确率和更优文本质量。该工作已被 NeurIPS 2026 接收,代码已开源。
研究对比六种检测器在四个家族十个 VLM 上的表现,发现只有图像 token 的 key 与语言模型文本注意力汇 key 的中心化余弦相似度能检测出视觉注意力汇,即视觉汇是 key 与文本汇 key 对齐的图像 token。
研究在多种语言模型内部识别出可区分情态类别(可能、不可能、完全无意义等)的线性表征,称为情态差异向量,其判断可靠性高于此前报道。这些向量随训练步数、层数和参数规模增加按一致顺序出现,且可用于建模人类细粒度分类行为。
研究在 30 个 TPC Benchmark DS 派生的 DataFrame 任务上发现"解释锁定"现象:Test-Guided Revision 和 PlanAudit-Guided Revision 将测试通过数从 22/30 提升至 29/30 和 30/30,但没有任何生成方案匹配存储的参考输出。
研究者提出 Prolog-Initialized Chain-of-Thought(π-CoT),将多跳问题改写为 Prolog 查询并拆解为单跳子查询,依次求解产生中间结果,再用其初始化后续 CoT 推理。在多跳问答基准上,π-CoT 匹配或超越标准 RAG 与上下文内 CoT,在检索能提供必要证据的问题上提升最大。
研究者提出 Agent Sociodrama 框架,用统一外部 LLM 裁判每轮更新固定 persona 下智能体的情绪状态与非对称关系,在 6 个 LLM 基座和 5 个社会场景中验证其社会动态轨迹。
研究对比 ChatGPT 与众包标注、专家评估,考察其识别网络评论中定向攻击与不当言论的准确性和一致性。结果显示 ChatGPT 检测不当内容表现良好,迭代提示词改进的收益几乎全部来自一次改动——简化标签体系并切换到 GPT-4,此后调整提示词结构和采样温度收效甚微。其在定向攻击语言上表现较弱且不稳定:改进前假阳性率高于专家判断,更换模型后假阴性率升高。
Google Earth AI 推出由 Gemini 驱动的地理空间推理智能体 GRA,将地理空间数据源、基础模型与工具组织为模块化领域技能,并配合前置地理空间规划,把复杂查询拆解为多阶段工作流。
研究者提出免训练的剪枝方法 GBLM-Pruner,利用预训练 LLM 的归一化梯度(基于 Taylor 展开一阶项)确定剪枝指标,无需后续重训练或权重更新。在 LLaMA 系列、Qwen 系列和 DeepSeek 模型上,该方法在零样本、STEM 推理和代码基准上显著超越 magnitude pruning 与 Wanda,并与需大量权重更新的 SparseGPT 表现相当。
在三个开源 LLM 通过从 40 项编辑中命名一项来改进 GUI 智能体的目录式优化循环中,干净基态探针会低估提出者自身循环中的重复提出率(循环减探针的宏平均率为 0.32 [0.27, 0.37]),已评估的 harness-edit 配对提议占用 28-63% 的有效提出迭代。
论文提出 NoteBank,一种免训练、即插即用的稀疏情景记忆机制,在未知未来查询前先归档选定文本,用骨干网络原生特征进行写入与寻址,并通过 replay 走原生前向计算读取检索到的证据,无需外部嵌入模型、单独训练的检索器或独立神经阅读器。
研究提出 Cross-Interface Policy Regularization(CIPR),一种自监督目标,通过将动作名替换为无信息标识符、并在两种接口下呈现同一样本,惩罚两种接口下动作分布之间的 KL 散度,使策略行为保持一致。