文本环境上下文与空间图:基于 LLM 的区域海表温度预报
研究提出将历史 SST 与异常序列、日期对齐的环境记录和静态海洋知识组成文本上下文,并通过静态图与动态图经 GNN 生成目标节点表示,以空间前缀融合注入 LLM 输入,实现区域多步海表温度预报。在南海 SST 预报的十个预报步上,完整配置取得对比方法中最佳 MAE 和 R²。规则模块还将预测趋势与环境因子方向匹配知识条目,输出可溯源的事后解释。
研究提出将历史 SST 与异常序列、日期对齐的环境记录和静态海洋知识组成文本上下文,并通过静态图与动态图经 GNN 生成目标节点表示,以空间前缀融合注入 LLM 输入,实现区域多步海表温度预报。在南海 SST 预报的十个预报步上,完整配置取得对比方法中最佳 MAE 和 R²。规则模块还将预测趋势与环境因子方向匹配知识条目,输出可溯源的事后解释。
GAGR-Lab 是一个通过笛卡尔游戏场景、显式函数语义和 Rust 轨迹执行来测量联合空间几何与解析函数推理能力的框架。对 Llama 3.2 11B Vision Instruct 的有限试点运行了 72 个均衡游戏、432 次尝试,无目标命中;特权解析搜索控制在 300 个生成场景的 600 个方向案例上独立成功。框架区分服务可靠性、符号合规与几何成功,完整难度矩阵与多模型对比结果尚未测试。
YANchor-4B 是一个通用循环模型,通过将关键记忆保留为 ANchor 供后续推理检索,实现 O(N) 时间生成与 O(1) 内存。在 AIME 2024–2026 上取得 82.93% 平均 pass@1,HMMT 上达 63.64%,大幅超越线性时间、恒定状态的同类模型(包括更大模型)。
RA-MoWE 通过工作流亲和度嵌入对查询聚类,并据此生成可复用的专家工作流,每个嵌入记录一组固定参考工作流对查询的解决效果。在覆盖数学、科学、编程四个 benchmark 的 300 条查询测试集上,其平均任务得分比在参考工作流中选择高出 4.04 个百分点,推理时语言模型调用次数减少 27.7%。嵌入编码器可直接从查询文本预测该嵌入,使新查询无需先执行参考工作流即可选定专家。
DHCG 通过 Planner、Worker、Generator 三个模块,根据查询和执行反馈从零逐步构建动态分层协作图,并引入动作感知偏好优化训练 Planner。在代码生成、数学推理和领域推理基准上,DHCG 平均性能较单智能体基线提升 13.06 分,优于静态与动态 MAS 基线 2.77-8.02 分,并展现出跨 Planner 主干与未见 Worker 模型的泛化能力。
研究者提出 Agentic SemS,一个面向 AI-RAN 的闭环语义感知框架,通过 profile 条件因果 Transformer 与 key-value 缓存更新语义信念,并用语义效用网络估计下一观测块的收益,联合支持 profile 选择与语义早退。
STEPGATE 是一种不确定性感知的步骤级交接框架,对本地小语言模型的每个动作打分,将困难步骤选择性升级到更强模型。在 52 项 BFCL 单步测试中,Qwen2.5-1.5B/7B 组合以 30.8% 升级率取得 82.7% 任务成功率,高于纯本地的 67.3% 和随机升级的 75.4%。多轮评测中它以 30.0% 云端动作达到 69.0% 轨迹成功率,但评测仅限单一模型族与脚本化任务。
ThinkFuse 是一个免训练的测试时融合框架,通过对比片段级不确定性与轨迹级不确定性趋势来定位不稳定推理点,并将辅助推理路径融合进主模型轨迹。在数学与知识密集型推理基准上,它优于基线,在多种模型族组合下均有一致提升,且主模型更小时仍保持稳健。该方法所需融合触发更少、生成 token 更少,代码已开源。
论文提出 Bolzano,一个开源多智能体系统,由并行证明智能体配合验证智能体,并维护人类可读的研究状态。在专家选定问题上的初步人工使用产出 8 个经领域专家核验的证明;随后在无问题特定人工引导下,对从四组论文中提取的约 3800 个开放问题运行,解出约 200 个。
一项针对 Llama-3.1-8B-Instruct 的 96,600 条提示测试发现,在财务信息完全相同的情况下,仅改变投资者身份,推荐股票配置的平均差距会从信息完整披露时的 4.78 个百分点升至无任何财务事实时的 10.34 个百分点,比值达 2.16。
一项被 NeurIPS 2026 接收的研究首次系统考察了大语言模型中的错觉模式感知,通过改编经典心理学范式设计三项任务并与人类行为直接对比,发现 LLM 常表现出比人类更强的错觉模式感知,倾向于将高频正面属性过度关联至少数多数群体或大型组织,并从模糊事件中构建因果叙事。研究基于稀疏自编码器(SAEs)构建特征可解释性框架分析内部表征,发现整体频率感知与分析性认知取向与错觉感知的出现相关。
研究提出协作推理蒸馏(CRD)框架,通过教师模型交叉反馈、逐步质量评估和连贯步骤拼接三项创新,将推理能力蒸馏到小模型。CRD-4B 在 MATH-500 上达 97.3%、AIME'25 上达 70.3%,仅用 50K 训练样本,数据集规模比同类模型小最多 12 倍。
一项在三层智能体架构上的测量显示,将长上下文推理分解到多个协作智能体,可把每查询峰值 KV 工作集降至 14.3 MiB,而单次推理与检索增强基线分别为 35.5 和 35.3 MiB。
研究对比 Llama-3.1-8B-Instruct 与 Qwen2.5-7B-Instruct 的 8-bit 和 4-bit 量化版本在 20 个确定性工具使用任务、5 种提示词下的工具故障恢复表现,发现 8-bit 与 4-bit 的恢复优劣会随提示词和评测目标反转。
研究用七个开源模型、五种验证器信号和 37000 条已评分推理轨迹,考察小校准预算下 CoT 验证器的无分布选择性保证。核心发现是"弃权即认证":一个 (α,δ)-有效流程签发的证书,其失败概率仅被 δ/P_fire 约束,极少触发的证书可能每次使用都出错——模拟中标准证书在最多 0.3% 的校准抽样中失败,但在其触发的抽样中失败率高达 69%。
研究者提出 CHASE(Channel-Aligned Structure Exploitation),将几何与谱对齐(GSA)识别出的谱集中、物理通道对齐等结构直接用于模型设计,覆盖模型修改、重构与压缩六类应用。
研究者提出 VisualNoiseQA,一个面向噪声视觉反馈下主动推理的基准:纯文本 LLM 需通过迭代查询一个固定的现成 VLM(视为随机视觉传感器)来解答 VQA 问题,每次查询采样多次并以自一致性暴露经验不确定性信号,供推理器决定下一步问什么、何时停止。
研究发现,大语言模型中大规模激活(massive activations)的出现由 spike FFN 输入嵌入中的单一通道控制,该通道位置对特定 LLM 固定,被命名为大规模激活门控通道(MAGC)。
CanonQ 是一个统一的量化感知训练框架,通过将源规范化与任务感知适配分离,实现权重、激活与 KV cache 联合极低位宽压缩。在 W2A4KV2 下,CanonQ-Omni 在 LLaMA3-1B/3B/8B 上 WikiText-2 困惑度最多降低 14.28 倍,零样本平均准确率最多提升 57.9%。
LayerRoPE 将 Transformer 中随深度增长的归一化权重 γ 显式建模为深度位置编码,用单一共享向量加深度条件标量替换所有逐层 γ 向量,参数量净减少、FLOPs 变化小于 0.02%。
研究者对连续扩散语言模型训练中固定条件提示词 token 的常规做法做了单行改动:训练时也对条件提示词 token 加噪。
研究采用心理学 Relational Match-to-Sample(RMTS)范式结合机制分析,在 GPT、Claude、Gemini 及 Qwen3.5、Gemma-4、InternVL3 上发现能力层级、模型规模、场景物体数量和逐物体刺激噪声四项因素共同推动 VLM 呈现类人类"关系转换"轨迹。
研究提出 VoS(Value of Steering),一种轨迹级监控器,可从约 82,000 条反事实延续构成的逐步结果表(SOT)中学习每步引导价值,并用带伤害预算的触发器决定是否引导。VoS 在全部 12 种基准、智能体及离线或在线设置下平均提升 7.8 分,并在 11 种设置中平均超出五种现有不确定性触发方法中最强者 2.9 分。消融实验显示,基于实测结果训练与严格伤害预算是其关键。
研究者提出一种符号化子策略模型,借助归纳逻辑编程系统 PAL 学习到的模式来合成可解释的国际象棋战术,并引入散度指标对照随机基线进行评估,所得战术能给出与国际象棋初学者棋力相近的走法建议。该工作还提出通过将模型接入现成引擎来进行计算评估的方案。
针对交互学习中自然语言反馈常被误读、导致智能体错误排除有效方案的问题,研究者提出 TRACE 算法,将候选约束组织为树结构,通过生成满足约束的动作反复检验反馈是否矛盾,仅在无矛盾时才确认该约束。
研究者提出一种类似人类认知的方法,训练 RL 智能体将学到的策略与策略网络合成为基于游戏动作序列的可执行程序,从而自动学习可解释的策略表示。该方法已用于下棋和网格环境任务,学到的策略能产生有效动作,并可从游戏数据中学习。
研究提出"实验模型类修正"框架,让发现策略同时提出结构编辑和诊断实验,以检验该编辑是否必要。在 400 个受控动力学环境中,联合策略以 32 次真实实验预算达到 89.5% 精确恢复率,比最强匹配基线提升 10.0 个百分点,且所需实验与候选拟合更少。当真实机制超出编辑语法时,该方法在 88% 的情况下检测出库不足,误支持率为 5.5%。
研究提出"先探索后提交"协议,由大语言模型提出假设、程序化规划器采集测量数据,再用新提示词从固定观测中合成最终定律。
论文提出 VALSE,一种按样本、非连续的层跳过方法:由轻量难度估计器从前几层为每个输入打分,逐层门控选择性跳过冗余层,包括任意中间层而保留更深层,只为每个输入激活必要深度。理论部分给出 Expected FLOPs 闭式公式,并证明跳层模型严格包含于全层函数空间且可有效近似,同时揭示 VALSE 与 MoE 的结构对偶性。可行性已在原型规模上初步评估。
研究者提出 KL-Regularized Policy Optimization(KLPO),将 KL 正则项锚定在采样器上,使正则化改进步骤具有闭式 Gibbs 解,并通过对采样器自身轨迹做最小二乘拟合 log-ratio 最优性条件,无需重要性权重。
SUTURE 提出一种基于 rollout 组的验证器,通过组内分歧控制目标重加权、按位置覆盖率重分配奖励,并可精确分解为标准 IoU 项与协方差修正项。在五个视频时序定位 benchmark 上,SUTURE 在所有报告的 IoU 阈值下均提升定位性能,其训练策略的推理轨迹也减少了视频起始锚定现象。
研究者提出 LOGIC,一个面向航空航天电气设计的受控基准与评估框架,让本地可部署语言模型先在确定性候选变更清单上完成意图筛选,再通过类型化电气追溯图传播变更,从而区分候选选择错误与下游传播错误。
针对 SCoRE 2026 三项训练中未出现的混合域任务,研究者提出 Route-Verify-Vote(RVV)框架,无需更新参数即可让语言模型按域标签选择推理过程、逐项验证并聚合完整答案集。官方测试集上,每题采样 16 个答案集投票的精确集合准确率为 74.6%,自适应 RVV 达 77.3%,在选定域路由上组合多模型后升至 79.4%,最终系统在参赛系统中排名第二。
EmphTTS 是一个非自回归 TTS 系统,将 GRPO 应用于时长预测器并配合重音定位奖励,实现对词级重音的直接优化。评测显示其在重音可控性和重音客观评价上均表现最佳,主观偏好测试中显著优于合成 groundtruth 和多数基线。消融实验表明 GRPO 的重音实现效果优于监督微调时长建模和简单语速调整,同时缓解了独立训练的时长预测器与 TTS 模型之间的不匹配。
研究者提出 PHRBench,一个覆盖四个领域、18 个 LLM 的受控基准,用幻觉遵从、幻觉规避和启发式纠正三类行为刻画模型在幻觉前提下的推理轨迹。在 4820 个受控实例中,成功纠正并得出正确答案的情况相对罕见,且与推理过程中更频繁的信念更新相关。幻觉提示词本身的属性对成功恢复有显著预测力,轻量预测器 AUROC 达 0.847。
研究团队提出 GroundAct,将物理实体作为 grounding 单元,用轻量 reference token 保持每个被选实体连续状态可寻址,仅由被引用实体与演化方案的交互来修正规划,形成从推理依据到规划动作的显式路径。在开环与闭环评测中,GroundAct 在正常、分布外及安全关键场景下均展现出较强的规划能力,闭环结果进一步在仿真驾驶中得到验证。
针对长历史推荐中缓存记忆对用户近期与中期兴趣保留不均的"时间混叠"问题,研究者提出 MARS——将完整历史写入锚定不同半衰期的循环状态轨道,并用稀疏路由读取器为每个种子选取相关时间分辨率,生成紧凑种子记忆。MARS 在三个公开数据集上优于强基线,增益随历史长度增长;在每用户 1000 个候选下,其热缓存服务延迟约为匹配基线的 1.02 倍。
针对搜索智能体 RLVR 训练中结果监督稀疏、信用分配困难的问题,研究者系统考察了多种奖励塑形与信用分配策略,并提出将中间检索信号与最终结果奖励结合的框架。在多个 benchmark 匹配训练条件下,该框架提升了搜索智能体的整体表现,且中间信号的选择与信用分配位置都会影响训练行为。
研究者提出 Hyperbolic Symplectic Positional Encoding(HySPE),用辛变换的双剪切阻尼对称组合替代 RoPE 的旋转参数化,并通过特征基对角化与分块坐标重基消除表示漂移,在 RTX 4090 上前向延迟与缓存 RoPE 持平(7.21 ms)。
COMPASS 是一种推理时激活引导方法,利用模型自身直接作答的正确性信号定位可干预的注意力头,并沿正确性方向引导其激活。在三个模型家族和多个数学基准上,该方法平均将 GSM8K 准确率提升 16 个百分点,并以少 20-70% 的生成 token 接近 CoT 准确率。干预无需重新拟合即可迁移到未见基准,效果集中在极少数注意力头上。