稀疏自编码器表征的行为组合性研究:SAE Additivity Residuals 方法
研究者提出 SAE Additivity Residuals(SAR),用于衡量稀疏自编码器特征在选定交互阶数之上未被解释的行为变化。在 18 组模型与行为设置中,学习到的 SAE 坐标一阶残差均低于保持和不变的随机旋转;但坐标并非完全可加,成对项在所有设置中均改善留出联盟排序。
研究者提出 SAE Additivity Residuals(SAR),用于衡量稀疏自编码器特征在选定交互阶数之上未被解释的行为变化。在 18 组模型与行为设置中,学习到的 SAE 坐标一阶残差均低于保持和不变的随机旋转;但坐标并非完全可加,成对项在所有设置中均改善留出联盟排序。
研究者发现,同一输入在不同指令下隐藏状态向量的差异集中在一个低维"表达子空间"中,无需基准标签即可识别该子空间,并从线性预测器中移除其贡献以获得"孤立判断"。在正确性、蕴含和安全任务上,孤立判断在未见指令下仍保持可靠;当判断问题被否定时,蕴含任务 AUROC 从 0.504 升至 0.825,安全任务从 0.480 升至 0.891。判断在表达子空间干扰预测器之前的更早层即可读出。
研究提出重分配敏感度分数(RSS),用于识别在提示词变换下方向一致且可复现的大幅特征响应。在覆盖 8 个语言模型、27 个预训练 SAE 上,RSS 支持集在未参与选择的变体上呈现可复现的重分配特征。在两个冻结安全读出中,RSS 支持侵蚀结合完整干净边际,以中位数 20 和 19 个特征分别取得 0.935 和 0.958 的复现失败 AUROC,低于完整侵蚀的 0.965 和 0.964。
研究提出 RaRE(Rubrics as Rewards with Ensembles),一种面向 RaR 训练的评委集成策略,包含用评委 logprobs 加权高置信评委的 soft-Likert 奖励,以及将高分歧 rollout 排除出 GRPO 更新的 drop-on-disagreement 掩码。
研究在 15 个预训练 LLM(70M 至 14B 参数,来自三个模型家族)及从零训练的最小 Transformer 上发现,LLM 在 N-back 任务中表现出与人类相似的工作记忆特征:记忆负载 N 增大时性能下降,错误集中于相邻错误位置的干扰项。
研究提出 CARE-SD 四模块架构,用于本地小语言模型的自我披露分析,在 82 份网络安全访谈上测试 Llama 1B、Qwen 1.5B 和 Llama 3B。该架构将 Llama 3B 的 Macro-F1 从 0.80 提升至 0.88,并将无依据论断减少 60%,3B 模型在类别 Macro-F1 上追平 20B 参考模型。
KnowGPO 是一个按任务相关知识而非表面观测对齐轨迹的强化学习框架,将查询所需信息拆解为原子知识条件,用已满足条件的子集表示轨迹状态,并对相同知识状态的轨迹分组比较,以步间知识增量为过程奖励。在 Xbench、BrowseComp-ZH 和 GAIA 上,KnowGPO 比 GRPO、GiGPO、IGPO 等基线高出 3.8 至 4.2 分,其 8B 模型可媲美或超过多数 32B 开源系统。
AURA 框架通过直接监督中间推理状态对相关文档与困难干扰项的区分能力,并训练轻量效用估计器在推理时自适应调整推理深度。在 BRIGHT 基准上,AURA-4B 以平均 2.8 个推理步骤和每查询 96 个生成 token 达到 34.7 nDCG@10,自适应停止将延迟从 4.6 秒降至 0.76 秒。MS MARCO 上的结果表明,这种专门化不会显著降低常规域内检索性能。
EliteReplay 是一种将 GRPO 与质量-多样性搜索构建的"精英"存档配对的 LLM 后训练方法,训练前用冻结基座模型收集不同解法的样本,训练中结合存档上的 replay loss。
LEASH 是一个免训练框架,通过弱模型的潜在不确定性信号决定何时将控制权交给强模型,并在交接后持续监督强黑盒智能体。在 OSWorld 上,LEASH 在匹配升级率下比随机升级高出 6.55–11.94 分;搭配 Qwen3.5-35B-A3B 时任务成功率达 73.66%,每任务成本 $0.4117,与始终在线的 Claude Opus 5(72.90%)持平,推理成本降低 19.2%。
研究提出 X-RIC 框架,将智能体 AI 引入 O-RAN 架构,把反应式强化学习与智能体推理结合,包含基于领域启发式的自动行为克隆、提供上下文抽象与可解释性的 Telecom Language Model(TLM),以及在 Near-RT RIC 控制环内的闭环协同自适应。
研究指出,自生成标签的多数投票奖励之所以能追踪可验证奖励,关键在于批次级更新而非提示词级正确性:参数共享使单个提示词的梯度在实际批次规模下对该提示词输出的贡献不足 1%,错误标签只有在跨提示词方向一致时才有影响。
研究者提出一种无需真实标注监督的弱到强路由方法,通过模型间分歧信号决定何时将小模型响应路由至更强模型。该方法先刻画最优路由策略,再基于模型间比较推导出有原则的近似方案,且强模型越接近真实分布近似越准确。在智能体与单轮任务中,该方法无需真实标注即可平衡路由成本与响应准确率,即使有真实正确性信号用于训练,基于分歧的路由仍可超越直接预测正确性的方法。
研究提出 Gibbs-Gap Policy Optimization(GGPO),通过对同一提示词下各回复的 KL 调整奖励做 log-mean-exp 对比来优化策略,无需 learner-to-behavior 重要性权重。
Terminal-RSI 通过交替进行已验证轨迹的递归自改写(RSR)与继承评论家的递归策略精炼(RPR),从 Qwen3.8-27B 基座模型经五阶段训练得到 Terminal-RSI-27B。
TurboMamba 是一种语言模型架构,由每完成一个 token 块运行一次的全局 Mamba-3 模型与一个小型 Transformer 组成,后者结合全局上下文和块内前序 token 预测下一个 token。
CascadeLedger 是一个面向预算受限语言模型级联的反事实执行审计框架,通过调用先于读取语义、服务与缓存身份绑定及事件轨迹冻结,判定聚合等价轨迹有效性。其两层审计在冻结缓存、独立生成与服务评估中实现 0.0000 假阳性率,检出 0.9983 的序列化故障与 0.9982 的未记录隐藏读取故障,并在确定性重算后改变 0.3403 的受损质量-资源结论。
研究测量了 RLVR 报告的域外增益中有多少来自答案格式而非答案本身。在四个已发布的 7B SimpleRL base-RL 模型对上,用公开代码提取器报告的域外多选题增益有 82% 在改用能同时读取 \boxed{} 与正文的提取器后消失;独立 LLM 读者给出的比例为 77%,要求输出框的提示词下为 79%。而在另一个配方训练的 32B 模型对上,报告的增益几乎不含格式增益。
研究团队提出 OmniVerifier-C1,将传统只输出 True/False 的二值视觉验证器改为自动把复杂提示词或环境规则拆解为细粒度子问题并逐项打分的分级验证器,输出连续且可解释的评判信号。
DropKV 是一种基于解耦残差输出扰动(Decoupled Residual-Output Perturbation)的 KV-Cache 淘汰框架,通过将联合淘汰决策拆分为独立的逐 token 打分,绕开 NP-hard 组合难题,并在锥条件下提供可证明的常数因子近似保证。
研究提出用集合级强化学习目标训练 LLM 生成多样化科学创意:模型一次生成 K 张结构化创意卡片,每张创意的质量按其与前面创意的距离加权,从而学会让新创意远离已有创意。
研究者提出 Shared Residual Distillation(SRD),一种 on-policy 自蒸馏方法,让模型直接从自身未经正确性验证的同侪轨迹中学习,通过对比同侪相对对照组对预测分布的调整,保留方向一致且幅度保守的修正。
研究者推出 Grid-Bench,一个可执行基准,用二、三、四维网格表示离散世界,让模型在给定初始网格、显式规则和文本事件历史后预测完整最终网格。评估六款 LLM 显示,随着历史变长,完整状态准确率急剧下降,单事件表现相近的模型出现明显分化。参考执行使每个预测值可核验,从而在空间操作、历史长度和工作负载间直接比较。
Prism-1 是一种让 System One 决策模型同时满足位置无关与 Luce 选择公理的读取方式:每个选项在共享位置的独立 block 中读取,一次前向完成。
研究者构建了 AI Consilium 基准,用 300 个 NEJM-MedQA 病例(110 个用于医生参考评分与 Judge 校准,190 个用于留出评估)检验 LLM 的临床多学科二次意见能力。
研究提出用扩散语言模型进行多目标少样本提示,让示例引导共享画布中多个掩码区域的填充,以解决因果自回归模型难以同时利用左右上下文的问题。团队还通过对画布选择性掩码推导似然比奖励,偏好有示例支持的填充结果。在少样本提示基准和软件重构案例中,示例提升了填充准确率,示例引导在多个设置下带来进一步增益。
研究者提出 PRM4RL 框架,将复杂任务分解为可管理的子任务,并设计子任务导向的细粒度进度函数来监控执行进度,再基于势能奖励塑形构造进度奖励模型(PRM),提供最优性与收敛性理论保证。在机器人控制任务上,该方法优于基于 LLM 的规划与奖励方法,达到 SOTA,论文已被 NeurIPS 2025 收录,代码已开源。
OntoAct 是一个基于本体抽象的假设驱动神经符号框架,将个体经验转化为实体类型、关系与条件上的公理,由 LLM 提出假设与动作、符号验证器依据当前观测核验其成立条件。
CoWorld Reasoner 是一个以视频世界模型(VWM)为统一视觉推理引擎的智能体框架,通过 Video World Model-Driven Harness 以工具形式暴露多种视觉操作,并用技能引导 VLM 决定是否想象、选择操作、构造生成请求并解读视觉证据。
RoleQ 是一种按 Transformer 单元功能角色而非权重矩阵布局来放置缩放因子的量化框架,无需搜索、校准或存储状态。在 0.6B 到 14B 的多个模型家族中,其三值量化困惑度较基于布局的方案最多降低一半,而按行缩放会让 MMLU 跌至随机水平。
研究者提出 Lexical Reference Frames,通过模型自身剩余层读取隐藏状态,为每个隐藏状态构建原生参考框架。在 SmolLM3-3B 和 OLMo3-7B 中层深度,一阶框架 LexFrame[1] 一致性达 0.97,远超固定透镜的 0.30 和 0.35,读取状态与模型输出仅差 0.16 nats。
研究提出 CLUE 两阶段训练流程,将监督式证据推理与由 Grounded Information Utilization(IU_G)引导的 GRPO 结合,让模型自行发现对话中的关键线索。
EMO 是一个无需训练的测试时计算框架,受 EM 算法启发,交替进行问题特定的上下文估计(E 步)与分布精炼(M 步),通过外部评判模型的文本梯度修正系统上下文,并利用上下文引起的 logit 位移构建置信度约束的 logit 修正。
RSIFlow 是一个递归自我改进框架,将自适应工作流编排与元智能体能力进化相结合,通过任务-智能体轨迹和环境反馈诊断性能瓶颈,动态选择组件级改进工作流。元智能体将工作流结果蒸馏为组件级技能与跨组件原则,进化自身 harness 以优化后续编排。在六个基准和两个骨干模型上,RSIFlow 在所有基准上取得 SOTA 平均性能,消融实验验证了自适应编排与元 harness 进化的贡献,代码已开源。
Intern-Decision 是一组 0.8B、2B、4B 多模态决策模型,可从文本和可选图像输出结构化选项及候选概率,其自回归掩码语言建模目标在每个字段放置一个决策占位符,全部字段在单次因果前向传播中完成评估。
研究提出以动作可预测性作为归纳偏置来保留世界模型的内在动力学,并实例化为 Concat IDM——从拼接的潜在状态预测动作,利用离线轨迹中已有的动作标签更新共享编码器,且不改变测试时的规划器。在 Push-T 的 24 种外观设置下,三次独立训练中 Concat IDM 将规划成功率从 9.1% 提升至 77.2%,其配对提升比单一外观设置高出 52.9 个百分点。
研究者构建了 LURCH 基准,包含 6,550 个多领域问答实例及支撑证据与推理图,用证据范围、证据分散度和推理深度三个属性量化长上下文推理难度。对闭源与开源权重模型的评测显示,在固定上下文长度下,这三个属性均与模型表现强负相关;上下文变长时,证据分散的样本性能急剧下降,而证据集中的样本相对稳定。三个属性还会叠加放大难度,三者均中等偏高的题目比仅一项极端的题目更难。
研究者提出一个统一交互式框架,用于评估 LLM 智能体的完整探究能力:将 Countdown 任务扩展为数学环境,让智能体通过操纵变量、收集观察来推断变量间关系。在 7 个 LLM 和多种提示策略下,实验显示模型固有探究能力有限、发现底层表达式的成功率偏低,但受教学脚手架启发的结构化引导能显著提升表现。
LoopAhead 是一个面向 Looped Transformer 的推测解码框架,通过轻量级前瞻草稿器(LAD)利用早期循环状态预测多个未来 token,并由深层循环反馈决定草稿分支的继续或暂停,最终由全深度模型做 token 决策。该方法在保持目标模型输出分布的同时,实现最高 7.82 倍的解码加速。
研究者提出 ClaimScope,一个包含 72 项任务的基准,通过裁决、范围、反例与修复四个环节审计数学主张,覆盖优化器状态传输、有限时域仿射递推和精确 2×2 线性代数。