生成语法驱动的神经符号框架如何解决阿拉伯语 DP 句法歧义
一项研究提出生成语法驱动的神经符号框架，结合生成句法理论与 AraBERT，将现代标准阿拉伯语 DP 的结构歧义建模为候选决策任务，在未见评测集上取得 96.88% 准确率、95.92% macro-F1、96.83% weighted F1 和 93.94% binary F1。
#推理
arXiv cs.CLAI 评分2222 arXiv cs.CLAI 评分4141 让 LLM 说出真实想法：测量并提升 CoT 可解释性对齐
研究提出 CoT-Interpretability Alignment（CIA）指标，用于衡量 LLM 的 CoT 推理轨迹与可解释性工具检测到的内部推理策略之间的一致程度。
arXiv cs.CLAI 评分3030 StreamDecisionBench：评估语言模型在动态语言流上的决策能力
研究者发布 StreamDecisionBench（SDB），包含四大应用家族的八个流式场景数据集，并提出 in-force accuracy 指标，衡量 0.5-8 秒更新间隔内所应用决策的正确时间占比。
arXiv cs.CLAI 评分2222 MS-GLA：用多时间分辨率解决 Gated Linear Attention 表征瓶颈
研究者提出多尺度门控线性注意力 MS-GLA，将注意力头分配到多个时间分辨率上，粗粒度头组池化更长 token 跨度以捕捉长程依赖，细粒度头组保留局部句法敏感度，并通过可学习的输入依赖融合层动态重组各头组输出。在参数量匹配的情况下，MS-GLA 在语言建模、召回密集任务和长上下文泛化上均优于 GLA，召回密集任务最高提升 18.9%，语言建模基准平均困惑度降低 9.5%。
arXiv cs.CLAI 评分2323 SPS：基于状态条件与进度引导的潜在引导框架，提升推理探索效率
研究者提出 SPS（State-conditioned Progress-guided Steering），一种免训练的潜在引导框架，用于缓解后训练推理模型的"探索崩溃"问题。
arXiv cs.CLAI 评分3737 ZenGen：面向 LLM 的社会心智框架，含 SoMBench 基准与 Actio 推理架构
研究团队提出 ZenGen 框架，用于测量、内化并落地大语言模型的社会智能。配套基准 SoMBench 覆盖 3 个一级维度、17 个二级维度和 71 种任务范式，共 284 个场景、3,481 个专家核验实例；20 个代表性 LLM 中最佳模型总体准确率仅 72.08%，17 个二级维度无一达到 90%。
arXiv cs.CLAI 评分2626 LLM 互评：面向医疗问答的多智能体同行评审推理
研究者提出多智能体同行评审推理方法，让多个 LLM 智能体各自生成带候选答案的思维链推理，再互任评审员评估彼此推理的事实正确性与逻辑严谨性，最终选取评分最高的推理链作答。
arXiv cs.CLAI 评分3232 语言模型的概率校准是一种可通过微调训练的能力
研究团队通过微调让语言模型学会按目标分布采样，提出软目标（将目标分布转为 trie 派生的下一 token 目标）与硬目标（在目标分布的采样补全上训练）两种 Calibration Fine-Tuning 方法。
arXiv cs.CLAI 评分2323 MemReread：通过记忆引导重读增强智能体长上下文推理
MemReread 提出一种基于流式阅读的智能体记忆方法，在最终记忆不足时触发问题分解与定向重读，绕过中间检索以恢复被过早丢弃的间接证据。其配套强化学习框架提升长度外推能力，并按任务复杂度自适应决定重读次数。MemReread-4B 在 2WikiMultiHopQA 上较 DeepSeek-V4-Pro 提升 1.6pp，同时保持相对上下文长度的线性时间复杂度。
arXiv cs.CLAI 评分2424 ARTIS：通过迭代仿真实现智能体风险感知的测试时扩展
针对智能体动作直接作用于外部环境、后果不可逆且代价高昂的问题，研究者提出 ARTIS 框架，通过在执行前用仿真交互进行测试时探索，将探索与承诺解耦，在不引入环境风险的前提下扩展推理时计算以提升动作级可靠性。
arXiv cs.CLAI 评分4242 ReasoningShield：面向大型推理模型推理轨迹的安全检测基准与轻量模型
针对大型推理模型（LRM）的思维链（CoT）推理轨迹中可能隐藏有害内容的问题，研究者提出 ReasoningShield 基准及配套轻量模型。
arXiv cs.CLAI 评分2929 LLaMA/Qwen/Mistral 如何用潜在充分性信号实现动态上下文截断
研究者提出"动态上下文截断"方法，让 LLM 在获取足够任务相关信息后自行终止处理。该方法通过轻量分类器检测特定注意力头编码的"充分性信号"，在六个 QA 数据集（最长 40K tokens）和 LLaMA/Qwen/Mistral 三个模型族（1B-70B）上实现平均 1.33x token 缩减，同时准确率提升 3.4%。研究还发现，小模型需探测充分性，大模型则可通过提示词展现内在自评估能力。
arXiv cs.CLAI 评分3131 只会打分的特权教师不会搜索：面向推理的批判条件化在线自蒸馏
研究发现在线自蒸馏中，基于参考解打分的教师信号既无法定位学生 rollout 中的错误，也无法将概率推离错误 token，甚至难以区分同一问题下的正确与错误 rollout。
arXiv cs.CLAI 评分2727 Adaptive DHiSparse：基于负载自适应 KV 层级结构的投机解码
Adaptive DHiSparse 在分层稀疏 KV 上支持投机解码，并按负载自适应调整驻留策略，保留 DSpark 与 DFlash2 的提议和接受规则。在 100K 上下文、并发 128 下，GLM-5.3 搭配 DFlash2 每解码 GPU 输出 793 tokens/s，为 HiSparse 的 1.45 倍；在相同延迟约束下可支撑最高 4 倍并发。
arXiv cs.CLAI 评分3131 S-Space：多模态语言模型中的空间工作区
研究者发现多模态语言模型内部存在 S-Space 线性表示子空间，物体 token 表示在其中编码水平、垂直和距离三个连续坐标轴，且该子空间是模型固有的，在非空间问题下仍可读取。S-Space 充当内部空间工作区：感知将物体位置编码其中，内部推理可变换视角，语言回答选择性地访问它。研究者还将其用作诊断工具，发现模型能形成空间表示，但在跨视角变换推理上存在瓶颈。
arXiv cs.CLAI 评分2222 文本到图像 Transformer 中的注意力汇：扩散模型与自回归模型对比研究
研究系统分析了文本到图像 Transformer 中的注意力汇现象，发现双向扩散模型和自回归模型中均存在注意力汇，但模式截然不同：自回归模型集中于首个 token 和全局 token，双向模型则出现在模态边界、文本区域和空间角落。扰动汇相关注意力头比非汇头产生更大平均变化，引入 register token 可重新分配注意力汇且部分配置能保持或略微提升生成性能。
arXiv cs.CLAI 评分2929 GraphTok：为智能体 LLM 服务把 Tokenization 移出主机 CPU
GraphTok 是一个 GPU tokenizer，将预分词、BPE 合并到 token-ID 组装整条编码流水线做成可重放的 CUDA graph，在 GPT-2、Llama 3、Qwen 2.5、DeepSeek-V3 和 Gemma 3 上逐 bit 复现参考 token ID，并可接入未修改的 vLLM 和 NVIDIA Dynamo。
arXiv cs.CLAI 评分3434 BoundaryEvo：面向长链推理蒸馏的能力边界数据-模型协同演化
BoundaryEvo 是一个两阶段数据-模型协同演化框架，用于长链推理蒸馏：先通过 Capability Priming 直接蒸馏少量教师长推理轨迹建立基础推理能力，再在 Capability-Boundary Co-Evolution 中持续筛选学生尚未掌握但专家能可靠解答的问题。
arXiv cs.CLAI 评分2323 S³R：通过自稀疏推测解码实现快速且忠实的 RL rollout
针对长上下文 RLVR 中注意力占自回归解码内核时间 72–76% 的问题，研究者提出自稀疏推测 rollout（S³R），用稀疏注意力提议 token、再经全注意力验证与精确推测采样生成响应，使响应组仍服从稠密策略分布。在 Qwen3 上，S³R 将长上下文数学推理的端到端训练吞吐提升至自回归 rollout 的 1.39×–1.35×，任务表现相当。
arXiv cs.CLAI 评分2727 JANUS：用协同进化世界模型增强长时程自主研究
JANUS 是一个通过协同进化世界模型驱动的 Predict-Verify-Evolve 循环，统一未来结果预测与过往经验反思的自主研究框架。研究智能体在进化图中提出候选方案，世界模型按价值提升、信息增益和探索效用打分，据此在执行前选择、优化或剪枝分支。在 MLS-Bench-Lite 和真实研究任务上，JANUS 的进化效率与上限均显著优于 SOTA 基线。
arXiv cs.CLAI 评分3131 ReTRAIL：让长程 LLM 智能体回退环境、复用探索经验
研究者提出 ReTRAIL 框架，让 LLM 智能体在长程任务中把环境回退到早期状态，同时保留有效进展并复用被放弃分支中学到的知识。
arXiv cs.CLAI 评分2222 GeoGR：面向高效 3D VLM 的空间-语义 Token 压缩与分组路由
GeoGR 是一个两阶段框架，通过 GeoSemZip 将跨视角观测整合为 3D 体素 token 并在 LLM 层用 GroupRoute 跳过低相关 token，联合压缩 3D 场景表示与视觉计算。
arXiv cs.CLAI 评分2929 REDaCT：大型推理模型的无崩溃遗忘框架
REDaCT 是一种面向大型推理模型（LRM）的推理时遗忘框架，通过二元泄漏检测器定位推理链中泄漏遗忘集信息的句子，并在首次检测到泄漏时注入离线学习的纠正嵌入向量，引导后续推理避开泄漏内容。
arXiv cs.CLAI 评分3131 Cancerous Backdoor Attack：用不可见 Token 与阶段控制器实现渐进激活的 LLM 后门攻击
研究者提出 Cancerous Backdoor Attack，通过不可见 Token 提供隐藏阶段、并用阶段控制器在推理时追踪攻击进度，使 LLM 的推理在多次交互中被逐步腐蚀，而非单点触发。该攻击在多个推理数据集和模型上均能稳定产生渐进式推理损坏，效果优于已有后门攻击基线。结果显示推理损坏在变得可见之前就已逐步发展，仅靠答案准确率不足以检测后门攻击。
arXiv cs.CLAI 评分2020 Resonant Sequence Models 的输入依赖读出相位
研究者为 Resonant Sequence Models 的谐振器读出相位引入输入依赖，仅增加 0.2% 参数，保持卷积精确性。在 WikiText-2 的 6M 参数字符级模型上，训练长度 256、测试长度 1024 时困惑度从 12.81 降至 3.76。分析显示相位编码的是当前字符而非距离，未提升检索能力。
arXiv cs.CLAI 评分5757 RSI-Anything：用世界模型实现递归自我改进的通用框架
论文提出 RSI-Anything，一个基于 JEPA-Anything 的领域通用框架，用预测式世界模型指导动作与学习数据选择，并通过组件与兼容性检查决定是否保留更新后的策略-模型对。
arXiv cs.CLAI 评分2222 面向神经语义解析的结构自动机
研究在 DRS 解析的解码、后处理和训练三个阶段引入结构自动机，并在 AMR 上评估解码效果。提出的接受路径解码（APD）在剩余长度限制内维持可验证的完整输出，不回溯 token，在严格长度限制下将 DRS 的 Smatch++ 较局部掩码提升 5.1 和 2.4 分，AMR 提升 6.4 和 3.2 分。
arXiv cs.CLAI 评分2020 任务上下文如何塑造语言模型内部组件的角色
研究用相同图事实对比不同任务下语言模型的固定组件，发现任务变化会重新分配五个开源权重模型（覆盖四个家族、1.5-14B 参数）中注意力头的影响力。在 Gemma-2-9B 和 Qwen3-14B 中，一次激活编辑可改变早期内部激活向量，在指令不变的情况下切换模型读取的事实。基于此构建的线性响应图在对应条件下将预测均方误差较两图平均分别降低 53.6%（Gemma）和 5.0%（Qwen）。
arXiv cs.CLAI 评分2727 语言模型能否学会何时拒答？策略学习与校准答案选择
研究在 Qwen3-14B 上对比训练模型自身与训练独立答案选择器两种拒答策略，采用奖励正确答案、惩罚错误并允许弃答的评分。在 TriviaQA 上，学习式选择器将平均覆盖率从 20.2% 提升至 30.9%，计分答案的合并错误率从 23.0% 降至 14.5%（exact-match 评分）。
arXiv cs.CLAI 评分2222 REFLECT：角色感知的 SEPF 检测框架，用语义角色增强 Transformer 自注意力
REFLECT 提出一种角色感知 Transformer 架构，将情感、情绪、礼貌与正式度四个维度映射到语义角色标注（SRL）配置，并直接融入自注意力机制。在四个基准数据集上，该框架在情绪、礼貌和正式度检测上相较 BERT 基线取得统计显著提升，情感提升则不显著。真实世界心理健康数据上的评估显示，该方法同时改善了预测性能与模型可追溯性。
arXiv cs.CLAI 评分2020 通过知识图谱引导的多任务预训练增强预训练语言模型的法律推理能力
研究者提出一种面向德国交通法规（StVO）的多任务预训练方法，结合 NSP、知识图谱引导聚类（CLU）和知识图谱感知段落分类（CLS）三个目标，将结构化法律知识直接编码进模型权重，实现推理时的零样本法律推理。
arXiv cs.CLAI 评分3232 UPTURN：学习在何处重定向 LLM 推理以实现自我纠错
UPTURN 通过在冻结编码器上训练 130K 参数 MLP 头定位干预位置，以新用户轮次注入指令并重新生成后续内容，无需微调 LLM。在四个推理模型和六个数学基准上，该方法在所有设置中均优于 32-rollout 基线，并在匹配纠错预算下超越自我纠错与反思 token 注入基线。它可跨推理模型迁移并泛化至 GPQA-Diamond，且与 GRPO 及自我纠错方法互补。
arXiv cs.CLAI 评分2929 zip2zip++：在推理时实现最小质量损失的 token 压缩
zip2zip++ 通过解耦输入/输出动态嵌入层、尺寸感知 RoPE 定位和改进的 LZW 编解码器，在不修改预训练语言模型的前提下，将 zip2zip 与未压缩基线之间的质量差距缩小约一半。
arXiv cs.CLAI 评分1818 MoPrO-SD：面向立场检测的模块化提示词优化框架
MoPrO-SD 是一个面向立场检测的模块化提示词优化框架，将提示词拆解为功能性语义模块，并利用 LLM 反馈依次精炼，同时提出 VaccineStance 疫苗立场检测基准。
arXiv cs.CLAI 评分3737 T²Mem：面向 LLM 长交互历史的测试时记忆构建框架
研究者提出 T²Mem，一个将记忆构建推迟到推理阶段的测试时记忆构建框架，在推理过程中逐步构建查询专属记忆。该方法离线仅提取轻量级 episode 级元数据作为检索线索，测试时由 LLM 自适应检索并组织元数据与原始交互。在 LoCoMo 和 LongMemEval 上，T²Mem 在不同骨干 LLM 上持续优于强基线，同时大幅降低记忆构建开销，代码已开源。
arXiv cs.CLAI 评分2222 PreSTO：面向快速 LLM Power Sampling 的预测性子树预取
PreSTO 通过预取未来提议来加速 PowerMH 采样器，且可证明不改变其 MH 转移核。在七个数据集和五个基础 LLM 上，PreSTO 对 PowerMH、EntropyCut 和 MultiTryMH 分别取得 1.71×、1.91× 和 2.33× 的中位加速，前两者模型调用次数中位数减少 3.9×，每次调用仅延长 2.1×。
arXiv cs.CLAI 评分3131 SOAR：面向搜索智能体的来源感知强化学习与精确信用分配
针对搜索智能体绕过外部信息、编造错误答案的"证据捏造"问题，研究者提出 SOAR（来源感知强化学习），通过 Source-Aware Workflow 将外部信息与内部知识拆分为可观测的并行流，并用 Source-Consistent Reward 引导策略演化。在 3B 和 7B 骨干模型上，SOAR 分别比基线提升 7.3% 和 5.4%，同时将证据捏造减少 74.8%。
arXiv cs.CLAI 评分3838 KV-Repurpose：评估非前缀 KV-Cache 复用的测试平台
基于 vLLM 的开源系统 KV-Repurpose 用于开发和评估超越精确前缀的分段式 KV-cache 复用。在 Zipfian RAG 式负载（20% 请求共享固定前缀）下，30 GB 缓存容量时其 token 级缓存命中率达 63.9%，而前缀缓存仅 3.3%，TTFT 更低；即便缓存容量扩至 1 TB，前缀缓存命中率也只有 17.9%。
arXiv cs.CLAI 评分2929 CoBe：对话式反事实文本编辑基准
研究者提出 CoBe，一个测试模型零样本反事实文本编辑能力的基准，包含覆盖医疗、科学与工程、商业及日常场景的 2000 道问题。前沿模型平均得分仅 58.05%，且模型常退化为关联性生成而非保留原场景的因果结构。性能不随模型规模或输出 token 长度稳定提升，失败或源于训练目标而非模型容量不足。
arXiv cs.CLAI 评分2424 RAMP：面向循环深度语言模型高效预填充的循环自适应混合精度方法
针对循环深度语言模型长上下文预填充中重复计算开销大的问题，研究者提出 RAMP（循环自适应混合精度），在循环深度早期用低精度权重与激活计算、末端恢复高精度。分析表明早期引入的量化误差会被更多后续循环步骤衰减，匹配预算实验也验证了这一预测。在最长 4K 上下文下，RAMP 保持接近全精度的预填充质量，在 NVIDIA H100 上实现最高 1.16x 端到端首次预填充加速，延迟降低 13.9%。