跳到正文
10月15日周四
  1. arXiv cs.CL24

    VASPO:用特权价值估计实现自蒸馏的策略优化方法

    VASPO 将特权自蒸馏信号与 PPO 结合,由 critic 基于预测的续写回报计算 token 级优势,自教师则通过有界概率比对选定的正优势进行调制。在六个数学推理基准上,VASPO 在 Qwen3-4B 和 OLMo3-7B 上平均准确率分别较 PPO 提升 2.59 和 1.81 个百分点,并在 Knights and Knaves 上取得所评估方法中的最高平均准确率。代码已开源。

  2. arXiv cs.CL27

    多语言模型偏见审计研究:更低的偏见分数不等于更公平的模型

    一项针对 10 个开源模型、8 种语言的偏见审计研究发现,全部 70 个模型-语言组合的刻板印象分数均低于英语水平,但这一下降主要来自测试项本身的变化而非模型更公平。翻译后的测试项与英语原项的分数相关性仅 0.23(忠实翻译为 0.27),远低于改写英语项的 0.48,说明平均分无法区分偏见降低与分数模式改变。研究还记录了三种会静默抹除偏见信号的常见流程错误,并开源了代码。

  3. arXiv cs.CL27

    semCER:面向 OCR 的严重度加权字符错误率

    研究提出 semCER,在保留 CER 对齐方式与分母的基础上,由 LLM 评判为每个字素编辑赋予严重度权重,且无需分词。在英语、越南语和中文中,其评分逐条编辑地贴合读者评分,并能将读者认为最严重的编辑排在排序列表前列;在 CER 与 semCER 分歧的样本对上,英语和中文读者更常支持 semCER。研究还发布了 6100 万条已评判编辑、聚合读者评分及蒸馏评分器。

  4. arXiv cs.CL22

    南亚多语言场景下 RAG 模型问答性能分析

    一项研究分析了 RAG 模型在南亚多语言问答任务中的表现,探讨检索增强生成相比无上下文与有上下文回答能否提升正确率,以及 RAG 对文化类与非文化类问题的增益差异。研究还考察了 RAG 对热门与冷门文化问题的不同影响,旨在提炼高性能因素以指导优化混合 RAG 系统的设计。

  5. arXiv cs.AI24

    AlphaRLM:让语言模型从文献出发发现符号化因子

    AlphaRLM 是一个强化学习框架,训练 LLM 直接从金融文献构建可执行的符号化因子,无需输入因子表达式。它通过文献引导的算子组装(LEGO)提供语义先验,并用可执行有效性与分组收益分离奖励对齐市场反馈。在 CSI 300、CSI 1000 和 S&P 500 上,其年化超额收益优于强因子挖掘与 LLM 基线,8B 模型展现出较强的跨市场表现。

  6. arXiv cs.AI34

    MCPDisCo:面向 MCP 原生智能体的跷跷板缓解微调框架

    MCPDisCo 是一个面向 MCP 原生智能体的生态级强化学习框架,基于 Thought-MDP 在 70 个 MCP 服务器、527 个工具的真实长程交互上训练。它针对推理与工具使用相互拖累的"跷跷板"失效模式,结合 token 掩码奖励归因与双向梯度手术进行缓解,以更少 CoT token 取得更高成功率。在 MCP-Atlas 与 GAIA 上保持单调增益,模型权重与实现已开放。

  7. arXiv cs.CL22

    从分诊到影响:面向可解释波斯语仇恨言论的多跳推理基准

    研究者推出一个细粒度多跳基准,用于可解释的波斯语仇恨言论分析,覆盖内容分诊、目标识别、仇恨策略与道德基础分析、文本证据抽取、有害叙事推断和严重程度评估。评测显示,任务越依赖细粒度语义与推理,主流 LLM 表现越差;闭源模型整体优于开放权重模型,推理型模型并无稳定优势。引入中间推理步骤相比一次性评估能显著提升严重程度预测,基准已公开。

  8. arXiv cs.AI41

    语言模型倾向的分布外泛化如何预测:一项基于交叉诱导矩阵的研究

    研究用系统提示、few-shot、SFT 和 GRPO 等手段提升模型的特定倾向,再通过交叉诱导矩阵测量其向其他倾向的溢出效应。结果显示,同一诱导技术下不同模型的溢出高度相关,但 SFT 与 GRPO 产生不同的溢出模式,且良性倾向的诱导有时会泛化出不良倾向,例如被训练自称有感知的模型往往变得更追求权力。研究还发现溢出部分类似人类的特质相关性,并用 EFA 识别出三个特质聚类,可解释约一半方差。

  9. arXiv cs.AI22

    通过上下文建模弥合模型预测任务采样中的风险近似差距

    研究将模型预测任务采样(MPTS)中的风险预测重构为上下文序列建模问题,以解决风险预测模型(RPM)因优化历史稀疏和风险近似滞后一步导致的两个失效模式。新方法结合一步前瞻机制与时间加权滑动窗口,无需额外 rollout 即可缓解数据非平稳与稀缺问题。在鲁棒 Meta-RL、域随机化(DR)及 LLM 提示课程 RL 后训练中,该方法给出更可靠的难度估计并取得一致的性能提升。

  10. arXiv cs.AI22

    WeatherBridge:面向预训练天气预报模型的预报感知多源输入适配

    WeatherBridge 是一种源条件适配器,可将 GFS、HRES、CMA 等业务 NWP 初始场映射为 ERA5 参考态,且不更新预训练预报模型。它用 Swin-UNet 预测结构化残差修正并在多空间尺度注入源嵌入,训练目标结合纬度加权 ERA5 重建与 One-step Rollout Alignment(通过冻结的 FuXi 反传一步预报误差)。

  11. arXiv cs.AI22

    递归自我改进的预注册创世记账:物理发现运行时中首批经审计的算子创世事件

    研究者提出预注册的双层记账体系 M1/M2,用于区分机器生成内容与机器自创机制,并报告了首批经审计的 M2 创世事件。主事件中,深度受限的组合搜索在 NIST 氢原子 Balmer 测量上生成算子 sq(inv(n)) = 1/n^2,留出集 R^2 达 1.0000000,而最佳标准变换为 -0.546;外推至未见能级(n=8,9)相对误差约 10^-6。

  12. arXiv cs.CL29

    通过推理引导翻译扩展多语言安全与推理评估

    研究提出推理引导翻译框架,用于构建多语言评估基准,将翻译策略选择与大规模生成分离,结合任务感知验证、定向修复和独立质量筛查。基于该框架构建了覆盖 11 种语言、7 个安全/对话/数学推理资源的源对齐评估集,需修复的两个子集达到 99.94% 的条目-语言对覆盖率。对开源 LLM 的评估显示明显的语言相关漏洞,包括拒绝行为不一致和低资源语言推理能力大幅下降。

  13. arXiv cs.CL27

    TreeSpark:为投机解码学习起草待验证的树

    TreeSpark 是一个统一训练与推理框架,扩展半自回归 DSpark 架构,通过一次主干前向构建父条件候选树,并在训练中重放其扩展、剪枝与预算打包。在 Qwen3-4B 与 Qwen3-8B 上,九个通用基准和六个写作领域的平均接受长度较 DSpark 提升 23.4% 至 31.6%,单请求吞吐提升 15.1% 至 25.0%。

  14. arXiv cs.AI22

    模块化金融强化学习信用分配的等信息评估框架

    研究提出一种结合等信息重构控制、固定效用比较和预设下游护栏的评估框架,用于检验模块化金融强化学习中的信用分配。三项对照实验发现:基于残差的分配在披露接口下被普通损失预算控制精确复现;直接缺口监督提升了组件预测却未能保持解码结果;组件级 critic 监督在固定效用下恶化了风险条件确定性等价与回撤。

  15. arXiv cs.AI24

    PIDiff:面向蛋白质界面设计的离散与 SE(3) 联合扩散框架

    研究者提出 PIDiff,一个物理化学增强的多模态扩散框架,通过在离散序列空间与连续 SE(3) 结构流形上联合扩散,实现靶标条件化的蛋白质序列与结构设计。其核心 PIFormer 架构交替使用几何感知的不变点注意力与全局序列自注意力,并构建了基于 PDB 的蛋白质复合物数据集 PIBench,经预训练后微调用于 minibinder 与抗体设计。