跳到正文
10月15日周四
  1. arXiv cs.AI26

    开放权重 LLM 在临床风险分类中的错位与成本不对称

    研究考察了 Qwen-2.5-7B/32B 和 Llama-3.1-8B/70B 四款开放权重 LLM 如何在内部表征临床成本权衡。在糖尿病数据集上,患者风险可线性恢复(AUC≈0.83),成本方向在每个模型中均可恢复,但仅两个较大模型的表征偏移与输出变化一致,12 组模型-措辞中仅 2 组同时表现出对 FN 与 FP 成本增加的反向响应及成本正确排序。

  2. arXiv cs.AI35

    EGMEMORY:面向长程多参与者对话的证据链记忆框架

    EGMEMORY 是一个免训练的智能体记忆框架,以证据链保留消息级证据与来源,并追踪状态的修订历史。它在 GroupMemBench 上达到 68.2%、在 EverMemBench 上达到 77.9%,分别超出最强基线 22.7 和 21.4 个百分点,在双人对话基准 LoCoMo 上达到 73.6%。该系统仅通过提示词与工具调用运行,无需针对记忆的策略训练。

  3. arXiv cs.AI25

    DualOPSD:在 On-Policy 自蒸馏中闭合反馈回路

    DualOPSD 通过让特权教师模型在学生每次更新后同步适应,闭合了 OPSD 中教师收不到学生反馈的回路,并用基于冻结初始模型的残差目标保留特权上下文效果。在 Qwen3-8B/4B/1.7B 和三个数学基准上,DualOPSD 的 avg@12 准确率较 OPSD 提升 9.83 个百分点。诊断分析显示其双向 KL 更低、失配更少,代码已开源。

  4. arXiv cs.AI22

    用 LLM 激活值测量文本中的概念内容:基于概念向量与线性探针的 ESG 证据

    研究比较了 Recursive Feature Machine(RFM)与线性探针从 LLM 激活值中提取概念的效果,在人工标注的 ESG 金融文本数据集上,最佳线性探针准确率比微调领域分类器低 0.6 至 3.3 个百分点,但在所有对比中均优于模型自身回答,且准确率全面超过 RFM 概念向量。在合成混合测试中,线性探针的均值池化分数比概念向量分数更能跟踪段落中概念句的数量。

  5. arXiv cs.AI20

    COSI-Lab:面向多视角多模态社交意图建模的会议生活实验室数据集

    COSI-Lab 发布了一个真实跨学科科学研讨会的多模态多传感器数据集,涵盖 32 位学者、两场各 30 分钟的真实社交互动。该数据集聚焦由外部观察者判定的表观意图推断(AII)问题,提出将主观感知的多样性建模为可解释的视角驱动推理过程,而非标签噪声,并提供新的 AII 标注流程、意图叙事的定量与定性分析、基准任务、语音质量音频及隐私保护的多模态环境与可穿戴传感器数据。

  6. arXiv cs.AI23

    Flux-OPD:用演化上下文做在策略蒸馏

    Flux-OPD 是一种用演化上下文作为训练中监督的 OPD 范式,通过 reverse-KL 分解刻画上下文蒸馏,将上下文条件教师与无上下文教师的差异作为上下文修正注入无上下文教师,并用冲突项加权修正强度。实验显示 Flux-OPD 在 OPD 范式中取得最佳结果,表明教师监督与演化上下文结合具有潜力。

  7. arXiv cs.AI31

    ForgetBench:评测大语言模型长期参数记忆的遗忘动态

    研究者提出 ForgetBench,用于衡量 LLM 在持续知识编辑下长期参数记忆的遗忘动态,包含概念型 QA 与场景型 QA 两种评测范式,并构建按时间排序的知识流进行多阶段编辑评估。该框架以后续编辑次数索引记忆年龄,量化时间衰减、保留强度与跨实例稳定性。实验显示不同模型与编辑方法呈现各异的遗忘轨迹,长期保留与泛化质量之间存在持续张力。

  8. arXiv cs.AI35

    DBA-Bench:面向 LLM 数据库运维智能体的生产级保真基准

    DBA-Bench 是一个面向 LLM 数据库运维智能体的生产级保真基准,在真实 PostgreSQL 与分布式 TiDB 环境中评估智能体,覆盖 5 个运维域的 231 个有界场景和 10 个持续场景。评测包含 4 个前沿基础模型、2 个开放权重模型和 2 个 GPT-5.5 驱动的数据库智能体,结果显示智能体能定位根因却无法恢复运维目标,即使恢复目标,执行动作也可能违反安全约束。

  9. arXiv cs.AI22

    用荣格认知功能做激活引导:面向联合人格目标的新框架与 NarrationDB

    研究提出一种"目标优先"框架,直接从联合人格目标中提取激活引导方向,再考察其能否分解为单一人格方向,并构建了 NarrationDB——将角色自述与八种荣格式功能的自动评估联合得分关联。在三个模型上的实验显示,八种功能均可通过问卷得分实现可控,测试的双功能目标也出现协同变化;直接提取的联合方向比无关配对更接近对应的单一方向,但仍保留大量残差成分。

  10. arXiv cs.AI29

    REGEN:用离线强化学习回收回放记忆实现专家到通才蒸馏

    REGEN 提出用离线强化学习回收教师模型专项 RL 训练产生的回放记忆,训练通才模型,从而完全解耦 rollout 采样与反向传播。在数学推理、代码生成和指令遵循任务上,REGEN 以显著更低的成本达到多教师在线蒸馏(MOPD)的准确率。该方法有望将在线 RL 从一次性学习阶段转变为数据合成过程,代码已开源。

  11. arXiv cs.AI17

    用机器学习为伏尔泰全集自动做主题索引:Mistral 4-bit 量化模型 F1 最高 0.67

    研究将伏尔泰《风俗论》与《百科全书问题》两套文集的自动主题索引建模为多标签分类任务,对比了从约 3B 到 120B 参数的编码器模型与经 LoRA 微调的生成式 LLM。表现最佳的是 Mistral 系列 4-bit 量化配置,F1 最高达 0.67,作者认为受专业索引主观性影响,该数值属于下界。研究还评估了跨语料泛化能力,并定性分析了模型在文学与修辞特征上的失败案例。

  12. arXiv cs.AI36

    EgoWAM:用野外第一视角人类数据训练超越像素的世界动作模型

    EgoWAM 是一个固定策略骨干、动作头与数据配比、仅改变世界预测目标的人类-机器人协同训练框架,对比 Pixel、DINO 与 3D motion flow 三种世界表示。在三个真实双臂任务上,基于 DINO 的预测将分布外物体与场景泛化能力最高提升 4 倍,3D flow 将域内性能提升 20-30%,而像素预测迁移效果较弱。

  13. arXiv cs.AI22

    Auto-AEG:面向开放词汇音频事件定位的可扩展数据构建方案

    Auto-AEG 通过程序合成带精确时间区间的音频片段做冷启动监督,再用多模型伪标签在真实音频上提供强化学习奖励信号,构建开放词汇音频事件定位所需的 onset/offset 监督数据。该流程在独立的分层难度基准 AEGBench 上带来大幅时间定位提升,并泛化到多个留出的 SED 与音频定位基准,其标注已开源。

  14. arXiv cs.AI22

    超越文化人格偏差:以响应几何衡量语言模型与人类

    研究提出用响应几何(各维度间相关矩阵构成的对称正定矩阵)衡量语言模型与人类的文化偏好。在 DeepSeek-V3 和 GPT-4o 中,固定题目顺序时提示的文化人格在 Big Five 得分和响应几何两个层面均显现;随机化题目顺序后响应几何降至随机水平,Big Five 仍能以 95%–97% 区分两种人格。

  15. arXiv cs.AI18

    FedCRF:用条件随机场结构化概率推断实现联邦学习聚合

    研究者提出 FedCRF,将联邦学习的服务器聚合建模为基于条件随机场的结构化概率推断,把客户端表示为图节点并定义一元与成对能量势,从而联合推断客户端可靠性与相似关系。推断出的可靠性和亲和度可统一支撑全局聚合、拜占庭鲁棒性、聚类联邦学习和个性化联邦学习。在 CIFAR-10、FEMNIST 和 Fed-ISIC2019 上,单一超参数配置下其表现与专用方法相当或更优。