跳到正文
10月15日周四
  1. arXiv cs.AI24

    从保留-遗忘损失景观交互看量化鲁棒的 LLM 遗忘学习

    研究者提出一种量化鲁棒的 LLM 遗忘框架,通过损失景观分析发现基于曲率的判据可定位导致遗忘不鲁棒且效用下降的敏感权重,并据此提出敏感度引导的噪声正则化与仅更新遗忘关键层的遗忘关键优化。在 MUSE 和 TOFU 基准上跨多种 LLM 遗忘算法实验显示,该方法在保持模型效用的同时实现了更强的抗量化遗忘效果。

  2. arXiv cs.AI26

    开放权重 LLM 在临床风险分类中的错位与成本不对称

    研究考察了 Qwen-2.5-7B/32B 和 Llama-3.1-8B/70B 四款开放权重 LLM 如何在内部表征临床成本权衡。在糖尿病数据集上,患者风险可线性恢复(AUC≈0.83),成本方向在每个模型中均可恢复,但仅两个较大模型的表征偏移与输出变化一致,12 组模型-措辞中仅 2 组同时表现出对 FN 与 FP 成本增加的反向响应及成本正确排序。

  3. arXiv cs.AI35

    EGMEMORY:面向长程多参与者对话的证据链记忆框架

    EGMEMORY 是一个免训练的智能体记忆框架,以证据链保留消息级证据与来源,并追踪状态的修订历史。它在 GroupMemBench 上达到 68.2%、在 EverMemBench 上达到 77.9%,分别超出最强基线 22.7 和 21.4 个百分点,在双人对话基准 LoCoMo 上达到 73.6%。该系统仅通过提示词与工具调用运行,无需针对记忆的策略训练。

  4. arXiv cs.AI22

    LLM 中可操控的效价方向究竟表征了什么?相同结果、不同读出

    一项研究以迷宫任务中的“好-坏”结果方向为对象,用受控干预区分实际结果与信息历史,检验该方向的构念效度。跨多个 LLM checkpoint,基于一种显式结果编码拟合的方向能良好迁移到另一种编码,但同一结果经由“预告”与“未预告”两种历史达成时迁移显著下降,事件后读出仍强烈依赖早先的预告。

  5. arXiv cs.AI21

    从平扫 MRI 预测脑内示踪剂分布:直接回归与流匹配的对比

    研究用 104 例训练患者(878 个 MRI 体积)比较直接图像到图像回归模型与基于条件流匹配的生成模型,预测鞘内注射示踪剂在脑内的后期分布。直接模型在 23 例留出患者和 51 例特发性正常压力脑积水(INPH)队列中,将"直接复制平扫图像"的误差分别降低约 60% 和 25%,且预测变化图与观察到的示踪剂强化一致;生成模型在两个队列中精度均更低。

  6. arXiv cs.AI22

    CoReLoop:面向音频深度伪造检测的参数高效受控循环精炼方法

    CoReLoop 通过循环专属 LoRA 与轻量模块实现受控循环精炼,让已训练的 SSL 音频深度伪造检测器在不新增数据、不更新原参数的情况下提升泛化能力。在 14 个测试集上,24 层模型两轮精炼将 EER 从 4.85% 降至 3.74%,仅训练 598M 参数中的约 11M。可选 halting head 按语句选择精炼深度,以平均 1.18 轮达到 3.73% EER。

  7. arXiv cs.AI40

    从人像到病理:探究视觉语言模型的诊断越界行为

    研究构建了人口统计平衡数据集 PARITY,测试视觉语言模型是否会拒绝对面部图像做出自闭症谱系障碍、ADHD、重度抑郁症和广泛性焦虑症的诊断判断。对 27 个开源与闭源模型的评估显示,模型会将面部表情转化为缺乏依据的医学判断,且该行为在开源权重模型中普遍存在,并延伸至经过安全训练的前沿模型——后者对单张人像会拒答,但在比较同一身份的多张人像时仍会给出诊断。

  8. arXiv cs.AI27

    TC-Next:零样本多模态热带气旋预报模型

    多模态深度学习模型 TC-Next 可基于 GraphCast 预报与 GridSat 红外卫星图像,实现 6-24 小时热带气旋路径与强度预报。在 GraphCast 上,其路径误差较规则追踪器 TempestExtremes 降低 15-44%,强度误差降至 1/3-1/6,且无需重训练即可迁移至 Pangu-Weather 和 IFS HRES。

  9. arXiv cs.AI26

    面向陪伴型智能体评测的披露门控用户模拟

    针对 LLM 模拟用户过度配合、被测系统靠提问数量刷分的问题,研究者提出"披露门控"用户模拟器,将信息释放条件化为五级有序门、合并为三个可观测深度层。在已发布陪伴型智能体基准的英文语料上,移除逐样本门控语句会改变 12 个系统的排名且超出种子重跑的噪声带,但各系统分数无明显变化。该模拟器同时满足排名保序与分数尺度稳定两项标准,与已发布排行榜相关性达 0.993。

  10. arXiv cs.AI25

    DualOPSD:在 On-Policy 自蒸馏中闭合反馈回路

    DualOPSD 通过让特权教师模型在学生每次更新后同步适应,闭合了 OPSD 中教师收不到学生反馈的回路,并用基于冻结初始模型的残差目标保留特权上下文效果。在 Qwen3-8B/4B/1.7B 和三个数学基准上,DualOPSD 的 avg@12 准确率较 OPSD 提升 9.83 个百分点。诊断分析显示其双向 KL 更低、失配更少,代码已开源。

  11. arXiv cs.AI24

    P2Skill:面向云-端 LLM 推理系统的隐私保护技能蒸馏

    P2Skill 是一种基于提示词的技能蒸馏方法,让本地小模型自主执行四项技能,由云端 LLM 根据执行失败迭代优化技能,使本地 SLM 泛化到记忆化的 PII 模式之外,最终技能在设定边界内按最低验证泄露率选取。该方法无需隐私专用微调或学习型辅助检测器。在真实用户查询上,三种本地 SLM 中表现最佳者搭配 P2Skill 时,传输的标注标识符少于所有将文本发往云端的现有隐私保护方法。

  12. arXiv cs.AI29

    Search-G1:面向选择性有据搜索的共演化表征奖励框架

    Search-G1 是一个将检索必要性与证据依赖耦合的奖励框架,通过两个干预校准的隐藏状态读出实现选择性有据搜索:prompt 读出预测闭卷充分性以代理检索必要性,answer-commit 读出预测证据依赖。该框架经校准后打分无需过程标注或 LLM 评判推理,并在四个 QA 基准和两种规模上取得有竞争力的准确率,同时表现出更强的反事实证据依赖和更少的搜索次数。

  13. arXiv cs.AI22

    用 LLM 激活值测量文本中的概念内容:基于概念向量与线性探针的 ESG 证据

    研究比较了 Recursive Feature Machine(RFM)与线性探针从 LLM 激活值中提取概念的效果,在人工标注的 ESG 金融文本数据集上,最佳线性探针准确率比微调领域分类器低 0.6 至 3.3 个百分点,但在所有对比中均优于模型自身回答,且准确率全面超过 RFM 概念向量。在合成混合测试中,线性探针的均值池化分数比概念向量分数更能跟踪段落中概念句的数量。

  14. arXiv cs.AI27

    SOC 从业者如何看待 LLM 集成:25 场访谈揭示 15 类用例与落地障碍

    一项针对 25 名有 LLM 使用经验的 SOC 从业者的半结构化访谈研究,梳理出 15 类 LLM 用例并归为六大功能类别。从业者认可 LLM 在报告自动化等重复性低阶任务上的价值,但认为事件分析等高影响任务尚不可行,瓶颈在于技术深度、上下文感知和组织专属知识,以及 SOC 自身准备度和人类过度依赖。尽管存在顾虑,从业者仍表现出强烈的采用意愿,称竞争压力下几乎没有替代选择。

  15. arXiv cs.AI22

    LLM-OSDA:面向多轮 LLM 对话原生广告的最优停止动态拍卖

    研究者提出 LLM-OSDA,一种用于多轮 LLM 对话原生广告的动态按点击付费拍卖机制,将 Bellman 最优停止、赢家分配与包络定价整合在一起。在精确 Bellman oracle 下,期望折扣点击分配对每个广告主的出价单调,包络支付使真实出价在期望意义上弱占优;实际部署中用学习到的 StopNet 近似 Bellman 动作价值。

  16. arXiv cs.AI20

    COSI-Lab:面向多视角多模态社交意图建模的会议生活实验室数据集

    COSI-Lab 发布了一个真实跨学科科学研讨会的多模态多传感器数据集,涵盖 32 位学者、两场各 30 分钟的真实社交互动。该数据集聚焦由外部观察者判定的表观意图推断(AII)问题,提出将主观感知的多样性建模为可解释的视角驱动推理过程,而非标签噪声,并提供新的 AII 标注流程、意图叙事的定量与定性分析、基准任务、语音质量音频及隐私保护的多模态环境与可穿戴传感器数据。

  17. arXiv cs.AI23

    Flux-OPD:用演化上下文做在策略蒸馏

    Flux-OPD 是一种用演化上下文作为训练中监督的 OPD 范式,通过 reverse-KL 分解刻画上下文蒸馏,将上下文条件教师与无上下文教师的差异作为上下文修正注入无上下文教师,并用冲突项加权修正强度。实验显示 Flux-OPD 在 OPD 范式中取得最佳结果,表明教师监督与演化上下文结合具有潜力。