R-DEIM Net:一种高效的理由增强双专家交互模型,用于复述检测
R-DEIM Net 是一个 76M 参数的双专家架构,用于复述检测并生成人类可读的理由。它由交互专家(多尺度 2D 卷积与注意力头,支持可变输入长度)和推理专家(Flan-T5-small 解码器生成理由作为辅助监督)组成,通过池化解码器隐藏状态作为分类特征。
R-DEIM Net 是一个 76M 参数的双专家架构,用于复述检测并生成人类可读的理由。它由交互专家(多尺度 2D 卷积与注意力头,支持可变输入长度)和推理专家(Flan-T5-small 解码器生成理由作为辅助监督)组成,通过池化解码器隐藏状态作为分类特征。
研究提出 MTAG-Bench 多轮护栏归因数据集(含 4,167 段对话)与 MTAG-Probe 分层归因模型,可定位推动对话走向不安全的轮次级与片段级证据。
研究提出 FakeContextBench 基准,覆盖七个领域的伪科学主张,评估发现大规模预训练不足以可靠辨别上下文权威性,主流 ICL 微调方法反而使模型对误导性上下文的易感性增加,现实准确率最多下降 14.95 个百分点。
研究者提出一种量化鲁棒的 LLM 遗忘框架,通过损失景观分析发现基于曲率的判据可定位导致遗忘不鲁棒且效用下降的敏感权重,并据此提出敏感度引导的噪声正则化与仅更新遗忘关键层的遗忘关键优化。在 MUSE 和 TOFU 基准上跨多种 LLM 遗忘算法实验显示,该方法在保持模型效用的同时实现了更强的抗量化遗忘效果。
研究者提出 Prediction-Interval-Conditional Prediction Intervals(PICPIs),一种基于预测值的条件化框架,通过自洽条件 E[Y | p(X) ∈ I] ∈ I 同时定义预测值分层并保证该层结果均值落在同一区间内。
研究者推出 GameHorizon Suite,一套面向多时间跨度的游戏玩法数据与评测套件,包含自动化标注流水线 GameHorizon-Annotator、首个大规模 AAA 游戏数据集 GameHorizon-Data(21 款游戏、5000 小时录像、100 名人类专家玩家)以及支持离线与逐步在线测试的 GameHorizon-Bench。
研究考察了 Qwen-2.5-7B/32B 和 Llama-3.1-8B/70B 四款开放权重 LLM 如何在内部表征临床成本权衡。在糖尿病数据集上,患者风险可线性恢复(AUC≈0.83),成本方向在每个模型中均可恢复,但仅两个较大模型的表征偏移与输出变化一致,12 组模型-措辞中仅 2 组同时表现出对 FN 与 FP 成本增加的反向响应及成本正确排序。
研究提出 MusicConstraintBench 基准(2180 条、八类可程序化验证约束)与 MusicRLVR 方法,仅用验证器奖励对语言模型做 GRPO 训练,无需人工标注、奖励模型或音乐领域监督微调。
EGMEMORY 是一个免训练的智能体记忆框架,以证据链保留消息级证据与来源,并追踪状态的修订历史。它在 GroupMemBench 上达到 68.2%、在 EverMemBench 上达到 77.9%,分别超出最强基线 22.7 和 21.4 个百分点,在双人对话基准 LoCoMo 上达到 73.6%。该系统仅通过提示词与工具调用运行,无需针对记忆的策略训练。
一项研究以迷宫任务中的“好-坏”结果方向为对象,用受控干预区分实际结果与信息历史,检验该方向的构念效度。跨多个 LLM checkpoint,基于一种显式结果编码拟合的方向能良好迁移到另一种编码,但同一结果经由“预告”与“未预告”两种历史达成时迁移显著下降,事件后读出仍强烈依赖早先的预告。
研究用 104 例训练患者(878 个 MRI 体积)比较直接图像到图像回归模型与基于条件流匹配的生成模型,预测鞘内注射示踪剂在脑内的后期分布。直接模型在 23 例留出患者和 51 例特发性正常压力脑积水(INPH)队列中,将"直接复制平扫图像"的误差分别降低约 60% 和 25%,且预测变化图与观察到的示踪剂强化一致;生成模型在两个队列中精度均更低。
CoReLoop 通过循环专属 LoRA 与轻量模块实现受控循环精炼,让已训练的 SSL 音频深度伪造检测器在不新增数据、不更新原参数的情况下提升泛化能力。在 14 个测试集上,24 层模型两轮精炼将 EER 从 4.85% 降至 3.74%,仅训练 598M 参数中的约 11M。可选 halting head 按语句选择精炼深度,以平均 1.18 轮达到 3.73% EER。
论文提出一种名为能力洗白(capability laundering)的攻击:较弱的未对齐模型把有害任务拆成看似无害的子问题,分别向更强的已对齐模型咨询,再在本地组合答案,因此没有任何单次回复本身构成有害任务。
研究者提出 SPINE 基准,由 LLM 代理扮演持续但错误的用户,自适应挑战目标模型最多 25 轮,以测量大语言模型的谄媚行为。
RoboCousin 是一个基于 RoboTwin 2.0 的可扩展仿真数据生成平台,可将用户提供的物体图像转为带视觉与碰撞几何、语义物理元数据及自动抓取接触候选的仿真资产,并生成变化物体、背景、布局与语言指令的"数字表亲"。
研究者提出 OpenTI(Open Tabular Insight Extraction)框架,从第一性原理形式化"人需要什么分析知识、如何从表格语料中推导、结果如何服务用户"三个问题,以统一表格问答、text-to-SQL、数据分析智能体等分散的任务标签。
SeRV 是一种面向美国手语(ASL)生成的语义对齐 RVQ 分词器,通过全局运动-文本对齐与 token 级文本条件监督学习语义化残差 token 空间,并由分层 GPT 以由粗到细方式预测残差运动 token,生成 3D ASL 动作。
研究构建了人口统计平衡数据集 PARITY,测试视觉语言模型是否会拒绝对面部图像做出自闭症谱系障碍、ADHD、重度抑郁症和广泛性焦虑症的诊断判断。对 27 个开源与闭源模型的评估显示,模型会将面部表情转化为缺乏依据的医学判断,且该行为在开源权重模型中普遍存在,并延伸至经过安全训练的前沿模型——后者对单张人像会拒答,但在比较同一身份的多张人像时仍会给出诊断。
多模态深度学习模型 TC-Next 可基于 GraphCast 预报与 GridSat 红外卫星图像,实现 6-24 小时热带气旋路径与强度预报。在 GraphCast 上,其路径误差较规则追踪器 TempestExtremes 降低 15-44%,强度误差降至 1/3-1/6,且无需重训练即可迁移至 Pangu-Weather 和 IFS HRES。
LatentPress 将对话历史和长文档写入连续 memory tokens,由冻结解码器通过输入嵌入接口直接读取,推理时无需重建文本。
EmbodiedSkills 是一个基于技能的智能体框架,通过世界动作模型为冻结的 VLA 策略增强后果感知的动作选择,在 MetaWorld MT50 上把成功率从 76.28% 提升到 78.64%,在 CLIPort 上从 33.94% 提升到 36.83%。
针对 LLM 模拟用户过度配合、被测系统靠提问数量刷分的问题,研究者提出"披露门控"用户模拟器,将信息释放条件化为五级有序门、合并为三个可观测深度层。在已发布陪伴型智能体基准的英文语料上,移除逐样本门控语句会改变 12 个系统的排名且超出种子重跑的噪声带,但各系统分数无明显变化。该模拟器同时满足排名保序与分数尺度稳定两项标准,与已发布排行榜相关性达 0.993。
一项针对 12 名学生的访谈研究考察了生成式 AI 在学术沟通中的使用,发现学生在给导师和管理人员写邮件时最倾向于把专业信息委托给 AI,AI 参与程度从修改原文到直接代写不等。
DualOPSD 通过让特权教师模型在学生每次更新后同步适应,闭合了 OPSD 中教师收不到学生反馈的回路,并用基于冻结初始模型的残差目标保留特权上下文效果。在 Qwen3-8B/4B/1.7B 和三个数学基准上,DualOPSD 的 avg@12 准确率较 OPSD 提升 9.83 个百分点。诊断分析显示其双向 KL 更低、失配更少,代码已开源。
SIDScope 为生成式推荐的语义 ID 接口提供诊断资源,包含来自 7 个 tokenizer 家族、覆盖 Amazon 与 Yelp 的 9 个导出,其中 8 个可执行、1 个为可审计快照。
AudioChaps 是一个通过 GRPO 结合 CoT 推理对端到端 LALM 进行后训练对齐的框架,用于将连续音频流切分为主题连贯的章节。不做 SFT 冷启动直接应用 GRPO 的 AudioChaps-R1-Zero 平均 F1 比 SOTA 的 Audio-Flamingo-3-Think 提升 33 分,最终对齐模型 AudioChaps-R1 提升 49 分。
P2Skill 是一种基于提示词的技能蒸馏方法,让本地小模型自主执行四项技能,由云端 LLM 根据执行失败迭代优化技能,使本地 SLM 泛化到记忆化的 PII 模式之外,最终技能在设定边界内按最低验证泄露率选取。该方法无需隐私专用微调或学习型辅助检测器。在真实用户查询上,三种本地 SLM 中表现最佳者搭配 P2Skill 时,传输的标注标识符少于所有将文本发往云端的现有隐私保护方法。
研究用两个闭源模型和两个开源权重模型在 MMLU 与 ARC-Challenge 上测试四类策略,发现准确率与顺序敏感性并不一致变化:两阶段提示词在 MMLU 上降低了 GPT 的翻转率和 RStd,准确率却无显著变化。
arXiv 论文《Lost in Context Compaction: When LLM Systems Drop Side Constraints》研究上下文窗口承压时压缩过程会静默丢弃用户下达的附带约束(Side Constraints,如“在我确认前不要删除任何邮件”)。
研究发现,仅用 LoRA 微调路由器(训练 0.002% 参数)即可通过路由器权重变化幅度识别 MoE 模型中可剪枝的专家。
Search-G1 是一个将检索必要性与证据依赖耦合的奖励框架,通过两个干预校准的隐藏状态读出实现选择性有据搜索:prompt 读出预测闭卷充分性以代理检索必要性,answer-commit 读出预测证据依赖。该框架经校准后打分无需过程标注或 LLM 评判推理,并在四个 QA 基准和两种规模上取得有竞争力的准确率,同时表现出更强的反事实证据依赖和更少的搜索次数。
研究比较了 Recursive Feature Machine(RFM)与线性探针从 LLM 激活值中提取概念的效果,在人工标注的 ESG 金融文本数据集上,最佳线性探针准确率比微调领域分类器低 0.6 至 3.3 个百分点,但在所有对比中均优于模型自身回答,且准确率全面超过 RFM 概念向量。在合成混合测试中,线性探针的均值池化分数比概念向量分数更能跟踪段落中概念句的数量。
LifelongCrossNav 是一个面向未知多层室内环境的顺序多目标 ObjectNav 框架,通过持续维护共享稀疏 3D 语义体素记忆,增量累积几何结构、可通行状态与视觉语言特征,使后续目标查询无需重建地图即可复用场景信息。
针对输入为间接证据(如依赖行列、数据类型与上下文的表格单元格)时目标概念难以被检索的问题,研究者提出 Factorized Hypothesis Search(FHS),在命名语义维度上维护多个部分解释,支持结构化查询渲染、多假设检索与维度级候选验证。
研究者提出 Patients-like-me(PLM),一个统一 LM-GNN 框架,将局部患者语义与全局队列结构结合,并用变分期望最大化算法交替更新 LM 与 GNN。
一项针对 25 名有 LLM 使用经验的 SOC 从业者的半结构化访谈研究,梳理出 15 类 LLM 用例并归为六大功能类别。从业者认可 LLM 在报告自动化等重复性低阶任务上的价值,但认为事件分析等高影响任务尚不可行,瓶颈在于技术深度、上下文感知和组织专属知识,以及 SOC 自身准备度和人类过度依赖。尽管存在顾虑,从业者仍表现出强烈的采用意愿,称竞争压力下几乎没有替代选择。
研究者提出 LLM-OSDA,一种用于多轮 LLM 对话原生广告的动态按点击付费拍卖机制,将 Bellman 最优停止、赢家分配与包络定价整合在一起。在精确 Bellman oracle 下,期望折扣点击分配对每个广告主的出价单调,包络支付使真实出价在期望意义上弱占优;实际部署中用学习到的 StopNet 近似 Bellman 动作价值。
研究者提出 Gated Q-learning,用连续、依赖状态-动作的门控机制选择性衰减资格迹,在 Watkins' Q(λ) 与 Peng's Q(λ) 两个极端之间平滑插值,无需依赖重要性采样。
COSI-Lab 发布了一个真实跨学科科学研讨会的多模态多传感器数据集,涵盖 32 位学者、两场各 30 分钟的真实社交互动。该数据集聚焦由外部观察者判定的表观意图推断(AII)问题,提出将主观感知的多样性建模为可解释的视角驱动推理过程,而非标签噪声,并提供新的 AII 标注流程、意图叙事的定量与定性分析、基准任务、语音质量音频及隐私保护的多模态环境与可穿戴传感器数据。
Flux-OPD 是一种用演化上下文作为训练中监督的 OPD 范式,通过 reverse-KL 分解刻画上下文蒸馏,将上下文条件教师与无上下文教师的差异作为上下文修正注入无上下文教师,并用冲突项加权修正强度。实验显示 Flux-OPD 在 OPD 范式中取得最佳结果,表明教师监督与演化上下文结合具有潜力。