用 LLM 模拟多语言数学辅导中的学生-导师互动
研究者首次用 LLM 大规模模拟多语言学生-导师互动:强模型扮演导师生成提示,弱模型扮演学生,覆盖 11 种语言、4 个 SOTA LLM 和 352 组实验设置。结果显示,即便对多语言学生 LLM,英文提示通常仍更受偏好,仅少数例外能带来更好的学习效果。
研究者首次用 LLM 大规模模拟多语言学生-导师互动:强模型扮演导师生成提示,弱模型扮演学生,覆盖 11 种语言、4 个 SOTA LLM 和 352 组实验设置。结果显示,即便对多语言学生 LLM,英文提示通常仍更受偏好,仅少数例外能带来更好的学习效果。
研究者提出组合感知评测框架 BenchHub,将 benchmark 表示为实例级属性的分布,整合 54 个 benchmark、839K 样本、覆盖 10 种语言。该框架揭示动机相似的 benchmark 内部构成差异显著、现有 benchmark 常含超出其既定用途的可复用覆盖,且模型排名在不同重加权与重采样配置下会发生变化。
研究利用降维与模式识别方法,定位了多个预训练 decoder-only LLM 中人格(persona)表征的编码位置,发现所分析的人格仅在解码器层最后三分之一才出现显著表征差异。在选定层中,道德虚无主义与功利主义等伦理视角的激活存在重叠,暗示一定程度的语义多义性,而保守主义与自由主义等政治意识形态则分布在更独立的区域。
一篇综述梳理了生成式 AI 在自动驾驶中的应用,涵盖静态地图创建、动态场景生成、轨迹预测与车辆运动规划等任务,并对比了 VAE、GAN、生成式 Transformer 与扩散模型的能力与局限。文章还讨论了传统方法与生成方法结合的混合方案、相关数据集,以及安全、可解释性、实时性、训练与基准测试五大核心挑战,并给出图像生成、动态场景生成与规划方面的建议。
一项实证研究考察了 primary functionality、boundary、hierarchy 和 structural 四种覆盖率指标与 DNN 模型深度及配置信息之间的关系。
研究者提出 GATTACA,一个基于深度强化学习的可扩展计算框架,用于控制布尔网络模型以模拟细胞重编程。该框架将图神经网络与图卷积操作融入 DRL 智能体的动作价值函数近似器,并改进了伪吸引子状态的识别方法。在多个大规模真实生物网络上的实验验证了其可扩展性与有效性。
这篇综述系统梳理了基于 AI/ML 的 RNA 亚细胞定位预测最新进展,覆盖 lncRNA、mRNA、miRNA 等多种 RNA 类型,聚焦基于序列、基于图像以及融合两类数据的混合方法。文章指出这类方法可加速 RNA 研究、揭示分子通路并指导靶向疾病治疗,同时讨论了数据稀缺、缺乏 benchmark 等挑战及应对机会。
一篇 48 页综述分析了面向太空任务的 FPGA 神经网络加速器研究现状,指出 FPGA 因灵活性、成本效益和抗辐射潜力受到关注,可用于自主运行、传感器数据分析和数据压缩等星上任务。该文梳理了现有文献的趋势与空白并提出未来研究方向,已于 2026 年 10 月 7 日在线发表于 ACM Computing Surveys。
研究提出 Dynamic DAE Guardrails(DSG),一种利用原则性特征选择与动态分类器的精准遗忘方法,证明稀疏自编码器(SAEs)在动态使用时能显著提升 LLM 遗忘效果,打破此前 SAEs 不如梯度方法的结论。DSG 在遗忘-效用权衡上优于主流方法,并提升计算效率与稳定性、支持序列遗忘、抵抗重学习攻击、改善数据效率(含零样本)且更具可解释性。
开源 Python 工具 SCANAR 与 AIDOC 可加速医疗健康领域的 Horizon Scanning。SCANAR 自动完成新闻文章检索与处理,结合去重和无监督相关性排序;AIDOC 借助大语言模型与文本嵌入计算语义相似度,按相关性重排数据。
这篇立场论文提出 Contextual Stress Framework(CSF),主张毒性检测不应被视为孤立文本的单标签分类,而应作为对情境化交际伤害的语境测量,将毒性定义为感知规范违背与所引发压力或扰乱之间的关系。CSF 解释了文本内在型检测器为何会过度标记方言或 reclaimed 语言、漏检编码或语用滥用,并在保义变换下表现脆弱。
论文《A Generalist Hanabi Agent》已被作者 Hadi Nekoei 撤回,原因是发现 R3D2 实现中的 bug 使论文部分关键结论失效。该论文原提出 Recurrent Replay Relevance Distributed DQN(R3D2),用文本重构 Hanabi 任务并设计分布式 MARL 算法,声称是首个可同时游玩所有游戏设置、并将策略迁移到其他设置的智能体。
VQEL 将向量量化引入消息生成过程,让智能体基于学习到的码本进行离散内部表征的自博弈,同时保持端到端可微,规避了 REINFORCE 和 Gumbel-Softmax 在训练稳定性与扩展性上的局限。该码本还能自然形成符号词表,便于后续与其他智能体互博弈时直接迁移对齐。实验显示,经 VQEL 自博弈预训练的智能体在互博弈中符号对齐更一致、任务成功率更高。
这篇综述提出,从图像或视频帧序列生成自然语言的任务,本质上都是对随时间展开的视觉事件与语言特征之间复杂关系建模这一更广义多模态问题的实例。作者考察了五个看似不同但同属该问题的任务,梳理了近年代表性建模与评估方法及其共同挑战,并据此提出关键开放问题与未来研究方向。
研究者提出一种贝叶斯拍卖模型,将 ML 预测中看似合理却与买家真实支付意愿无关的"幻觉"与普通测量噪声区分开来。在信息性预测完全准确的基准下,该模型刻画了公开披露预测时的收益最大化拍卖机制,并说明单一买家场景下卖家何时应采纳预测、何时应忽略或设置价格上限以对冲预测失败。数值实验显示,据此设计的简单拍卖可达到接近最优的收益。
一项综述对医疗临床任务中的开放 LLM 与 AI 基础模型进行梳理与分类,并在个性化处方任务上实测开放权重模型。在 100 个合成患者档案上,开放权重模型未用 RAG 时整体适用性准确率达 0.810–0.850,高于专有基线 0.780,但置信区间重叠;加入 RAG 后所有模型均提升,排名差距缩小至 0.04 以内。
ReMAP 提出一种无损残差神经提升方法,用于任意阶马尔可夫随机场中的可扩展 MAP 推理,通过将 GNN 输出加到自由逐节点 logits 上,保持原问题的下确界、临界点、局部极值与 Hessian 惯性不变。
研究发现现有知识图谱复杂查询问答(CQA)基准存在缺陷:部分查询类型中高达 98% 的查询可归约为链接预测等更简单的问题,导致对领域进展的认知被扭曲。SOTA CQA 模型在无法归约的查询上性能显著下降。作者据此提出一组更具挑战性的新基准,要求模型进行多跳推理,系统实验显示当前 CQA 方法远未达标。
该研究提出一种深度监督的肝脏血管分割方法,通过新的聚类技术将血管树分解为从细小到粗大的多个尺度层级,并在标准 3D UNet 上引入尺度特定的辅助任务与对比学习,以增强共享表示中不同尺度的区分度。在公开 3D-IRCADb 数据集上,多项评估指标均取得良好结果。
Polyrating 是一种基于最大后验估计的 LLM 评分系统,可检测并量化影响人类偏好的偏差,实现更公平的模型比较。它利用已有 benchmark 分数,将新模型的人类评测成本最多降低 41%,新任务最多降低 77%。该系统还支持跨不同任务直接比较评分,全面呈现 LLM 在不同应用中的强弱与相对表现。
针对电动汽车路径问题(EVRP)中由道路拓扑导致的非对称能耗成本,研究者提出图边注意力网络 GREAT,完全在边空间而非节点坐标上运算,并与端到端强化学习框架结合,联合优化路径与充电决策。
研究追踪多个大语言模型训练中各专家的负载,将负载"明显波动"定义为瞬态、将"时间局部性"定义为稳定态,并部署三种经典预测算法实现专家负载预测。在 GPT3 350M 上,预测未来 1,000 与 2,000 步专家负载比例的平均误差率约为 1.3% 和 1.8%。该工作可为 MoE 模型训练的专家放置与资源分配提供参考。
针对图神经网络在大规模图推理任务中时间和内存开销巨大的问题,研究者提出一种三阶段多任务知识蒸馏框架,通过 Positional Encoding 捕捉位置信息、引入 Neural Heat Kernels 并匹配隐藏层输出,将图知识蒸馏到学生 MLP。
FlowWise 是一个面向流式有状态流量智能的服务系统,通过不确定性驱动的快慢级联,先用单包模型给出早期预测,仅将不确定的流升级到等待更多数据包的慢模型。它能在 16 ms 内服务 76.3% 的流,中位端到端延迟改善 40.5x,单台 16 核 CPU 服务器每秒可承载超 48.5k 新流,代码已开源。
针对分布式数据集上独立训练的本地 MoE 模型难以合并的问题,研究者提出通过最小化期望传输散度,将未对齐专家的大混合模型压缩为 K 专家 MoE。该方法用 majorization-minimization 算法计算专家、再拟合门控网络,仅需单轮单向通信,聚合估计量与本地估计量同样具有一致性。模拟与真实数据实验显示,其精度接近集中式估计,计算时间仅为后者一小部分。
研究者提出一种 Diffusion-GAN 模型用于生成带情感符号音乐,通过将符号音乐表示为带力度值的类图像 pianoroll 并用变分自编码器获取潜在表示,绕开扩散模型处理离散数据的难题。该模型仅需 15 步去噪扩散即可生成高质量音乐,而多数符号音乐扩散模型需要数百甚至数千步,并成功实现对生成音乐情感的控制。
研究者提出 LLMRec,在评分预测、序列推荐、直接推荐、解释生成和评论摘要五项推荐任务上对 ChatGPT、LLaMA、ChatGLM 等现成 LLM 进行基准测试。结果显示,LLM 在序列推荐和直接推荐等准确性任务上仅表现中等,但在可解释性任务上达到与 SOTA 方法相当的水平。研究还考察了监督微调对提升 LLM 指令遵循能力的效果,代码、数据和基准结果已公开。
研究提出 NeuSE,一种由部分物体观测生成的神经 SE(3) 等变潜在物体嵌入,可作为完整物体模型的紧凑点云替代,编码物体的完整形状、尺度与变换信息。其推断出的潜在编码同时具备 SE(3) 与尺度等变性,可直接推导相对帧变换,并兼容通用 SLAM 位姿图优化。在合成与真实序列上的评估显示,该方法独立使用或作为常见 SLAM 流程的补充时,均提升了定位能力与变化感知的建图一致性。
开源框架 Open-MMUnlearning 统一了多模态大模型(MLLM)遗忘的目标模型准备、数据处理、遗忘与评估流程,支持 5 个基准、4 个模型家族的 8 个 MLLM 和 12 种遗忘方法。
研究者提出 Guidance-TTT,将测试时训练拆分为两个角色:一个紧凑的引导模型在测试时被训练,负责提出高层策略改动,冻结的执行模型则将其实现为可执行方案,每步只更新引导模型。该方法无需联网,在 Polyomino Packing、AHC058、Lasso 和 TriMul 四个领域均优于此前工作报告的最佳方案,并与公开在线排行榜的 SOTA 结果保持竞争力。代码已开源。
MS-Exam-Gen 是一个可复现的自动基准构建工具包,用于评估 LLM 对多发性硬化 MRI 文本知识的掌握,不涉及直接影像判读。它从 66 个来源索引出 4,289 个检索块,生成含 16 个主题、53 个子主题的 3,058 道锁定候选题,在 12 个 LLM 端点上完成 36,696 次预测,准确率跨度达 42.8 个百分点(89.7% 至 46.9%)。
多模态训练会让模型在推理时缺失某一模态的情况下反而不如单模态模型,这一现象出现在融合模型、CLIP 式双塔模型和视觉语言模型中。作者将其归因于主参数子空间中习得的跨模态依赖,并提出轻量参数编辑方法 Geodesic Unlearning(GU),沿测地线路径将主输入子空间旋转至单模态参考方向。实验显示 GU 在缺失模态推理下提升性能,同时保持全模态准确率,优于现有鲁棒性基线。
研究者提出 PyINE 框架,用带插桩的 Python 程序作为可验证执行基底,实现可扩展的引导与监督。首个版本 PyINE-v1 基于近 100 万条确定性执行轨迹和超 50 万个匹配的 LLM 生成代码变体构建,并训练出一个捷径跟随模型。评估显示,数据集层面的汇总性能会掩盖关键失败模式的覆盖不足:低成本学习型监督器常漏掉罕见的捷径错误,而更强的模型检查更均衡但成本显著更高。
Penumbra 是一种对抗搜索方法,从已验证锚点出发,在逐步扩大的编辑预算下寻找使双评估委员会改变裁决的响应,并输出跨越合规边界的两条相邻响应。在匹配预算下,自适应分配在 59% 候选上达到均匀分配全预算的覆盖率;同等记录数下覆盖的失效模式是朴素枚举的 1.43 倍。在金融顾问章程的 60 条筛选义务上返回 144 对合规/违规响应,临床分诊章程的 18 条义务上返回 49 对。
研究者提出一个由 AI 智能体驱动的可微科学软件演化环境,将需求识别、开发与质量评估打通,通过统一微分接口复用导数规则。该工作为物理、化学、生物建模领域的 20 个软件包构建并验证了自动微分扩展,基准测试显示梯度评估与参数估计相比有限差分更省算力。研究驱动的修订使原本不支持的流程实现可微,并修正了科学观测量的导数、消除冗余计算。
研究者提出 SkillScriptBench,一个 350 任务的基准,用于分别评估 LLM 智能体在文档修复、脚本修复与保持正确行为上的技能自演化能力。该基准从超 35,000 个 GitHub Skill 仓库中选取 100 个包构建 150 个修复任务,另设 200 个受控任务在 clean、文档故障、脚本故障及双重故障四种状态下评测。
研究团队提出 ROAR,用于系统化统一并分析异构 AI 驱动研究系统(ADRS)的输出。它通过关系型 schema 与解析层归一化不同格式的结果,同时保留数据血缘与时间结构,并支持无需改 schema 接入新系统。基于多个 ADRS 的 900 多次运行语料,ROAR 揭示了相同配置运行可能收敛到不同分数、多数运行早期即获得大部分收益等难以从单一系统观察到的规律。
研究者提出 CPW-Drive,一个闭环 RAG 框架,将中国儒家思想提炼的价值原则与场景案例结合,为自动驾驶决策提供可检索的价值引导,并提出物理感知空间相似度检索(PSSR)方法。
研究发现,模型学会一个事实并不等于学会如何检索它:在请求形式训练阶段见过同一事实五种表述的模型,与只见过陈述句的模型,在后续相同的新事实训练后,从陈述句检索新事实的表现几乎相同,但在其他请求形式上差异显著。作者将答案前的隐藏状态称为上下文状态,五种形式训练的模型对同一事实的不同请求形式会产生更相似的上下文状态;在检索时改变该状态可启用或阻止已学事实的检索,且该效应可跨事实与事实关系迁移。
RIFAR 将可靠性筛选与漂移感知回放选择结合,用冻结的逆动力学模型评估动作与视觉一致性,并优先重选漂移更大的轨迹继续训练。在三个 LIBERO 套件和真实世界实验中,它超越此前基于 WAM 生成式回放的 SOTA,在 LIBERO-Goal 上取得 90.97 AUC,每任务仅保留 320 个历史时间步,约为 50 次演示回放所需步数的 4.9%。
共 2000 篇论文