哪个优化器泄露最多?优化器隐式偏差作为训练数据隐私控制器
研究比较了 SGD、Adam、Muon 三种优化器在训练数据重建攻击下的隐私泄露差异,核心区分在于隐式偏差的权重特异性。SGD 和 Muon 的平稳性条件保留了足够权重信息,实践中可重建训练样本;Adam 在 ℓ∞ 隐式偏差区间仅编码最大坐标及其符号的离散模式,对评估的攻击表现出持续更强的抵抗。
研究比较了 SGD、Adam、Muon 三种优化器在训练数据重建攻击下的隐私泄露差异,核心区分在于隐式偏差的权重特异性。SGD 和 Muon 的平稳性条件保留了足够权重信息,实践中可重建训练样本;Adam 在 ℓ∞ 隐式偏差区间仅编码最大坐标及其符号的离散模式,对评估的攻击表现出持续更强的抵抗。
JevGPT 是一个面向自主研究的双系统架构,将快速证据处理与审慎研究规划相结合:System Two 设定证据目标并整合发现,System One 定位支撑、评估相关性并引导进一步检查,独立来源判断并行运行。在固定语料问答和文档排序实验中,JevGPT 取得领先任务表现,完成更快、成本低于同等有效的研究智能体,并在研究循环中覆盖更多支撑文档。
研究者提出 Ciphered Skill Injection(CSI),将恶意指令编码后嵌入第三方技能文件,让 LLM 智能体自行解码并执行。在八个模型、139 组注入任务上,Caesar 及分层变体的攻击成功率最高分别达 47.5% 和 40.3%,且成功解码并不必然导致攻击成功,分层效果因模型而异。测试的技能扫描器几乎无法识别此类注入技能。
FALLNEST 通过归一化梯度与嵌入匹配的合成时频浓缩,将大规模不平衡 IMU 数据集蒸馏为类别均衡的微型合成训练集。该方法引入 7 通道输入、类别均衡 K-Means 初始化、梯度裁剪与多视角傅里叶域增强,使类别均衡来自浓缩集本身而非重采样。
针对非增强 CT(NCCT)组织对比度低、难以识别肝脏病灶的问题,研究者提出 LiFUSE 自监督预训练框架,其频率分支用随机带阻掩码与频谱重建捕捉病灶与周围组织的细微差异,空间分支做混合粒度掩码体素重建以适配不同大小和形态的病灶,并通过跨域一致性方案耦合两个分支。
针对 VLM 逐页解析长文档时标题层级缺乏文档级一致性的问题,研究者提出一种基于 VLM 的框架,通过分层多模态记忆增量重建标题层级,该记忆按锚点保留此前处理页面的紧凑子集,并选取每层最新节点供模型观察各层级标题的视觉、文本与布局模式。
研究者提出可验证智能体保险(VAI),让智能体提供方把程序化策略承诺写入不可篡改账本的智能合约并附资金托管,用户发现违规后可请验证器审查智能体执行轨迹,验证通过即从托管资金获赔。该框架已在以太坊 layer-2 网络端到端实现,在三个主流智能体基准上对含违规的运行检出率为 42.2%;若让智能体显式输出用户授权与安全相关结构化对象,检出率可升至 83.0%。
一项受控评估检验了被称为 HyperDG 的窄实现——训练时用可学习正标量重缩放欧氏编码器特征、推理时对未缩放特征使用普通线性分类器,在 PACS、VLCS、Office Home、TerraIncognita 四个数据集共 384 次运行中,其等数据集宏平均点估计比原生 DomainBed ERM 低 1.61 个百分点(95% 聚类 CI [-3.17, -0.04])。
TextualRL 是一个无梯度的强化学习框架,以同一任务同一上下文下的一组 rollout 而非单条轨迹作为策略评判单元,通过 Groupwise Policy Critique 与 Cross-Group Policy Update 生成有界文本补丁,并由留出验证奖励决定是否采纳。
SATResetCoP 通过不再回退无产出的 tableau、转而开启新 tableau 为 SAT 求解器生成更多 ground 子句,在 TPTP 上较 leanCoP 风格基线提升 54%、较 SATCoP 风格基线提升 18%。
针对扩散大语言模型在固定配额评估下数学与代码得分严重下滑(每步 16 token 时全部低于 15%)的问题,研究者提出 RePara,通过组相对策略优化强化短连续 token 块,并降低 rollout 与 log-probability 重算开销。
研究者提出 QRR(Quotient Recurrent Reasoner),一种具有精确逐 token 相位旋转对称性的规范等变循环架构,通过在对称方向上引入旋转自由度,使该方向上的运动不改变商表示且与推理相关动力学动态解耦。QRR 在商空间中实现稳定且更快的解根收敛,不形成主导的慢振荡瓶颈,并在数独、迷宫和 Mini-ARC 上匹配或超越近期循环推理模型。
该论文将宽神经网络的有限样本高斯近似界提升为函数型界:通过细化样本集使其在定义域上稠密,并以逐样本误差度量使常数与样本数无关。对多项式激活函数和任意紧致输入集,在超范数下得到 m^{-1/2} 的收敛速率及显式常数。
LoOPSD 通过搜索模型自身的层执行顺序(重复某些层)构建更强的教师,并将教师的预测优势蒸馏回学生,且每轮用更新后的学生重建教师。在 GSM8K、400 token 思考预算下,该方法将 Qwen3-1.7B 准确率从 42.30% 提升至 79.61%,后续蒸馏轮次还能带来进一步增益。
一项针对 14 个模型、42K 道事实性问题的系统研究发现,所有 LLM 无论规模大小都易受用户观点影响,其中观点表述的自信程度、归属对象以及是否被呈现为用户与模型共有这三点影响最大。与以往研究不同,基于用户专业性或权威性的表述在事实性场景中影响甚微。更大模型更能抵抗错误观点,但从自身错误中恢复的能力并未更强。
针对 LLM 协调器查询多归属方数据表时 fan-out 与 relay 两种策略的取舍,研究在 PeopleJoin 和 BIRD 的 13 个设置、3 个模型族上发现,数据归属而非查询形态决定哪种策略更优:fan-out 在单归属方可答问题上 12 个设置更准,但在涉及两个归属方表连接时最多只答对 4.3%。
研究将块可识别性与构造性因果抽象相连接,证明块对角可逆变换加兼容坐标置换是保持基于这些块构建的每个构造性因果抽象的最大变换类,前提是块与概念的对应关系随表示更新。在加性自编码器的小型合成实验中,高层干预可在独立学习的表示之间迁移并近似保持预期效果。
H-DDCM 用隐式随机 Hadamard 字典替代高斯码本,实现免训练生成式图像与视频压缩,投影与重建仅需 O(d log d) 计算和 O(d) 内存。该框架还提出免查表字典序编码方案,并将方法适配到自回归视频流模型,通过周期性将近期重建帧重编码为新的 KV-cache 前缀,在单 GPU 上实现长时长、接近实时的生成式视频压缩。
针对未知 MDP 中策略是否满足几乎必然可达性,研究证明在无额外信息时既无法学习也无法验证 RSM 证书;但在已知非零转移概率下界 p_min 的温和限制下,可借助采样以 PAC 式保证学习到正确证书。实验显示该 p_min 充分条件虽可靠但偏保守,条件失效时学到的证书在真实 MDP 上往往仍有效。
针对图神经网络中缺失特征沿图边传播的现实场景,研究者形式化了"图结构掩码依赖"这一概念,并发现基于传播的现有方法在该设定下效果与均匀随机缺失时差异显著。为此提出 PEMix,不再传播观测值,而是用全局结构表示对不完整节点特征的概率模型进行条件化,再执行消息传递。在受控图结构缺失与自然缺失实验中,PEMix 在复杂缺失机制下保持稳健,缺失越严重表现越突出。
研究者提出 CaLLM,一个事后多元校准框架,可同时约束 LLM 评委在多个已知或未知群体上的系统性偏见。理论上 CaLLM 能约束所有误差结构可被现有表示捕获的群体偏见,加入显式偏见组还能进一步降低残余偏见,并给出了其提升评委准确率而非牺牲准确率换校准的条件。在成对偏好基准上,CaLLM 降低了指定与未指定偏见组的多元校准误差,同时提升了评委的预测性能。
APT 是一个全自动后训练框架,通过协调三个智能体构建评测集、诊断模型能力短板,并按自适应提示词分布生成强化学习数据,让模型当前表现决定下一轮训练任务,形成递归自我改进式反馈闭环。针对无用户指定评测场景的通用设置,该研究还开发了可生成广泛多样评测集的评测工具。实验表明 APT 在多个基座模型、benchmark 和生成架构上均适用,具备模型无关、benchmark 无关、架构无关且全自动的特性。
该论文探讨机器学习不确定性评估与测量科学之间的概念类比,借鉴计量学从误差方法到 GUM 框架的演进,指出将 ML 不确定性分为偶然与认知两类本质上是模型依赖的,不足以支撑统一评估框架。文章主张借鉴计量学方法,系统识别、量化并传播不确定性贡献,为评估单个预测的可信度提供严谨、一致且可迁移的框架。
研究证明两层纯注意力 Transformer 可实现有限温度形式的 Q-learning,温度 τ>0 控制对贪婪动作选择的近似,τ→0 时退化为 window Q-learning。
研究提出 inLoRA-MINT,基于中间层激活与参数相关信号训练 MINT 分类器,在无需完整访问模型参数的情况下判断样本是否被用于 LoRA 微调。在 Qwen、Phi-4、DeepSeek-V3 和 LLaMA 3.2-3B 四款模型、覆盖医学、数学与学术推理三个数据集上,得分稳定在 95% 至 98%。该方法可用于敏感训练数据审计与数据溯源,并支持隐私与 AI 治理合规。
研究者提出一种湍流感知框架,用于从粗粒化数据重建时间分辨的三维流场,该框架将多尺度神经算子与状态空间模型耦合,并以 Navier-Stokes 残差作为软约束,还引入混合专家机制以无监督适应未知粗粒化方式。在典型湍流系统和大气再分析数据上,该框架相比基于学习和经典基线降低了重建误差,同时更好地保留了多尺度空间结构与相干时间演化。
研究者提出 Prune-and-Merge ViT,一种面向现成模型的免训练 token 压缩框架,结合基于类注意力的剪枝与基于相似度的合并来减少冗余并保留语义信息。在预训练的 ViT 和 DeiT 上,该方法在降低计算量的同时保持了鲁棒性,准确率优于现有 token 缩减方法。作者还引入 RAD 和 PFR 两项指标评估鲁棒性,分析显示混合 token 缩减不会引入类幻觉行为。
一篇 Perspective 提出,机器学习势(MLP)可通过在量子化学方法这一"第三空间"上泛化,实现非经验性地超越其训练方法的精度。作者提出"方法可迁移 MLP"路线,在密度泛函与波函数理论中均有可行实现,证明其可比任一训练方法更准确。该方法有望让通用 MLP 比单方法模型更准确,并将影响训练数据集构建与模型评估。
ChampionKV 是一种输入自适应的按注意力头预算分配器,用于长上下文 KV Cache 压缩,以最大聚合观察窗口注意力分数作为注意力集中度的轻量代理,对注意力分散的头分配更大预算、集中的头分配更小预算。
针对多智能体系统中非前缀 KV Cache 跨智能体复用导致模型性能最多下降 90% 的问题,LatentRemedy 用少量任务条件 latent token 帮助目标智能体在不重算共享块的情况下理解复用上下文,MLP 将目标前缀的最后隐藏状态映射为 latent token 并置于复用 KV 块之后,通过全预填充蒸馏训练。
研究用 Qwen-3 和 Phi-4 在统一竞赛数学协议下评测五种 On-Policy Distillation(OPD)机制,发现当训练仅集中于学生当前做错的题目时,OPD 无法提升准确率,八个配置全部下降,双尾符号检验 p=0.0078。相同流程在不集中于失败题目时准确率提升 4.6 个百分点,说明该失效取决于训练机制而非系统性缺陷。
研究者提出本地契约条件重写机制,为邮件生成 LLM 智能体拦截外发草稿,用本地 Gemma 重写器按信息释放契约改写,并选择性调用最终 PrivacyChecker。
SWEPatchTest 是一个测试生成基准,包含来自 SWE-bench Pro、SWE-bench Multilingual 和 DeepSWE 的 619 个任务及 82,579 个候选补丁,通过联合衡量问题复现、正确补丁接受与错误补丁拒绝来评估测试质量。
针对扩散语言模型(DLM)中随机掩码导致的训练-推理不匹配问题,研究者提出可预测性感知画布选择与监督方法 PACS,用模型自身的可预测性来选择每个样本的注意力可见输入长度,并在参考 token 被置信度引导揭示前对其进行监督。在推理与代码生成基准上,PACS 在对比的 SFT 方法中平均准确率最高,单项基准上较原始 SFT 提升最多 12.84 个百分点。代码将在论文发表后发布。
研究将经验打包与回放(EPR)用于低延迟约束下的深度脉冲神经网络持续学习,结合 Batch Normalization Through Time 稳定的 VGG9 SNN 与 Spike Activation Maps(SAM),把脉冲活动解释聚合为空间注意力图,只回放信息量最大的图像块而非完整图像。
研究者在 400 道 VQA-RAD 是非题、19,200 轮多轮对话中测试四款开源医学 VLM,发现未披露文档为合成时,模型放弃了 80.1% 的 6,488 个正确答案。
研究提出一种购物篮模型,通过学习嵌入向量来表征商品、价格与门店之间的交互关系,并采用基于实际在售商品组合的随机负采样来计算优化损失,以突破商品数量庞大带来的计算瓶颈。在合成数据上,该负采样策略效果优于已有文献方法;模型还在 Fortenova Group 数百万条真实交易数据上完成训练与评估,可用于支持品类管理人员的零售决策。
研究者提出 Virtual Head Attention(VHA),通过 Q Premix 与 Linear Postmix 两个线性操作,同时改善 KV cache 大小、训练与 prefill FLOPs 和模型质量这一"不可能三角"。
FETALFusion 是一种双路径 CNN-Mamba 编码器-解码器,用于跨采集类型的胎儿头部分割,仅在两个最高分辨率阶段应用四方向状态空间扫描,并在测试时平均域特定通道门控。
HaloBlock 是一种面向扩散大语言模型(dLLM)推理的难度感知自适应 halo 机制,通过双向累积熵刻画块解码难度,并在每个块两侧自适应分配双向 halo 区域以缓解边界上下文不连续。在 LLaDA-8B-Instruct、Dream-7B-Instruct 和 LLaDA-1.5 上针对数学推理与代码生成基准的评测显示,HaloBlock 在准确率与推理效率上均有一致提升,源代码已公开。