跳到正文
10月9日周五
  1. RadarAI76

    OpenAI 发布 GPT-6.1 Sol ultrafast,Codex steering 改为即时响应

    OpenAI 的 Tibo 在 Day 4 宣布 steering 改进为即时响应,模型对调整反应更快,可实时纠偏、避免浪费模型精力,同时发布 GPT-6.1 Sol ultrafast,两项改进配合效果很好。引用 @OpenAIDevs 的信息称,Ultrafast 当天起在 API、Codex 和 ChatGPT Work 推出,速度最高比 Sol Standard 快 8x。

    同一新闻,精选展示《OpenAI GPT-6.1 Sol Ultrafast 在 ChatGPT Work、Codex 和 API 推出》

  2. Hacker News48

    到 2027 年出货的 AI 芯片能跑多少 AI 智能体?

    按 2025–2027 年出货的 HBM 测算,这些硬件最终可支持数千万至数亿个并发的前沿模型智能体,相当于约 1.4 亿至 7.2 亿名全职员工的每周工时。若采用 DeepSeek V4 Pro 的服务基准,同一硬件可支持约 19 亿个并发智能体。即便只使用其中 20% 的容量,按 API 价格折算的年支出也将达 2.6 万亿至 5.3 万亿美元。

10月8日周四
  1. arXiv cs.AI24

    SpliTEE:用 GPU 辅助 TEE 结合差分隐私实现快速私密 LLM 推理

    SpliTEE 将 LLM 推理拆分到 Intel TDX TEE 与不受信任的 GPU 之间,并用差分隐私保护外包计算的中间表示,而非加密。作者对 LLM 推理关键函数做全局敏感度分析以界定 DP 噪声规模,并推导出掩码与噪声消除的浮点误差上界。在 Llama-3.2-3B 和 Qwen3-4B 上,其拆分执行比纯 TDX 推理快近 2 倍,比 Slalom 最多快 43% 且精度更高。

  2. arXiv cs.AI34

    PertMind:用细胞扰动数据强化学习激发 LLM 涌现生物推理能力

    PertMind 将细胞扰动图谱转化为强化学习环境,用实测基因响应作为可计算奖励,结合可信轨迹监督初始化与基因、通路、格式三级强化信号。该模型仅在正向扰动响应预测上训练,却在未见细胞环境中提升响应推断,并无需任务专属后训练即可迁移至反向扰动识别、双扰动推理、表型筛选优先级排序和生物过程解读。

  3. arXiv cs.AI22

    先刻画再蒸馏:大输出空间中的机制推理

    研究揭示推理训练语言模型如何在数千至数十万个候选中零样本完成多标签选择:在 MIMIC-IV 临床编码任务上,5,651 个候选诊断码全部置于上下文时,一组小型、全局、分阶段的注意力头对每个摘要的决策既必要又充分。作者提出 MISTILL 蒸馏方法,除教师推理文本外还监督学生模型在这些决策事件上的池化注意力,在跨家族学生模型中使对比决策的因果恢复近乎翻倍。

  4. arXiv cs.AI18

    强化学习中的终端表示(Terminal Representation)

    研究者提出终端表示(TR),一种结构上区别于后继表示(SR)和默认表示(DR)的强化学习表示方法。TR 同样编码奖励加权轨迹,但可作为更低维对象学习,无需特征向量计算即可直接用于选项发现、奖励塑形、迁移学习和探索,并能绕过特征分解所要求的对称转移动态假设。理论分析给出了 TR 的推导、两种学习算法的收敛性及零样本组合能力,实证显示其学习、存储和使用开销更低。

  5. arXiv cs.AI22

    DAR:面向 LLM 回归的预测分布强化学习

    研究者提出 Distribution-Aware Reward(DAR),一种 on-policy 强化学习目标,通过联合评估同一输入下多次预测形成的经验预测分布,并按每个预测对整体分布质量的 leave-one-out 贡献分配奖励。在合成插值/外推任务及代码、分子两个真实科学回归任务上,DAR 相比监督微调和逐点强化学习降低了预测误差、提升了排序质量,并给出校准更好的不确定性估计。

  6. arXiv cs.AI22

    Sinkhorn 双随机注意力秩衰减分析

    研究发现,用 Sinkhorn 算法归一化的双随机注意力矩阵比标准 softmax 行随机注意力更能有效保持秩,缓解 Transformer 随深度加深的秩坍缩问题。作者在情感分析和图像分类任务上验证了这一现象,并推导出纯自注意力下 Sinkhorn 归一化的秩衰减理论上界:秩随深度呈双指数衰减至 1,与 softmax 已有结论一致。

  7. arXiv cs.AI22

    PC-Diffuser:面向扩散轨迹规划器的路径一致胶囊 CBF 安全过滤

    PC-Diffuser 将可认证的路径一致障碍函数结构嵌入扩散规划的每一步去噪循环,让安全性成为轨迹生成的内在部分而非事后修补。它用胶囊距离障碍函数评估碰撞风险以更好贴合车辆几何,在运动学自行车模型下把去噪路点转为动态可行运动,并施加路径一致安全过滤器消除残余约束违反且不造成几何畸变。

  8. arXiv cs.AI25

    CLAS:面向多语言大模型的跨语言激活引导方法

    研究者提出免训练的推理时干预方法 CLAS(Cross-Lingual Activation Steering),通过选择性调节神经元激活来缩小大模型的多语言性能差距,在分类和生成基准上分别平均提升 2.3%(Acc.)和 3.4%(F1),同时保持高资源语言性能。该方法无需修改模型权重,且性能提升与语言聚类分离度增加相关,表明有效迁移依赖功能分化而非严格对齐。

  9. arXiv cs.AI23

    FedCoT:面向大语言模型的通信高效联邦推理增强框架

    FedCoT 是一个联邦推理框架,通过轻量级思维链重采样配合紧凑判别器进行筛选,并用客户端感知的 LoRA 堆叠与加权分类器聚合来应对数据异构、降低聚合噪声和通信开销。客户端在本地生成候选推理链和监督信号,服务器只聚合轻量模块。在医疗推理基准上,该方法在紧张资源预算下取得稳定提升,同时保持数据本地化与隐私。代码已公开。

  10. arXiv cs.AI22

    VICS-G:为 VLA 策略解码可行未来,安全动作不等于可行动作

    针对冻结的 VLA 策略可能选中局部安全但断绝后续安全完成路径的问题,研究者提出可行未来质量这一候选相关指标,并开发免训练、告警触发的重排序器 VICS-G。在六个 Safety-CHORES 设置中,VICS-G 将平均累计安全代价降低 1.9%-57.5%,成功率与策略采样差距在 2.5 个百分点以内,平均回合长度差距 0.82 步,且无需重新训练策略或在线 rollout。