OpenAI 推出 GPT-6.1 Sol Ultrafast,token 生成速度最高快 8 倍
OpenAI 宣布 GPT-6.1 Sol Ultrafast 开始推出,token 生成速度最高比 Sol Standard 快 8 倍。该模型已在 API、Codex 和 ChatGPT Work 中上线,API 定价为每 100 万输入 token $12、每 100 万输出 token $60。
OpenAI 宣布 GPT-6.1 Sol Ultrafast 开始推出,token 生成速度最高比 Sol Standard 快 8 倍。该模型已在 API、Codex 和 ChatGPT Work 中上线,API 定价为每 100 万输入 token $12、每 100 万输出 token $60。
OpenAI 的 GPT-6.1 Sol Ultrafast 正在 ChatGPT Work、Codex 和 API 上推出。Ultrafast 模式定价为每百万输入 token $12、每百万输出 token $60,速度比 Sol Standard 快 8 倍。
推荐理由:GPT-6.1 Sol Ultrafast 在 ChatGPT Work、Codex 和 API 上线,并给出输入输出 token 定价与相对 Sol Standard 的速度倍数。
OpenAI 的 Vaibhav Srivastav 表示,GPT-6.1 Sol Ultrafast 正在推送,token 生成速度最高可达 Sol Standard 的 8 倍,API 价格为每 100 万输入 token 12 美元、每 100 万输出 token 60 美元。他补充说,其成本只是 Astra 的 1.2 倍。
OpenAI 的 Tibo 在 Day 4 宣布 steering 改进为即时响应,模型对调整反应更快,可实时纠偏、避免浪费模型精力,同时发布 GPT-6.1 Sol ultrafast,两项改进配合效果很好。引用 @OpenAIDevs 的信息称,Ultrafast 当天起在 API、Codex 和 ChatGPT Work 推出,速度最高比 Sol Standard 快 8x。
同一新闻,精选展示《OpenAI GPT-6.1 Sol Ultrafast 在 ChatGPT Work、Codex 和 API 推出》
OpenAI 为 GPT-6.1 Sol 推出 Ultrafast 模式,今日起在 API、Codex 和 ChatGPT Work 上线,速度最高达 Sol Standard 的 8 倍,价格高出 6 倍。定价为输入每 M tokens $12、输出 $60,高于 Sol Fast 的 $4/$20。官方称其接近 GPT-6 Astra 的智能水平。
一项测试用 18 条合成消息考察 Nimble 9B、Clef Flash 9B、Tev1 4B、Laya 421M 四款本地模型与托管 Jev 1.13 能否在无法明确判断时选择弃权。
NVIDIA Dynamo 团队介绍用统一的会话级标识符 session_id 把请求级推理服务升级为程序感知系统,覆盖会话感知路由、共享 KV 索引与程序化缓存迁移,并兼容 vLLM 和 SGLang。
TypeSafe AI 的 jev 在邮件分类任务上校准表现优于测试的另外 40 个决策模型。该结论来自 Shrivu Shankar 的测试,TypeSafe AI 官方转发并强调"保持校准"。
OpenAI Developers 宣布 Ultrafast 模式今日起面向 GPT-6.1 Sol 推出,覆盖 API、Codex 和 ChatGPT Work。该模式提供接近 Astra 的智能水平,速度最高比 Sol Standard 快 8 倍。
OpenAI Developers 公布 GPT-6.1 Sol 在 Ultrafast 模式下的 API 定价,每百万输入 token 12 美元、每百万输出 token 60 美元。该模式面向速度与智能并重的场景,包括调试故障、智能体操作应用以及分秒必争的实时体验。
NVIDIA Dynamo 提出以统一的会话级 ID 把请求级服务基础设施改造成程序感知系统,支持会话感知路由、共享 KV cache 索引和跨 vLLM、SGLang 的程序化缓存迁移。
推荐理由:原文给出会话级 ID、追踪回放与调度策略的完整设计,可据此理解智能体推理服务栈的改造路径。
按 2025–2027 年出货的 HBM 测算,这些硬件最终可支持数千万至数亿个并发的前沿模型智能体,相当于约 1.4 亿至 7.2 亿名全职员工的每周工时。若采用 DeepSeek V4 Pro 的服务基准,同一硬件可支持约 19 亿个并发智能体。即便只使用其中 20% 的容量,按 API 价格折算的年支出也将达 2.6 万亿至 5.3 万亿美元。
ExploreNet 为扩散模型 RL 引入可学习探索,学习以当前状态为条件的自适应探索分布,并以 rollout 的多样性作为奖励信号。据 Stella Li 介绍,该方法在扩散 GRPO 中实现更快、更有针对性的学习。
Anthropic 此前公开的一道面试题要求为玩具 VLIW SIMD 架构优化内核,该架构含 12 个 ALU、6 个向量 ALU 及 2 组 load/store 单元,原始内核跑出 147,734 周期。
TypeSafe AI 发布决策模型 Jev,它不返回文本而是返回浮点数概率,可用于语义搜索与内容评分。周刊同时讨论了该模型的黑箱风险,并涵盖 Markdown 源码化、苹果无视频摄像头及 RSA 破解新纪录等动态。
研究者提出 Best-of-N Guidance(BoNG),将 BoN 采样原理直接融入反向扩散过程,通过对去噪粒子进行在线 BoN 选择并引入非对称引导交互,将粒子群导向高奖励区域。
研究识别出在线策略自蒸馏(OPSD)的失败模式"熵过冲"——训练中学生会话熵超过教师并持续偏高,根源在于参考答案条件下的教师监督过度绑定答案线索,且前向 KL 持续扩散学生预测分布。
研究者提出 Sparse Asymmetric Group-Query Attention(SAGA),将 key 头与 value 头数量解耦,并搭配近似 top-N(Atop-N)稀疏注意力,在长上下文下实现超过 2 倍于全注意力 GQA 基线的端到端解码加速。
研究者提出策略空间扩展(policy-space scaling),可从已完成的 RL 训练历史中提取比优化器访问过的 checkpoint 更强的策略,无需延长训练或增加单次推理计算。
研究团队在人类物理指导下由 LLM 开发出局部红外减除框架,将可积辐射项与 Born 运动学处的有限贡献(Born contact)分离,contact 项由 N-jettiness 等分辨率观测量下的 EFT 奇异分布确定。
ValueDiff 是一种基于值向量几何的 KV cache 淘汰方法,按 value 向量相对缓存均值的 L2 偏差对 token 排序,在弱注意力汇模型上替代依赖注意力汇的既有方案。
研究者提出因果语义世界动作模型 CSWAM,在 FastWAM 基础上引入基于 V-JEPA 2.1 的因果语义专家,从稀疏历史观测中学习语义状态变化与运动的未来演化,并通过因果注意力与视频、动作流共享上下文。
SpliTEE 将 LLM 推理拆分到 Intel TDX TEE 与不受信任的 GPU 之间,并用差分隐私保护外包计算的中间表示,而非加密。作者对 LLM 推理关键函数做全局敏感度分析以界定 DP 噪声规模,并推导出掩码与噪声消除的浮点误差上界。在 Llama-3.2-3B 和 Qwen3-4B 上,其拆分执行比纯 TDX 推理快近 2 倍,比 Slalom 最多快 43% 且精度更高。
PertMind 将细胞扰动图谱转化为强化学习环境,用实测基因响应作为可计算奖励,结合可信轨迹监督初始化与基因、通路、格式三级强化信号。该模型仅在正向扰动响应预测上训练,却在未见细胞环境中提升响应推断,并无需任务专属后训练即可迁移至反向扰动识别、双扰动推理、表型筛选优先级排序和生物过程解读。
研究者提出 Variational-Ising-Attention(VIA),在 softmax 归一化基础上引入相互作用 Ising 模型,通过变分平均场推理从可学习的成对耦合中生成注意力模式,将注意力从孤立条目的排序扩展为相互作用实体的集体状态。
Guided Action Flow(GAF)通过从机器人任务 rollout 中学习一个紧凑的观测条件动作价值 critic,用其动作梯度引导逆向流采样,全程不更新已监督微调的 VLA 参数。
研究者提出用程序合成近似 Transformer 语言模型注意力头行为的方法:先计算注意力矩阵,再让预训练语言模型生成可复现注意力模式的 Python 程序并重排序。
研究揭示推理训练语言模型如何在数千至数十万个候选中零样本完成多标签选择:在 MIMIC-IV 临床编码任务上,5,651 个候选诊断码全部置于上下文时,一组小型、全局、分阶段的注意力头对每个摘要的决策既必要又充分。作者提出 MISTILL 蒸馏方法,除教师推理文本外还监督学生模型在这些决策事件上的池化注意力,在跨家族学生模型中使对比决策的因果恢复近乎翻倍。
研究者提出终端表示(TR),一种结构上区别于后继表示(SR)和默认表示(DR)的强化学习表示方法。TR 同样编码奖励加权轨迹,但可作为更低维对象学习,无需特征向量计算即可直接用于选项发现、奖励塑形、迁移学习和探索,并能绕过特征分解所要求的对称转移动态假设。理论分析给出了 TR 的推导、两种学习算法的收敛性及零样本组合能力,实证显示其学习、存储和使用开销更低。
研究者提出 Distribution-Aware Reward(DAR),一种 on-policy 强化学习目标,通过联合评估同一输入下多次预测形成的经验预测分布,并按每个预测对整体分布质量的 leave-one-out 贡献分配奖励。在合成插值/外推任务及代码、分子两个真实科学回归任务上,DAR 相比监督微调和逐点强化学习降低了预测误差、提升了排序质量,并给出校准更好的不确定性估计。
研究发现,用 Sinkhorn 算法归一化的双随机注意力矩阵比标准 softmax 行随机注意力更能有效保持秩,缓解 Transformer 随深度加深的秩坍缩问题。作者在情感分析和图像分类任务上验证了这一现象,并推导出纯自注意力下 Sinkhorn 归一化的秩衰减理论上界:秩随深度呈双指数衰减至 1,与 softmax 已有结论一致。
研究提出"道德推理轨迹"概念,追踪 LLM 中间推理步骤中伦理框架的调用序列,在六个模型和三个基准上分析其动态。55.4–57.7% 的连续步骤发生框架切换,仅 16.4–17.8% 的轨迹保持框架一致,不稳定轨迹受说服攻击的可能性高 1.29 倍(p=0.015)。
PC-Diffuser 将可认证的路径一致障碍函数结构嵌入扩散规划的每一步去噪循环,让安全性成为轨迹生成的内在部分而非事后修补。它用胶囊距离障碍函数评估碰撞风险以更好贴合车辆几何,在运动学自行车模型下把去噪路点转为动态可行运动,并施加路径一致安全过滤器消除残余约束违反且不造成几何畸变。
针对 LLM 生成优化代码易出现"可求解但语义错误"的静默失败问题,ReLoop 提出结构化生成与行为验证双机制:前者将代码生产拆为理解、形式化、合成、验证四阶段推理链,后者通过求解器参数扰动检测残余错误。
研究者提出免训练的推理时干预方法 CLAS(Cross-Lingual Activation Steering),通过选择性调节神经元激活来缩小大模型的多语言性能差距,在分类和生成基准上分别平均提升 2.3%(Acc.)和 3.4%(F1),同时保持高资源语言性能。该方法无需修改模型权重,且性能提升与语言聚类分离度增加相关,表明有效迁移依赖功能分化而非严格对齐。
针对 PPO、GRPO 等 RL 算法在离策略训练多轮 LLM 智能体时易出现优化不稳定和性能崩溃的问题,研究者提出 SORL 框架,指出不稳定性源于 token 级优化与轮次结构交互的粒度错配,以及离策略重要性采样带来的高方差梯度。
研究者提出量子比特中心 Transformer(QCT),一种基于 Transformer 架构与量子比特中心注意力机制的通用量子纠错解码器,通过专用嵌入策略将稳定子域的 syndrome 转换为量子比特中心 token,并引入基于图的掩码方法融入量子码拓扑结构。
LHM-Humanoid 提出一种面向物理仿真人形机器人的长时程运动控制方法,可在单次无重置的连续 rollout 中反复完成走向物体、全身平衡抬起、绕过障碍搬运并放置到目标点的完整循环。
FedCoT 是一个联邦推理框架,通过轻量级思维链重采样配合紧凑判别器进行筛选,并用客户端感知的 LoRA 堆叠与加权分类器聚合来应对数据异构、降低聚合噪声和通信开销。客户端在本地生成候选推理链和监督信号,服务器只聚合轻量模块。在医疗推理基准上,该方法在紧张资源预算下取得稳定提升,同时保持数据本地化与隐私。代码已公开。
针对冻结的 VLA 策略可能选中局部安全但断绝后续安全完成路径的问题,研究者提出可行未来质量这一候选相关指标,并开发免训练、告警触发的重排序器 VICS-G。在六个 Safety-CHORES 设置中,VICS-G 将平均累计安全代价降低 1.9%-57.5%,成功率与策略采样差距在 2.5 个百分点以内,平均回合长度差距 0.82 步,且无需重新训练策略或在线 rollout。