Qwen3.8-Flash-Next 推理达 685 tokens/s
LightSeek Foundation 在 4× NVIDIA GB300 上用 NVFP4 运行 TokenSpeed,使 Qwen3.8-Flash-Next 达到每用户 685 output tokens/s。Qwen 官方对此表示祝贺,并期待社区进一步释放 Qwen 的推理潜力。
LightSeek Foundation 在 4× NVIDIA GB300 上用 NVFP4 运行 TokenSpeed,使 Qwen3.8-Flash-Next 达到每用户 685 output tokens/s。Qwen 官方对此表示祝贺,并期待社区进一步释放 Qwen 的推理潜力。
Ineffable Intelligence 联合创始人 David Silver 与 Lasse Espeholt 在 Sequoia Capital 播客 Training Data 中详解「超级学习器」路线:放弃人类数据与语言先验,用简单目标加复杂环境让 AI 自主发现知识。他们主张先在模拟中研究超级智能的安全与对齐,并预测一年内出现证据、三年实现超级智能。
推文提出"卡拉克第一定律":老权威说某事可能几乎肯定对,说不可能几乎肯定错,并以 Yann LeCun 多年否认大语言模型能实现真正智能为例。推文称在 LeCun 否认期间,语言模型已从预测下一个 token 发展到攻克 coding、解出大量人类解不出的数学难题。引用推文则质疑杨力坤、李飞飞等的大世界模型路径能否替代 LLM,认为语言即世界的抽象,语言模型就是世界模型。
谷歌发布 Gemini 4 Argon,面向全球开发者和企业开放,可通过 AI Studio、Gemini 平台 API 使用,并支持 Google AI Ultra 与 Pro 订阅用户。
indigo 实测 Gemini 4 Argon 的写作与知识组合能力后认为,它让 Google 的模型重新追上第一梯队但未超越对手,而应用 Antigravity(Harness)落后对手半年到一年,拖累了模型表现。
马斯克在 X 上回应摩根士丹利分析师 Adam Jonas 的 SpaceX 研报,称分布式推理云"确实是件大事"。Jonas 在报告中称分布式推理云是 SpaceX 故事中增长潜力最大、却被投资者 largely 忽视的部分,并预计随着物理智能体密度提升,移动集群的智能能力将递增,建议投资者准备好在未来一年听到更多相关讨论。
Latent Space 发布对 Dyna Robotics 联合创始人兼首席科学家 Jason Ma 的现场访谈,解读其上月发布的 Dyna-2 world-action 模型与后续实体机器人智能体 Dyna-2.1。
Google 将 Gemini 4 Argon 开放给付费客户,该模型在 Vals AI 按 GDP 加权的专业工作指数中以 68.90% 领先 Claude Sonnet 5.5 的 67.04% 和 Claude Opus 5.5 的 66.97%。
同一新闻,精选展示《Google DeepMind 发布 Gemini 4 Argon》
论文提出 SanSi,让预训练为可复用层的 Ouro-1.4B 重复运行同一批层最多 8 次,并在每次循环后读取选项概率,使小模型在决策任务上大幅提准。在 10,027 条测试决策上,SanSi 得分 72.0%,同规模无循环模型为 58.4%,计算量为其 7.7 倍。
Google 的 Gemini 4 Argon 正式 GA,在 Artificial Analysis Intelligence Index 上与 GPT-6 Astra 排名持平,每任务成本仅为后者的 60%。
推荐理由:对比 Gemini 4 Argon 与 GPT-6 Astra 的智能指数和每任务成本,可用于评估同等智能水平下的性价比选择。
Google 发布 Gemini 4 Argon,称其在编程、网络安全、科学、金融和法律等基准上超过 GPT-6 Astra、Claude Fable 5.1 和 Claude Opus 5.5。
Google 发布 Argon,在空间推理、数学精度和视觉编程方面带来重大改进。在 @Antigravity 中使用多智能体循环,Argon 自主构建了整座宝塔建筑群,在 Blender 中从零开始雕刻建筑、植被和光照。
AWS 团队在 Amazon Bedrock 上基于 Grok 4.7 构建工具调用智能体,在三个需要搜索而非查表验证的任务上跑了 72 次,答对 67 次,xhigh 档位 18 次全对。
推荐理由:通过 72 次可复现的智能体运行,量化了 Grok 4.7 各推理档位在正确率与 token 成本间的取舍。
针对 MoE 模型在 decode 阶段 M 维过薄导致的 GPU 利用率瓶颈,团队通过 Swap-AB 转置让专家维度 N=8192 占据 WGMMA 首个操作数位置,在 H200 上实现端到端输出吞吐提升 2–4%,该优化已合入 vLLM 0.24.0 及之后版本。
Gradium TTS 在 Coval 基准(2026 年 5 月 4 日数据)上实现 155 ms 的 TTFA 中位数,四分位距仅 2 ms,达到快于人类语音响应的水平。
小红书 AllSpark 团队联合社区审核算法团队提出 Agent 学习框架 AdaptEvo,将置信度自适应强化学习 CA-GRPO 与决策知识、评价准则的演化交替进行,用于规则约束下的复杂情境决策。
IBM Research 演示用开源前沿模型结合 llm-d 分布式推理构建 agent factory,对量子纠错解码算法 Relay-BP 做 HLS 硬件优化,在 100 个假设预算下实现约 52 倍加速、推理成本约 26 美元。同预算下全专有模型配置成本 299 美元、加速 204 倍,为开源配置的 11.5 倍。该结果表明大幅硬件优化可在更小推理预算下实现,并得到面积最小的设计。
ScaleDown 发布 3 个面向单一任务的 Constrained Decoding Models,分别为 Classify、Extract 和 Summarize,不做逐 token 生成,只对输入做一次 prefill 并从原文中直接选出答案。
Z.ai 发布法律领域模型 GLM-Legal,基于 GLM-5.3-Flash(320B 总参数、18B 激活、1M 上下文)构建,在 Harvey LAB 上取得 19.17% 全通过率,约为其基座模型 6.67% 的 3 倍,并超过 Kimi K3(12.92%)与 Claude Fable 5(11.25%)。
Meta Superintelligence Labs 发布第二代模型家族 Muse Wonder(代号 Watermelon)与 Muse Wonder Full,距该实验室成立约 14 个月。
推荐理由:汇总了 Meta Muse Wonder 系列的发布细节与多家第三方评测数据,可对照 Opus 5.5、GPT-6 等模型看前沿梯队变化。
阿里 Qwen 团队推出 QwenGyre,一个面向超长时程智能体训练的弹性强化学习框架,可在未经修改的黑盒 harness 中训练编码智能体,单次 rollout 处理近 1M tokens。
数学家丘成桐在深度访谈中批评中国学术界长期存在的院士、帽子、职位等功利倾向,认为这种环境正消耗年轻人才的创造力。他强调数学是完全自由的国度,真正的原创在于创造新概念而非解题。对于 AI,他持审慎态度,认为 AI 可完成技术性证明,但缺乏跨学科能力。
Meta 发布面向个人与专业场景的 Agent 旗舰模型系列 Muse Wonder,定位为替用户做事而非通用聊天。作者梳理其四大能力支柱:领域专业知识(覆盖法律、金融、医疗与 Harvey 的 LAB 基准)、主动记忆、主动专注(配套自建 FocusBench 和 SWE-Marathon)与前沿编程。
英特尔在 2026 OCP 全球峰会上将基于 "Xe3P" 架构的数据中心推理 GPU "Crescent Island" 定名为 Intel GPU D-series,首款产品为 Intel GPU D270。
YouTube 频道 Jun Yamog 将 4 张英伟达 Tesla V100 装在 NVLink 载板上,在 4-bit 量化 Qwen3.8-Flash-Next 基准中长提示处理速度较 2 台 DGX Spark 快 40%、较 M5 Ultra 快 230%。
trymirai 在 GitHub 发布 uzu,一个面向 AI 模型的高性能推理引擎。项目定位为推理引擎,原文未披露支持的模型、性能数据或开源许可等细节。
哈佛 CS2680《Modern AI Systems: Agents and System Optimizations》Fall 2026 课程公布安排,容量增至 80 人,课堂时间为周一、周三 11:15–12:30,地点 SEC LL2.229。
Apple 与约翰霍普金斯大学研究者提出 SELFCOMPACT,让模型自己决定何时以及如何压缩上下文,由模型调用的压缩工具和一份轻量 rubric 两部分组成,无需微调或外部监督。
推荐理由:论文提出让模型自行决定何时压缩上下文的脚手架,并给出六个基准、七个模型上的成本与效果对比。
Apple 研究团队提出 Minions,一个将多台 macOS 设备上闲置的 Apple Silicon GPU 聚合起来、执行大规模机器学习推理的动态分布式虚拟 GPU 云。系统支持灵活的 GPU 推理任务执行、容错和高效资源利用,让团队无需额外采购 GPU 即可复用现有硬件。研究称,在集中式 GPU 资源受限的环境中,闲置 macOS 设备可转化为实用的分布式 GPU 推理平台。
embodiOS 发布 v0.9.0「Galvani」,将量化 LLM 直接编译进裸机 x86_64/aarch64 内核,单个 embodios.elf 文件同时是操作系统和模型,无需 Linux、libc 或用户态依赖。
OpenVINO Model Server(OVMS)是一款基于 OpenVINO、面向 Intel 硬件优化的 C++ 推理服务器,同时支持生成式 AI 与经典深度学习模型。
Intel 发布面向智能体 AI 推理的数据中心 GPU D270,单卡最高 480 GB LPDDR5X 显存,功耗 350 W,采用风冷与标准 PCIe 5.0 形态。
Quail 是 AI-SQL 执行引擎,其 AI.CLASSIFY 算子支持三种实现:trie_decode 逐 token 贪心生成标签、trie_tree 一次请求为所有标签打分、letters 为每个标签打一个字母分。以 Qwen3-4B-fp8 为例,AI.CLASSIFY 接收文档与 2 至 255 个标签,始终返回其中一个标签,并可通过 probabilities 选项输出各标签概率。
数学爱好者 nor 用 GPT-6 Astra 严格证明了摆圆问题中 N=15、16、17、18 和 20 这 5 种情况,此前仅 N≤14 和 N=19 得到验证。
一篇匿名预印本为带优化器记忆、模型修订、请求队列和拒绝事件的自适应学习运行时给出集合值语义,并用 Lean 4.19.0 验证了 21 条新定理,同一步进与门控定义被编译进实时控制器。证据包括 45 项测试、124,064 次有界控制器对比、300 个生成事件和两个 NumPy/JAX 场景;编译器、JSON、Python 适配与数值内核仍属显式信任边界。
vLLM 新增双向 KV 传输能力,让 decode 节点把已计算的 KV 块回传给 prefill 节点,避免多轮对话中重复计算历史上下文。在 1P1D 部署、Amazon EC2 P5en 加 AWS EFA 的测试中,最长提示下 Qwen3-32B 的 TTFT 降低约 1.6 倍,zai-org/GLM-5-FP8 降低约 3.3 倍。
推荐理由:原文给出双向 KV 传输的架构、可调参数与复现步骤,读者可据此评估多轮智能体场景下的 TTFT 收益。
Elorian 与 Scale AI 联合发布 Humanity's Sixth Sense(HSS)基准,用 522 道开放式题目测量多模态模型对画面隐含信息的直觉视觉推理,含 288 张图片和 234 段短视频、共 17.6 小时视频。
一篇讨论 Lean 形式化验证可信度的文章指出,"verified in Lean" 并不等于证明正确,并列举了六类失效情形:关键部分未被形式化、形式化证明与论文证明不一致、形式化陈述与原本意图不符、证明存在 sorry 或额外公理、利用内核 bug,以及编译链与硬件的信任问题。
Meta 的 Superintelligence Lab 发布 Muse Wonder 和 Muse Wonder Full 两款模型,这是其首次尝试前沿模型。
推荐理由:Meta 首次发布前沿模型,给出与 Fable 5.1、GPT-6 Astra 的基准对比及 API 定价,可据此判断其定位。
GPT-6 Astra 在最高难度 Ascension 20 下以最大 effort 挑战《杀戮尖塔》五个 Act 1 场景,每个场景跑十局。测试覆盖 Ironclad、Silent、Defect、Watcher 四个角色,场景包括平均地图、诅咒局、陷阱路线、密集分叉地图和强制精英战,并记录分数、层数、游戏时长与成本。