跳到正文
10月14日周三
  1. RadarAI38

    AlphaGo Zero:David Silver 详解 AI 如何摆脱人类数据、用强化学习自主发现知识

    Ineffable Intelligence 联合创始人 David Silver 与 Lasse Espeholt 在 Sequoia Capital 播客 Training Data 中详解「超级学习器」路线:放弃人类数据与语言先验,用简单目标加复杂环境让 AI 自主发现知识。他们主张先在模拟中研究超级智能的安全与对齐,并预测一年内出现证据、三年实现超级智能。

  2. RadarAI22

    卡拉克第一定律与 LeCun 唱衰大语言模型

    推文提出"卡拉克第一定律":老权威说某事可能几乎肯定对,说不可能几乎肯定错,并以 Yann LeCun 多年否认大语言模型能实现真正智能为例。推文称在 LeCun 否认期间,语言模型已从预测下一个 token 发展到攻克 coding、解出大量人类解不出的数学难题。引用推文则质疑杨力坤、李飞飞等的大世界模型路径能否替代 LLM,认为语言即世界的抽象,语言模型就是世界模型。

  3. RadarAI22

    马斯克称分布式推理云是大事

    马斯克在 X 上回应摩根士丹利分析师 Adam Jonas 的 SpaceX 研报,称分布式推理云"确实是件大事"。Jonas 在报告中称分布式推理云是 SpaceX 故事中增长潜力最大、却被投资者 largely 忽视的部分,并预计随着物理智能体密度提升,移动集群的智能能力将递增,建议投资者准备好在未来一年听到更多相关讨论。

  4. AWS Machine Learning Blog60

    在 Amazon Bedrock 上用 Grok 4.7 构建长时程智能体

    AWS 团队在 Amazon Bedrock 上基于 Grok 4.7 构建工具调用智能体,在三个需要搜索而非查表验证的任务上跑了 72 次,答对 67 次,xhigh 档位 18 次全对。

    推荐理由:通过 72 次可复现的智能体运行,量化了 Grok 4.7 各推理档位在正确率与 token 成本间的取舍。

10月13日周二
  1. RadarAI39

    IBM Research 用开源模型与 llm-d 分布式推理降低 AI 芯片设计成本

    IBM Research 演示用开源前沿模型结合 llm-d 分布式推理构建 agent factory,对量子纠错解码算法 Relay-BP 做 HLS 硬件优化,在 100 个假设预算下实现约 52 倍加速、推理成本约 26 美元。同预算下全专有模型配置成本 299 美元、加速 204 倍,为开源配置的 11.5 倍。该结果表明大幅硬件优化可在更小推理预算下实现,并得到面积最小的设计。

  2. Apple Machine Learning Research60

    Apple 与约翰霍普金斯提出 SELFCOMPACT:让语言模型智能体自行压缩上下文

    Apple 与约翰霍普金斯大学研究者提出 SELFCOMPACT,让模型自己决定何时以及如何压缩上下文,由模型调用的压缩工具和一份轻量 rubric 两部分组成,无需微调或外部监督。

    推荐理由:论文提出让模型自行决定何时压缩上下文的脚手架,并给出六个基准、七个模型上的成本与效果对比。

  3. Apple Machine Learning Research38

    Minions:基于闲置 Apple Silicon 设备构建的动态分布式虚拟 GPU 云

    Apple 研究团队提出 Minions,一个将多台 macOS 设备上闲置的 Apple Silicon GPU 聚合起来、执行大规模机器学习推理的动态分布式虚拟 GPU 云。系统支持灵活的 GPU 推理任务执行、容错和高效资源利用,让团队无需额外采购 GPU 即可复用现有硬件。研究称,在集中式 GPU 资源受限的环境中,闲置 macOS 设备可转化为实用的分布式 GPU 推理平台。

  4. Hacker News38

    Quail 如何用 Trie 树执行 AI.CLASSIFY 分类

    Quail 是 AI-SQL 执行引擎,其 AI.CLASSIFY 算子支持三种实现:trie_decode 逐 token 贪心生成标签、trie_tree 一次请求为所有标签打分、letters 为每个标签打一个字母分。以 Qwen3-4B-fp8 为例,AI.CLASSIFY 接收文档与 2 至 255 个标签,始终返回其中一个标签,并可通过 probabilities 选项输出各标签概率。

  5. Hacker News15

    自适应学习运行时的观察保持门控与语义:Lean 4.19.0 验证 21 条新定理

    一篇匿名预印本为带优化器记忆、模型修订、请求队列和拒绝事件的自适应学习运行时给出集合值语义,并用 Lean 4.19.0 验证了 21 条新定理,同一步进与门控定义被编译进实时控制器。证据包括 45 项测试、124,064 次有界控制器对比、300 个生成事件和两个 NumPy/JAX 场景;编译器、JSON、Python 适配与数值内核仍属显式信任边界。

  6. vLLM Blog62

    vLLM 引入双向 KV 传输,多轮智能体负载 TTFT 最高降低 3.3 倍

    vLLM 新增双向 KV 传输能力,让 decode 节点把已计算的 KV 块回传给 prefill 节点,避免多轮对话中重复计算历史上下文。在 1P1D 部署、Amazon EC2 P5en 加 AWS EFA 的测试中,最长提示下 Qwen3-32B 的 TTFT 降低约 1.6 倍,zai-org/GLM-5-FP8 降低约 3.3 倍。

    推荐理由:原文给出双向 KV 传输的架构、可调参数与复现步骤,读者可据此评估多轮智能体场景下的 TTFT 收益。