跳到正文

技术方向

推理能力 最新动态

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

29 条精选近 30 天 28 条共收录 1,925 条

更新

推理能力的精选

10月16日周五第 1–20 条
  1. RadarAI78

    Reflection 发布首个开源权重模型 Beam,501B 参数 MoE 采用 Apache 2.0 协议

    Reflection 发布首个开源权重模型 Beam,权重已在 Hugging Face 以 Apache 2.0 协议放出。Beam 为稀疏 MoE 模型,总参数 501B、激活 23B,面向编码、推理和长程智能体任务。该模型提供 BF16、FP8、NVFP4 精度权重和投机解码 drafter 模型。

    推荐理由:Reflection 首次开源 501B 稀疏 MoE 权重,可据此了解其面向编码与长程智能体的参数配置和精度选项。

  2. Microsoft Research62

    微软研究院发布 Magnetar:基于标准哈希函数的通用零知识证明系统

    微软研究院发布零知识虚拟机 Magnetar,可证明 Rust、Go、C 编译后的 RISC-V 程序执行,在 15 个基准程序上平均比现有最快的 zkVM 快 10 到 39 倍,证明验证约 12 毫秒。

    推荐理由:微软研究院公开 Magnetar 的设计与基准数据,可了解零知识证明在通用程序上的效率与密码学取舍。

  3. Apple Machine Learning Research66

    Apple 用 MLX 与 RDMA 在 Mac Studio 上实现本地及分布式大模型推理

    Apple 发布 MLX 新版本,展示在 Mac Studio 上本地运行前沿大模型:四台 M5 Ultra 组成的集群运行 816B 参数的 Muse Spark Open 时生成速度超过 36 tokens/s,单机 M5 Ultra 相比 M3 Ultra 的 TTFT 最高快 4.6 倍、生成速度提升 1.6 倍。

    推荐理由:Apple 官方给出 MLX 在 Mac Studio 集群上跑近万亿参数模型的实测数据,可据此判断本地大模型推理的可行边界。

  4. Hacker News80

    研究称神经网络本身是干净的,叠加假说被误读

    作者在数月研究图像与语言模型的神经元和回路后提出,网络自身机制就是可读的构建单元,此前被视为多义性和叠加的经典证据被误读,实际多为一种递归泛化现象。作者称重新训练 InceptionV1 架构后,其最后一层 99-100% 的神经元易于解释,而初步审计 Qwen3-32B 时约 90% 的神经元极点只有一个主要功能。

    推荐理由:作者以第一手实验重审多义神经元与叠加假说,给出递归泛化这一替代解释,可供理解可解释性研究走向。

  5. The Decoder80

    GPT-6-Astra 在 TheoPhysEval 上解出 50 道物理研究题中的 49 道,单题约 2.40 美元

    一项新基准测试让商用 AI 智能体在无人类提示下求解理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 解出 50 题中的 49 题(98%),平均每题成本不到 3 美元,整套基准约 116 美元。

    推荐理由:读者可看到前沿模型在理论物理论文级计算上的实际得分、成本与失败模式,以及作者对科研训练与资源门槛的影响判断。

10月14日周三
  1. AWS Machine Learning Blog60

    在 Amazon Bedrock 上用 Grok 4.7 构建长时程智能体

    AWS 团队在 Amazon Bedrock 上基于 Grok 4.7 构建工具调用智能体,在三个需要搜索而非查表验证的任务上跑了 72 次,答对 67 次,xhigh 档位 18 次全对。

    推荐理由:通过 72 次可复现的智能体运行,量化了 Grok 4.7 各推理档位在正确率与 token 成本间的取舍。

10月13日周二
  1. Apple Machine Learning Research60

    Apple 与约翰霍普金斯提出 SELFCOMPACT:让语言模型智能体自行压缩上下文

    Apple 与约翰霍普金斯大学研究者提出 SELFCOMPACT,让模型自己决定何时以及如何压缩上下文,由模型调用的压缩工具和一份轻量 rubric 两部分组成,无需微调或外部监督。

    推荐理由:论文提出让模型自行决定何时压缩上下文的脚手架,并给出六个基准、七个模型上的成本与效果对比。

  2. vLLM Blog62

    vLLM 引入双向 KV 传输,多轮智能体负载 TTFT 最高降低 3.3 倍

    vLLM 新增双向 KV 传输能力,让 decode 节点把已计算的 KV 块回传给 prefill 节点,避免多轮对话中重复计算历史上下文。在 1P1D 部署、Amazon EC2 P5en 加 AWS EFA 的测试中,最长提示下 Qwen3-32B 的 TTFT 降低约 1.6 倍,zai-org/GLM-5-FP8 降低约 3.3 倍。

    推荐理由:原文给出双向 KV 传输的架构、可调参数与复现步骤,读者可据此评估多轮智能体场景下的 TTFT 收益。

10月12日周一
  1. The Decoder84

    Google DeepMind 的 AlphaProof Nexus 解决数十个开放数学问题并经过同行评审

    Google DeepMind 的 AlphaProof Nexus 在《Science》新研究中独立解决了数十个开放数学问题,包括 353 个 Erdős 问题中的 9 个,其中两个已悬置 56 年。

    推荐理由:读者可了解 AlphaProof Nexus 在 Erdős 问题与 OEIS 猜想上的具体成绩,以及它经同行评审的路径与 OpenAI 做法的对比。

10月9日周五
10月8日周四
  1. The Decoder80

    Anthropic 发布 Claude Haiku 5.5,价格最高下调 90%

    Anthropic 发布 Claude Haiku 5.5,这是其目前最快、最便宜的小模型,平均价格比 Haiku 4.5 低约 75%,对 10 万 token 以内的提示词降价最高达 90%,超过 10 万 token 的提示词价格则是前者的五倍。

    推荐理由:原文列出 Haiku 5.5 与 Haiku 4.5、GPT-6 Luna、Sonnet 5.5 的分项基准和逐项价格,可据此判断小模型在成本敏感任务上的位置。

  2. 科技媒体 RSS79

    Anthropic 发布 Claude Haiku 5.5,10 万 token 以内价格比 Haiku 4.5 便宜 10 倍

    Anthropic 发布 Claude Haiku 5.5,称其为最便宜、最快且能力最强的小模型。10 万 token 以内价格比 Haiku 4.5 便宜 10 倍,平均运行成本低约 75%,可在 computer use、workflows 和 API 中使用。

    推荐理由:Anthropic 小模型换代,价格与运行成本的具体降幅可帮助读者判断低成本场景的替换时机。