跳到正文
10月11日周日
  1. GitHub38

    Clover Framework:Kimi K3 前向传播单机复现框架

    Clover Framework 开源了 clover-k3,将 Kimi K3 前向传播还原为数学表达式并在 Ryzen 9 7950X3D 单机上直接执行,在全部 34 个测试提示上输出与独立实现相同的首个 token,耗时 394.94 秒对 1344.23 秒,加速 3.40 倍。该模型参数量为 2.78 万亿,单独生成运行平均每 token 约 6 秒,但并非分布式系统或通用质量结果。

  2. RadarAI38

    田渊栋剖析递归自我改进:把重复研究交给 AI,人去找新方向

    田渊栋在 The Information Bottleneck 播客访谈中指出,递归自我改进的真正瓶颈在于「想不出好问题」:模型靠海量数据擅长重复工作,需靠新架构实现少数据高效学习,人类则转向更高层的提问与验证。他回顾了从 Dark Forest 到 Meta FAIR 的研究路径,并提到 2012 年 AlexNet 让他从计算机视觉非凸优化转向深度学习。

  3. Hacker News34

    如何用 Qwen3-1.7B 构建自己的决策模型

    用 Qwen/Qwen3-1.7B 通过约束解码把输出限制在 A-E 五个选项内,单次前向即可给出答案,在 CommonsenseQA 随机留出样本上准确率 725/1221(0.5938),微调后提升至 762/1221(0.6241)。但模型输出概率严重过度自信,0.9-1.0 置信区间准确率仅约 70%,作者用温度缩放拟合出 3.797 的温度值来校准。

  4. Hacker News44

    CAVEWOMAN:LLM 在语言输入与输出压缩下表现如何

    研究提出 Cavewoman 双通道评测协议,在 5 个数据集、5 种压缩级别下测试 8 个模型,同时衡量任务准确率、实际单条成本与参考文本一致性。输出压缩在多数 API 模型上把实际成本降至 1.4-2.4x(最佳 3x),四个开放权重模型在公开档定价下同样降本;输入压缩则相反,五基准均值成本升至约 1.15x,最差数据集 1.8x、更强压缩下 2.7x,且准确率下滑。

  5. Hacker News71

    Google DeepMind 用 LLM 智能体解决 9 个 Erdős 开放问题

    Google DeepMind 团队在 arXiv 发布论文,对用 LLM 生成 Lean 形式化证明来求解开放问题做了首次大规模评测。其最强智能体自主解决了 353 个 Erdős 开放问题中的 9 个,单题成本为几百美元,并证明了 492 个 OEIS 猜想中的 44 个,正被用于组合数学、优化、图论、代数几何和量子光学研究。

  6. Hacker News20

    Aleph Alpha 新模型 Kolibri 玩《Doom》

    Aleph Alpha 的 Kolibri-1 模型正在直播玩《Doom》,由 Tesseracted Labs 搭建共享游戏环境,每轮结束后轮换两张地图。模型只接收结构化游戏状态而非图像,通过四次仅基于概率的评估分别选择移动、瞄准、开火和交互,再由本地控制器执行动作。页面显示的是选项标签 logits 归一化后的分数,并非校准过的成功概率。

10月10日周六
  1. Hacker News38

    为什么推理扩展的终点是智能体集群:从上下文压缩到多智能体系统

    推理扩展受限于约 1M tokens 的上下文窗口,压缩(compaction)通过摘要交接工作来延长会话,但每次压缩都是对"什么以后有用"的赌注。子智能体(sub-agent)把摘要推迟到问题已知之后再写,主智能体上下文只增加任务和答案的几千 tokens,因而比压缩更能提升总上下文容量,代价是子智能体答完即忘、需重复读取。

  2. Hacker News62

    Vega 发布:冻结 Qwen3.5-0.8B 加 55MB 决策引擎,让粒子滚落山谷给出答案

    Vega 是一个决策模型,输入文本和答案类型固定的问题,返回标签、评分或陈述为真的概率,每个答案附带校准概率、可承诺答案集和拒答标记。它用冻结的 Qwen3.5-0.8B 读取一次提示词,池化出五个向量,在 64 维空间中给每个候选答案挖一个山谷,让粒子在梯度、动量和摩擦力下滚动十二步,落点即答案,落点方式决定温度,因此概率有实际含义。

  3. Hacker News36

    Jev 与模糊性的回归:TypeSafe AI 推出只输出概率与置信度的模型

    TypeSafe AI 推出模型 Jev(jev-1.13.0),不做对话,只输出严格类型化的结构化结果,包含 Choice、Score、Noul 三种原语,每项答案附带各选项概率与置信度。例如 Choice 会给出选中项及各项概率,Score 按有序等级计算概率加权均值,Noul 则返回 yes 的概率。该设计针对 AI 一味附和用户、过度肯定的问题。

  4. GitHub22

    Princeton Ouro-RLTT 分支循环 Transformer:评估器探针与分支选择研究

    针对 Princeton Ouro-RLTT 循环 Transformer,该项目定位了隐藏态读出与生成控制之间的边界:决策级使用可转化,校准弃权在四个密封实验组中改善风险—覆盖权衡,强制终选在全部候选合规的池上以 27/32 对 64.8% 期望值通过精确匹配随机零假设(p = 0.0086);生成式控制则未转化,方向引导为既定负结果,逐任务循环深度分配为密封零结果。

  5. Hacker News30

    我预计 AI 会快速进步,但不会走向通用超级智能

    作者认为,未来几年 AI 的快速进步主要来自基础设施与工程能力的加速,模型将能自动优化训练与推理效率,推理成本或近指数级下降,预训练架构与数据选择研究有望在 2-3 年内自动化。但这不会让模型本质发生剧变,即便在数学和编程之外未必获得有经济价值的超人能力,技术向经济的扩散仍将大幅受益。

  6. Hacker News74

    VibeSys 用多智能体在 4 块 MI300A 上构建 Qwen3.5-397B 服务引擎,吞吐达调优后 SGLang 的 2.33 倍

    华盛顿大学团队用多智能体系统 VibeSys 在 4 块 AMD MI300A 上为混合 MoE 模型 Qwen3.5-397B-A17B 构建服务引擎,105 小时内将基线 PyTorch 引擎的 goodput 从 12.8 tok/s 提升到 2,242 tok/s,是同一硬件上调优后 SGLang(961 tok/s)的 2.33 倍,全程无人类编写引擎代码。

  7. RadarAI35

    清华 TokenRouter:token 级 LLM 路由服务系统,吞吐量最高提升 64.15 倍

    清华论文提出 TokenRouter,一个在 token 级进行大小模型路由的服务系统,吞吐量最高达现有方案的 64.15 倍。针对 vLLM、SGLang 等框架一次请求只跑一个模型、双模型协作时每步都等慢模型的问题,TokenRouter 让每个模型独立部署并来回传递半成品答案,同时保留 KV cache,并短暂挂起请求以凑更大批次。

  8. RadarAI40

    Nathan Lambert:AI 将快速进步,但不会走向通用超级智能

    Nathan Lambert 认为 AI 将在基础设施与工程能力上快速进步,未来几年模型会成为超人的分布式 GPU 工程师,但这不会让模型本质发生巨变,也不指向通用超级智能。他指出推理效率提升已带来 10-30% 成本下降,模型智能的有效成本未来几年或近指数级下降,预训练研究(架构与数据选择)有望在 2-3 年内自动化。

  9. Hacker News22

    DIRU:受树突启发的循环单元,用于学习混沌动力学

    研究者提出树突启发循环单元(DIRU),在每个循环单元内集成多个计算隔室,用可学习门控让各树突分支选择性地放大或衰减输入,并通过全局调制信号以乘性缩放调整神经元增益。该设计还引入残差循环连接以改善梯度传播,将循环单元变为具备自适应门控、上下文相关增益调制和分层特征处理的结构化非线性动力系统,目标是应对混沌系统中对初始条件敏感、长期预测不稳定的难题。