跳到正文
Latent Space· Latent.Space·· 15 天前AI 评分70

AINews 汇总:GPT-6.1 Sol 与 Sonnet 5.5 发布,Anthropic 占据 Agent Arena 前三

[AINews] not much happened today

AI 导读

Latent Space 的 AINews 汇总了 10 月 1 日至 2 日的 AI 动态,OpenAI 发布 GPT-6.1 Sol,定价为每百万输入/输出 token 2 美元和 10 美元,据称在 DeepSWE v1.1 上比 GPT-6 Sol 高 6.4 分,在 AutomationBench 上比 Opus 5.5 高 2.2 分。

正文 · AI 翻译

如果你还能看到这条消息,那你大概就该直接去享受周末了。

2026/10/1-2026/10/2 的 AI 新闻。我们检查了 12 个 subreddit、544 个 Twitter,没有进一步查看 Discord。AINews 的网站让你可以搜索所有过往期刊。提醒一下,AINews 现在是 Latent Space 的一个栏目。你可以选择接收/不接收不同频率的邮件!


AI Twitter 回顾

GPT-6.1 Sol 与 Sonnet 5.5 重塑成本—性能前沿

  • GPT-6.1 Sol 发布:OpenAI 将 Sol 定价为每百万输入/输出 token 2 美元/10 美元,而 Astra 为 10 美元/50 美元(定价摘要)。

    • 宣称的结果:据报道,它在 DeepSWE v1.1 上比 GPT-6 Sol 高 6.4 分,在 AutomationBench 上比 Opus 5.5 高 2.2 分(摘要)。

    • 定位:OpenAI 员工称其“好、便宜且快”(@reach_vb)。

    • Codex 使用:全球 Codex 使用量重置定于太平洋时间 10 月 2 日上午 10 点(@reach_vb)。

    • 工具使用:据报道,Sol“非常喜欢 codemode”,这与 GPT 模型基于它训练一致(@badlogicgames,codemode 说明)。

  • Agent Arena 排名:Sol [Max] 以第 5 名(+11.23%)进入,每任务中位成本为 0.56 美元(@arena)。

    • Sol 成本对比:这比 GPT-6 Sol 便宜 39%,同时得分高 1.52 分。它比 Astra 便宜 81%,同时得分差距在 1.04 分以内。

    • Sonnet 5.5:Sonnet 5.5 [Max] 以第 3 名(+12.5%)首次亮相,并在 Chat 类别中排名第 1。它每任务成本为 2.74 美元,而第 2 名 Opus 5.5 为 1.58 美元,这使其未能进入帕累托前沿(首次亮相,前沿)。

    • Anthropic 的处境:Anthropic 模型现在占据 Agent Arena 前三名。

  • 代码与文本 Arena:Sol 曾短暂进入 WebDev 第 3 名,随后被 Sonnet 5.5 挤到第 4 名(每周回顾)。

    • Sonnet 在 WebDev 上:Sonnet 现在落后 GPT-6 Astra [Max] 2 分,成本低 80%。

    • Gemini 4 Argon:Argon [High] 在 Text Arena 中夺得第 1 名。

    • 开放模型:MiMo-V2.6-Pro 和 Flash 在开放模型中分别以第 5 名和第 9 名进入 Agent Arena。

  • 其他独立评估:WeirdML v3 发现 Sol 非常节省 token,接近 Astra 但峰值更低。在同一基准上,Sonnet 5.5 击败 Opus 5,Grok 4.7 击败 Kimi-K3;这些结果尚不完整(@htihle)。

    • 推理风格:Design Arena 阅读了 324 份思考摘要。它发现 Astra 的对冲频率约为 Opus 5.5 的 20 倍,而 Opus 在约 5 份摘要中有 4 份会早早做出承诺(@DesignArena)。

    • Step 5 预览:StepFun 的模型在 Vals 的开放权重模型中排名第 7,每任务成本 2.54 美元。它平均每任务耗时近两小时,并拥有 1M token 上下文窗口(Vals,详情)。

  • 传闻(未经证实):

    • Fable 5.5:有传闻称 Claude Fable 5.5 将于下周推出,并据说会胜过因安全顾虑而被推迟的“Astra 6.1”。发帖者表示他无法证实这两种说法(@kimmonismus,后续)。

    • GPT-6 Astra Lite:有人发现了一个“GPT-6 Astra Lite”的列表,@scaling01 推测它与 Sol 是同一模型(@scaling01)。

  • 决策模型与开放权重:llama.cpp 新增了一个 /v1/systemone 端点,用于本地“Jev 风格”决策模型推理(@ggerganov)。

    • 本地运行:模型通过 llama serve -hf ggml-org/Kev-4B-GGUF 启动(@ClementDelangue)。Jared Palmer 发布了一篇关于 Kev 1.0 如何工作的文章(文章)。

    • 生态系统:Perplexity 声称 pplx-decider-v1-27b 在 11 项基准测试中平均达到 85.7%,领先于 Jev(@AravSrinivas)。Clef 决策模型现已上线 Ollama(@lucataco)。

    • 质疑观点:@mervenoyann 称决策模型是零样本分类器的改头换面(推文)。

    • 校准分析:一篇博客文章将 Jev 风格的校准与价值和 Q 函数预测联系起来(@SOURADIPCHAKR18)。

    • webAI TwIL-LM3-Pro:这个 3.66B 模型基于 Granite 4.2 进行后训练。在 webAI 的测试中,它在形式逻辑方面大致与 Qwen3-8B 相当。Q4 GGUF 为 2.09 GiB,许可证为非商业性(@kimmonismus)。

    • Reka RIDM:Reka 在 Apache 2.0 下发布了一个逆动力学模型。它在游戏上训练,可泛化到真实视频,并能提取运动和相机动作(@RekaAILabs)。

智能体框架、助手与开发者工具

  • OpenAI dots:Sam Altman 称 dot 是他最喜欢的 OpenAI 产品,并表示随着它学习他的工作流程,它每天都在改进(@sama)。

    • 能力:Dot 可跨应用保持上下文,协调 Codex 任务,并标记需要注意的事项(@OpenAIDevs)。

    • 对比:一位用户更喜欢 Grokbot 的多智能体“幕僚长”设置(@kimmonismus)。一个 DIY 克隆版使用 Pi、Telegram 网关和任意模型(@_alejandroao)。

  • Muse Gadgets:Meta 开源了 ESP32 固件和 Linux SDK,用于构建可与 Muse 配合使用的硬件(@natfriedman)。

    • Muse Home Link:Meta 生产了 5,000 台自有智能家居桥接设备,在售完之前向订阅者免费提供(@alexandr_wang,发货)。

  • 可扩展框架:DeepSeek Harness 发布了 macOS 和 Windows 桌面版;Linux 用户可从 npm 安装 @deepseek-ai/dsh(@deepseek_ai)。

    • Claude Code 模组:模组是插件,具有类似中间件的钩子接入 Claude Code(@lydiahallie)。新的“You should know”插件会派生一个侧边智能体,标记用户可能错过的重要输出(@ClaudeDevs)。

    • Pi Durable:Pi 现在通过 agents SDK v0.26.0 在 Cloudflare Durable Objects 上运行,同时 Pi 发布了 v1.0 版本(@mattzcarey,@badlogicgames)。

    • 背景:@omarsar0 将这些发布视为向可塑框架转变的趋势(讨论串)。

  • T3 Code 编排器重写:该项目用户数突破 40 万(@theo)。其历时 4 个月的 PR,涵盖 1,912 个文件、823 次提交,现已合并(@maria_rcks)。

    • 新功能:此次重写新增了 Pi 支持、跨提供商 delegate_task、ACP 注册表、线程分叉、线程中途切换模型、子智能体谱系视图和计划任务(功能列表)。

  • 平台更新:OpenAI 的 Agents API 新增了单次调用浏览器计算机使用、Bedrock Managed Agents 和可移植环境。它还声称实现了 99.97% 的轮次可靠性,工具调用速度提升 20%(@stevendcoffey)。

    • Cursor Rollouts:当 Rollouts 捕获到回归时,它会找到有问题的 PR,打开一个 issue,并提供一键式云代理修复(@cursor_ai)。

    • Cloudflare:Sandbox SDK 1.0 让 Durable Objects 可以直接控制沙箱容器(@CFchangelog)。Cloudflare 还推出了请求 Traces(@WalshyDev)。

研究:智能体训练、长时程控制与数学 AI

  • 多框架 RL(Hugging Face):同一组模型权重在一个框架中得分 62%,在另一个框架中得分 33%(@huggingface)。

    • 方法:一个代理支持 OpenAI、Anthropic 和 Gemini API 格式,并记录采样 token ID 和 logprobs 用于训练,无需对框架本身做任何修改。

    • 结果:LFM2.5-2.6B 在四个框架上从 42% 提升到 54%,工具调用次数减少了 31%。在 3,189 条 Qwen3.8-27B rollout 上做 SFT 后,效果停滞在 47.5%。

    • 发布:训练器、数据以及全部七个训练好的模型均已开源。

  • 信用分配与 RL 效率:ProVer 让一个评判器定位决定性的轨迹片段,然后利用该片段两侧的 rollout 来设定该片段的优势值。它报告称相对 GRPO 分别取得 +9.91%(Qwen3.5-2B)和 +7.12%(Qwen3.5-4B)的相对提升(@omarsar0)。

    • 部分 rollout:AC2 使用一个学习到的评判器对 token 块进行评分,因此训练只需要部分 rollout(@wen_kaiyue)。

    • 前沿学习:该方法针对处于能力边缘的问题,因为模型总是能解决或永远无法解决的问题不会给 GRPO 带来任何梯度(@robinfaro13)。

    • 锐化税:该论文量化了后训练之后 pass@K 可扩展性的损失,并提出了 PTGS,一种按提示词的温度采样器(@iScienceLuvr)。

    • SFT 与 RL:另一篇论文发现 SFT 泛化更差是因为其数据是离策略的,而不是因为目标函数。用基础模型的风格重写专家轨迹可以弥合这一差距(@maximelabonne)。

  • 长时程控制与上下文:Meta Superintelligence Labs 报告称,一个专用控制器在相同 worker 和预算下,将 GPT-5.5 在 ProgramBench 上的成绩从 63.7% 提升到 71.5%,而 Codex 为 58.0%(@dair_ai)。

    • 上下文压缩:微软的免训练 FOCUS 将峰值上下文最多减少 48%,并将任务成功率最多提升 8.9 个百分点(@dair_ai)。

    • 长上下文退化:NVIDIA 的 Long-Transduction 研究在七个开源模型上测得,从 4K 到 128K 上下文时准确率下降 62.8%(@dair_ai)。

    • 多智能体协调:在 AgentWorld 中,不到三分之一的多智能体动作有助于完成任务,而协调任务的成功率仅为 12%(@omarsar0)。

    • Apple LoopCD:该方法将循环次数减半,同时将 AIME 2024 pass@1 从 61.88% 提升到 73.33%(@arankomatsuzaki)。

  • AI 攻克开放数学问题:Meta 发布了六篇关于开放问题的论文,这些论文是通过普通的 meta.ai 聊天使用 Muse Spark 1.1 和 1.2 生成的,没有使用自定义脚手架(@AIatMeta,列表)。

    • 流程:每篇论文都标注了哪些段落主要由人类还是 AI 起草,并由第二组数学家对工作进行评审。

    • Google Cogentic:这个 Gemini 多智能体系统在五个开放理论问题上产生了新结果(@omarsar0)。

    • Cogentic 设计:每份草稿必须通过两个对抗性验证器,智能体共享一个已验证引理的账本。大多数问题大约需要 100 次调用;最难的大约需要 1,000 次。

  • 图像后训练:Arena 将 Bradley-Terry 奖励模型与忠实度、约束和反奖励黑客奖励相结合(@arena)。

    • 结果:FLUX.2-dev 提升了 69 Elo 至 1202,Ideogram 4 提升了 20 Elo 至 1224。

基准、评估完整性与安全

  • 研究品味基准:ScholarCatalyst 要求智能体找出研究项目背后的“催化剂论文”。它由 184 位主要作者在其自己的 207 个项目上标注,并被描述为远未饱和(@yoonholeee)。

    • EurekaBench:这个基准测试智能体能否在六个科学领域中发现真正的新见解(@JiayiiGeng)。

  • Vals 网络搜索指数:该指数保持模型和测试框架不变,仅更换搜索工具,并对金融和法律任务的最终答案进行评分(@ValsAI)。

    • 验证:智能体在没有搜索的情况下得分为 2.9%(法律)和 7.4%(金融),而有搜索时为 30–50%。Vals 还引用了一项研究,其中模型在没有搜索的情况下回答了 BrowseComp 的 44.5%(详情)。

  • SWE 缺陷查找基准:在这个新基准中,智能体从较旧的提交开始,并根据后续提交中修复的真实缺陷进行评分。

    • 批评:Lucas Beyer 认为它主要测试的是记忆,而且这种构造很容易被针对性训练(@giffmana)。

    • 作者回应:作者表示,只要排除测试集,针对缺陷查找进行训练是可以的(@OfirPress)。

  • 评估完整性问题:David Rein 询问 Terminal Bench 背后的框架 Harbor 是否允许智能体在评估前修改其轨迹。他指出自己可能误读了代码(@idavidrein)。

  • 开放模型的攻击能力:The Batch 报道称,GLM-5.3 在利用漏洞方面几乎与 Claude Mythos 持平,分别为 12% 和 14%(@DeepLearningAI)。

    • 有争议的说法:一位评论者称 GLM-5.3 Flash 在 ExploitBench 上超过了 Mythos Preview(@teortaxesTex)。

    • 未审查变体:一个未审查的 GLM-5.3 正在 Hugging Face 上流传(@kimmonismus)。

  • 安全研究与保障措施:一篇新论文提出在训练期间使用内部信号来改善对齐,同时不降低白盒监控能力(@lenalibon)。

    • NeurIPS 接收:“知道评估如何设计的模型得分更安全”被 NeurIPS 2026 接收(@HaritzPuerto)。

    • 误报:Opus 5.5 在频谱图音节标注过程中频繁触发“推理提取”防护机制(@ChaseBrowe32432)。

  • 涌现的世界知识:向模型询问 16,200 个经纬度坐标的“陆地还是水域?”并绘制答案,可得到一幅可识别的世界地图(@karpathy)。

推理、硬件与系统

  • 通过 DeepSeek 内核看 Ascend 950:对 DeepSeek 开源的 DeepGEMM、FlashMLA、TileKernels 和 DeepEP 的分析推断出该芯片的布局(@ZhihuFrontier)。

    • 预估规格:该芯片拥有 32 个 AI 核心,每个核心将一个 Cube 核心与两个 Vector 核心配对。预估峰值在 BF16/FP8/FP4 下约为 432/865/1,730 TFLOPS。

    • 产能:尽管有说法称 950 已于 8 月开售,但供应可能有限(@teortaxesTex)。

  • Prime Inference:Prime Intellect 将 MLA 潜变量以 NVFP4 存储,将行从 576 字节缩小至 352 字节,比 FP8 多容纳约 50% 的缓存 token(@PrimeIntellect)。

    • 技术栈:它在 vLLM 和 Dynamo 上服务 GLM-5.3,稀疏 MLA 内核将进入 FlashInfer(@vllm_project)。

  • 低精度基准测试:Stas Bekman 测得 NVFP4 在 B200 上比 MXFP4 效率高约 9%,且精度更高(@StasBekman)。

    • mamf-finder:该工具现已支持对 FP8、MXFP8、MXFP4 和 NVFP4 进行基准测试(更新)。

  • 内存与速度:NVHBM 将内存控制器移入定制基础裸片,声称带宽比 HBM4E 高最多 30%,功耗低 15%(@vikramskr)。

    • 有争议的经济性:美光称 NVHBM 将改善其利润率;@vikramskr 对此提出异议(反驳观点)。

    • Volantis:这家初创公司利用光学技术,目标是在超过 10T 参数的模型上为每位用户提供最高 10K tokens/s 的速度(@omarsar0)。

    • Cerebras:Altman 称 Cerebras 是速度方面的紧密合作伙伴(@sama)。

  • 产能经济学(Epoch):Epoch 估计 AI 基础设施可能很快就能支持数亿到数十亿个智能体(@EpochAIResearch)。

    • 需求缺口:仅 20% 的利用率就意味着 2.6–5.3 万亿美元的年度支出,而到 2027 年底实验室收入约为 1 万亿美元(详情)。

  • 平台:SemiAnalysis 将谷歌的 GPU 集群评为金牌级别,并指出 ConnectX NCCL 插件现已自动激活(@SemiAnalysis_)。

    • 联邦学习:Google Research 推出了基于 TEE 的联邦学习,并具备可验证的差分隐私(@GoogleResearch)。

行业与政策

  • Anthropic 与梵蒂冈:据《纽约时报》报道,Chris Olah 提出退出教皇 AI 通谕发布会,该通谕文本拒绝机器意识(@ChristopherHale)。

    • 游说:据报道,Olah 的团队游说教皇的顾问认真对待模型意识。他最终出席了(@kimmonismus)。

    • 背景:文章开篇引用 Olah 的话:“我们不知道 AI 模型是否有意识”(@buccocapital)。

    • 批评:Aidan Gomez 批评该活动是道德傲慢(@aidangomez)。Lucas Beyer 指出一份文字记录中的措辞从“create”改成了“train”(@giffmana)。

  • 反安全影响活动:一份报告描述了一个计划至少花费 1 亿美元、由一位前白宫副幕僚长运营的团体,该团体将 AI 警告描述为一场有组织的活动(@NeelNanda5)。

  • 新组织:Nathan Lambert 和 Tom Zick 创立了 Trillium Labs,这是一个致力于开放后训练配方和基础设施的非营利组织(@natolambert)。

    • 资金:初始支持来自 Halcyon Futures 和 Schmidt Sciences。

    • 黑马:这家私有的端侧 AI 初创公司宣布获得 a16z、Khosla 等机构的支持(@0xSigil)。

  • 治理与市场:Yoshua Bengio 加入了加拿大新成立的国家 AI 委员会(@Yoshua_Bengio)。

    • Meta:Meta 已与 Virtue AI 分道扬镳(@AndrewCurran_)。

    • Nvidia:彭博社报道,在增加 1500 亿美元回购后,其市值创下近 5.7 万亿美元的历史新高(@kimmonismus)。

热门推文(按互动量)


AI Reddit 回顾

/r/LocalLlama + /r/localLLM 回顾

1. Qwen 本地推理:27B 基准测试、微调与 MTP

  • 我把我的 iPhone 变成了 24 GB MacBook 的第二块 GPU:Qwen 3.8 27B 预填充速度提升 29–44%,并且我的手机承载部分 CTX 窗口。(活动量:1192):OP 构建了 backburner,一个 llama.cpp fork / 分布式推理设置,它将 Qwen 3.8 27B IQ4_XS 的一部分从 24 GB M4 Pro MacBook 卸载到 iPhone 17 Pro Max,通过 10 Gb/s USB-C:Mac 运行层 1–40,流式传输激活值,手机使用 Metal 4 张量运算运行层 41–64。报告称,与仅用 Mac 相比,端到端预填充提升为:+35% 在 8k,+44% 在 16k,+29% 在 32k,以及 +30% 在 48k;一次冷启动 27k 会话从 245 s 原版 llama.cpp / 228 s fork 仅用 Mac 提升到 168 s(使用手机)。在超过 64k 上下文时,手机转而托管旧的 KV 页——最多约 5.7 GB,从而实现 196k–229k 8 位上下文分配——并计算旧键注意力,在添加 Neural Engine 编译的 16k 键页后,一次 140k 上下文测试将生成延迟从 279 ms/token 改善到 176 ms/token。

    • 一个技术上相关的追问是,同样的“iPhone 作为副 GPU”方案能否扩展到 iPad,尤其是配备更强 Apple Silicon 和可能更大内存的高端 iPad Pro 配置。其含义是,iPad 可能比 iPhone 提供更好的卸载性能,或能承载更大比例的上下文窗口,从而成为本地 LLM 推理更强的配套设备。

  • Qwen3.8-27B-Humanlike-Chat 2.0:像人一样发短信,现在支持工具调用和更好的指令遵循(活动:805):LessThanThreeAI 发布了 Qwen3.8-27B-Humanlike-Chat 2.0,这是在 huihui-ai 的 abliterated Qwen3.8-27B 上合并的 LoRA,以 GGUF/BF16/LoRA 形式在 Hugging Face 上提供,并附有 demo Space。v2 用 on-policy distillation 取代了普通 SFT:学生模型生成回复,同时两个教师模型对 token 打分——v1 + 隐藏的“像人一样发短信”指令用于聊天/角色行为,基础模型用于指令遵循、工具和代码——在保留非正式短信风格的同时改进了工具使用和可控性。与 abliterated 基础模型相比的报告评估:IFBench 37.3 → 43.7,When2Call 48 → 58,BFCL 无关性 60 → 78,在 IFEval/GSM8K/BFCL simple 上持平或略有提升(83.5 / 89.1 / 98),但在 MMLU-Pro(78.5 → 72.5)和 LiveCodeBench(56 → 51)上出现退步;一个自定义的“ishuman”评判基准将其评为人类撰写 23.5%,而 abliterated 基础模型为 0.3%,官方 Qwen3.8-27B 为 15.1%。置顶评论中的技术讨论很少;唯一相关的批评是,该模型的“类人”语域可能读起来更像青少年发短信,而非广泛的人类对话。

    • 一位评论者提出了模型迁移问题:用于 Qwen3.8-27B-Humanlike-Chat 2.0 的同类类人聊天微调/对齐方法,是否会在 Gemma 4 31B 上产生类似结果。这是唯一具有技术实质的讨论串,涉及训练配方的跨架构泛化,以及行为风格调优是否会延续到更大的 Gemma 系列模型上。

  • 差距比他们告诉你的要小:本地 27B 在真实代码测试中几乎追平前沿模型(活跃度:730):OP 报告了一次单任务 DeepSWE/本地代码基准测试,使用 Qwen3.8-27B GGUF,通过 llama.cpp b11115 + llama-swap v257 在 1× RTX 4090 24GB 上运行,具体为 Qwen3.8-27B-UD-IQ4_XS.gguf(14.25GB),来自 unsloth/Qwen3.8-27B-GGUF,配置为 ctx-size 196608、IQ4_XS、q8_0 K/V 缓存、投机式 MTP 草稿,以及 DeepSeek 风格推理预算 4096。实测结果:115 tok/s 解码、22,934 MiB 峰值显存、12/12 在一个代码审查任务上,以及在一个 DeepSWE 任务上 40/43 隐藏测试加 109/109 现有测试,即部分 0.980 但二元通过 0;OP 后来更正了对比:所引用的 96.6% 是所有已发布试验的平均部分得分,而该任务的前沿子集为 99.8% 部分得分和 85.3% 通过,来自 DeepSWE v1.1 原始数据。链接的文章涵盖了 24GB 适配/上下文设置(上下文上限)和任务级 DeepSWE 结果(本地置信度);OP 强调这是任务特定的,并非声称 27B 本地模型在 113 任务基准上广泛匹配前沿模型。评论者对这种更宽泛的表述持怀疑态度:一位同时拥有“Flash 和 27B”的用户表示“差距是真实存在的”,另一位则认为结论错误,因为即便是前沿编码模型也表现不均,而 ~24–72B 模型或许能处理离散子任务,但一旦人类必须将更大的工程工作分解为模型规模的任务,其价值往往就会丧失。

    • 几位评论者认为,所声称的接近持平很可能是基准饱和的产物:一个本地 27B 模型,即便在 Q8 下,也能在小型/离散编码任务上表现良好,但在需要 Claude Opus 等前沿模型的更难现实任务上仍然失败。

    • 一个反复出现的技术异议是,编码评估往往低估了项目级分解:24B–72B 本地模型或许能解决孤立的工单,但对于更大的工作项,将问题拆解为模型规模子任务所需的人力可能超过生产力收益。

    • 有实际运行 Gemini Flash 和本地 27B 模型经验的用户报告称,性能差距仍然很大,尤其是在非平凡的编码工作负载上,前沿模型能提供更好的可靠性和任务完成度。

  • Qwen4Exp:由 am17an 添加 MTP · Pull Request #29761 · ggml-org/llama.cpp(活动:405):llama.cpp PR #29761 通过 --spec-type draft-mtp 为 Qwen3.8-Flash Next 添加了 MTP 投机解码支持,经过约 aman/qwen4-opt 的开发后合并到 17h 分支。报告的 Qwen3.8-Flash-Next 在 DGX Spark 上的基准测试 iq4_xs 配合 -np 1 -lzm on --spec-draft-n-max 3 显示解码吞吐量从 28.36 提升到 43.88 tok/s(1.55×),延迟加速 1.54×,在 24 个任务上的平均投机接受率为 0.640;GGUF 量化版本可在 Hugging Face 上获取。 评论者指出,该模型对许多本地配置来说仍然大得不切实际:IQ4_NL GGUF 被拆分为一个很小的 10.9 MB 分片加上一个 102 GB 分片,削弱了从 Qwen 3.8 27B 随意切换过来的想法。一位评论者还指出 Gufo 支持 MTP。

    • 一位评论者报告称,在他们的测试中启用 MTP 反而使推理更慢,认为它可能对稠密模型比对整体架构非常大的模型更有用,因为后者的 MTP 头接受率/命中率较低。他们的假设是,MTP 头无法有效预测/压缩较大模型的足够行为,从而降低了投机解码的收益。

    • 一位用户指出 Gufo 已经支持 MTP,暗示 llama.cpp 正在追赶现有的、支持 MTP 的工具/后端,以适配 Qwen 风格的实验性模型。

    • 另一位评论者表示,他们一直通过 tabbyapi 使用 EXL3 版本,因为 llama.cpp GGUF 推理在他们的工作负载下“慢得多得多”。他们计划在此 PR 后重新测试,但此前的经验表明,对于 Qwen4Exp/MTP 支持,EXL3/tabbyapi 可能仍是一个可供对比的性能基线。

2. 本地智能体工具:决策模型与 MCP

  • Pi 1.0 发布 - 现已默认包含 MCP 支持(活动:679):Earendil 发布了 Pi 1.0,这是其极简智能体框架的稳定版本,Codemode 现在默认包含原生 MCP 支持,外加非 LLM/图像模型支持、虚拟模型扩展、延迟工具加载、Anthropic 缓存预热、对话中途系统消息以及 TUI 更新。该版本还引入了实验性的 MIT 许可 Pi Durable,用于超越终端/编码智能体工作流的长时间运行的智能体应用,同时保留了 Pi 的极简/可扩展架构。 热门评论集中在命名歧义上——“pi” 与许多 AI/开发工具冲突——并要求澄清 Codemode 是什么。一位评论者链接了 Earendil 支持 MCP 的理由:“你说过不要 MCP”。

    • 一位评论者链接了维护者在 Pi 1.0 中逆转 MCP 支持立场的理由,指向帖子 “你说过不要 MCP”。该讨论指出,MCP 现在原生/默认包含在内,此前创建者基于项目理念曾表示抵制,而用户将其描述为工具/服务器集成工作流的“关键补充”。

  • Clef:Cloudflare 的开放权重决策模型(活动:619):Cloudflare 发布了 Clef,一个面向本地/自托管使用的开放权重“决策模型”。一位高赞评论者指出,Clef 是基于 Qwen3.8-27B 后训练得到的,同时还发布了 clef-flash,基于 Qwen3.5-9B 后训练得到。主要的实质性反应是正面的:评论者认为 Clef 填补了本地模型生态的空白,并迫不及待地想亲自对其进行基准测试。

    • 评论者指出,Cloudflare Clef 是基于 Qwen3.8-27B 后训练得到的,另有一个更小的 clef-flash 变体基于 Qwen3.5-9B 后训练得到,并将其定位为面向本地推理用例的、可能很重要的开放权重“决策模型”。

    • 提出的一个技术担忧是 Clef 的质量在量化后能否保持,尤其是在低于 Q8 的情况下,因为本地部署很可能依赖低位量化变体,而决策模型的行为在激进压缩下可能会出现非线性退化。

    • 基准测试讨论集中在与 Laya、Kev 9B 和 DiffusionGemma Jev 等模型的比较上,但一位评论者批评评估集太弱,认为 Clef 应该与 jevbench 上的领先模型比较,而不是与较弱的开放 Jev 基线比较。

  • llama.cpp 新功能:决策模型(活动:574):该帖宣布 llama.cpp 支持决策模型:本地“类 Jev/Jeff”模型,旨在更像控制器/分类器——在动作、续写或行为选择中进行选择——而不是纯粹的自由形式生成器。所提供的评论中没有讨论基准测试数字或底层实现细节;提出的主要具体用例是引导本地角色扮演模型,避免角色“在场景中途失控。”评论者对 Jev 作为一个站得住脚的产品/品类持怀疑态度,认为这个想法“没有护城河”,并迅速被克隆成许多类 Jev 模型。其他人表示,除了可能的智能体/角色扮演控制之外,他们仍然不知道这些模型实际有什么用处。

    • 一位评论者将决策模型描述为本质上是一个受约束的分类循环:提供一个包含允许类别以及结构化/非结构化输入的 JSON schema,然后让模型为每个条目恰好选择一个类别。技术问题是,llama.cpp 的新支持是否在普通提示词约束的 JSON 分类之外增加了有意义的推理时行为,还是主要只是为本地模型标准化了工作流程。

    • 提出的一个实际用例是将决策模型应用于本地角色扮演智能体,以减少长场景中的脱轨——即在生成之前使用辅助模型或决策步骤来强制执行状态/意图约束。该讨论串没有报告基准测试或实现结果,但强调了一种用于角色一致性和场景状态管理的潜在控制层模式。

技术性较低的 AI Subreddit 回顾

/r/Singularity、/r/Oobabooga、/r/MachineLearning、/r/OpenAI、/r/ClaudeAI、/r/StableDiffusion、/r/ChatGPT、/r/ChatGPTCoding、/r/aivideo、/r/aivideo

1. Gemini 4 Argon 访问权限引发反弹

  • 刚刚取消了 Google One AI 订阅。(活跃度:1838):楼主声称 Google 付费的 Google One AI Pro 档位不再提供前沿 Gemini 模型的访问权限:据称在 Gemini 4 Argon 发布之后,访问权限被描述为仅限于企业“Fairwind”合作伙伴、付费 API 用户以及即将推出的 Google AI Ultra 档位,而 Pro 用户仍停留在 Gemini 3.8 Flash。他们认为这是相较 Gemini 2.5 Pro 时代的倒退——当时更高端的推理模型和慷慨的额度可以更广泛地获得——并将其与 Anthropic/OpenAI 订阅据称向标准付费用户提供前沿模型形成对比;除了“令人印象深刻的基准图表”和 1M token 输出上限的说法外,没有提供具体的基准数字。 高赞评论大多驳斥这一抱怨:一位用户表示他们订阅主要是为了 Google 存储,把 AI 当作附赠;其他人则质疑帖子的真实性,声称它是 Gemini 写的,或是来自新账户的机器人/水军活动。

    • 一位评论者认为,来自 Google/Anthropic/OpenAI 的 $20/month AI 订阅档位更像是受限的试用,而非生产级访问,暗示尽管打着“Pro”旗号,持续工作负载仍存在实际限制。他们还表示,考虑到底层推理成本,Google 可能在 Google One AI Pro 订阅上补贴或亏损。

    • 一则关于分阶段推出的澄清指出,Gemini Ultra 似乎首先获得访问权限,但 Google 并未明确排除 Pro 档位获得 Astra 等功能的可能性。该评论者将此描述为典型的软件分阶段推出,而非明确的永久档位排除。

  • 为什么要公开宣布一个公众还无法使用的模型??(活跃度:1624):该图片是一张据称是 Google/Gemini 关于“Gemini 4 Argon”公告的截图,声称在软件工程、知识工作和网络安全防御方面具有前沿性能,外加一个极其庞大的 1M token output limit:图片。该帖子的技术意义主要在于模型发布的沟通方式,而非评估:标题质疑 Google 为何在用户尚无法访问之前就公开宣布一个模型,而图片本身没有提供基准、API 细节、定价或可用时间表。 评论者将此与之前“已宣布但不可用”的模型发布相比较,包括 Anthropic 的“mythos”和 Google 据称的“3.5 pro”处理方式。主流观点持怀疑态度:用户可能会感到沮丧,一位评论者推测该公告“纯粹是为了投资者”。

2. Claude Opus 5.5 性能回退报告

  • Opus 5.5 削弱 - 如何测量、如何识别、如何起诉(活动:2722):发帖者声称 Anthropic Opus 5.5 在发布后 5–6 天,在复杂的 C++/3D/物理/Blender MCP 工作负载上出现了急剧的发布后性能回退,并援引异常措辞和更低的代码/输出质量,建议保留发布当天的精确提示词/输出以及延迟测量数据,以检测量化、路由或负载下服务优化等潜在变化。他们将其定性为可能违反欧盟消费者法律的问题,依据是 《数字内容指令 2019/770》,具体是第 7–8 条中的符合性预期以及第 19 条中的修改/撤回通知义务,认为发布基准测试和“最强能力模型”的营销宣传可能构成可强制执行的预期。评论普遍认同闭源模型提供商可以悄无声息地降低模型质量或重新路由模型,并且需要独立审计,但没有评论者提供可复现的基准测试或直接证据。一位评论者报告在 Higgsfield 输出中感受到类似的质量下降,描述了最初生成效果强劲之后浪费积分的情况。

    • 评论者提出了针对所谓闭源模型性能下降的核心测量问题:由于 Anthropic 托管的模型权重、提示词、路由和服务配置不透明,用户认为在没有独立审计、固定基准提示词、重复采样和历史基线的情况下,很难证明性能回退或“削弱”。一位用户特别要求提供“有效的测试或可靠的削弱追踪网站”,凸显了对第三方纵向评估而非轶事式比较的需求。

    • 几位用户报告了Opus 5.5 在实际工作流中行为出现回退的轶事:一位声称它现在需要 Gemini 3.8 Flash 的帮助才能发现编码错误,另一位则表示 Higgsfield 的设计/渲染输出在最初效果强劲之后出现下降,浪费了积分。这些报告并非受控基准测试,但它们指出了用户希望追踪的任务类型:错误发现准确性、设计/渲染提示词保真度以及逐日输出一致性。

  • 好吧。我一开始也不信别人说的,但 Opus 5.5 突然就不对劲了(活动:2045):一位 Claude Code Enterprise PAYG 用户报告称,在月度限额重置后,Claude Opus 5.5 Med 的行为出现了明显的感知退化:从架构优先、DRY/SOLID、token 高效的实现,变成了冗长的前言、重复的代码、“slopcode”,以及类似此前 Opus 5 行为的 token 消耗。他们声称用量在大约一小时内从约 70% 跃升至 90%,而此前一周高强度使用 ~12h/day O5.5 期间并未申请提高消费限额,并提供了每日成本/token 数据以供对比。一位评论者引用外部情绪追踪数据称,Opus 5.5 在 Reddit 上的情绪从 9 月 25 日至 28 日的 71–73/100 降至昨天的 58 和今天在 modelsentiment.com 上的 55,同时指出它衡量的是观点而非后端模型变化。 高赞评论猜测 Anthropic 可能在发布热度过后减少了算力、悄悄更改了路由,或调整了 token 计费方式,但没有提供直接证据。主要争论点在于信任/可靠性:用户希望模型行为稳定、部署/版本管理透明,而不是发布后出现感知到的退化。

    • 一位追踪 Reddit 情绪的评论者报告称,Claude Opus 5.5 的情绪急剧下降,据称分数在 9 月 25 日至 28 日期间稳定在 71–73/100,随后在 modelsentiment.com 上于昨天降至 58、今天降至 55。他们指出,这衡量的是用户观点而非模型行为,因此无法确认后端发生了变化,但可能表明感知质量突然退化。

    • 多位用户描述了 Opus 5.5 疑似出现能力退化,尤其是在指令遵循和多部分提示词遵循方面:一位用户称该模型现在“提到了 3 件事却只确认了 2 件”,甚至在受到质疑时也承认了遗漏。另一位用户表示,他们已将所有任务回退到“xhigh effort”模式,暗示默认可靠性降低,或在正常设置下推理/遵循能力下降。

    • 有人提出的一种技术假设是,Anthropic 可能在发布/基准测试期间临时分配了更多算力,随后减少了推理资源或更改了 token 计费方式,从而导致感知质量下降。这属于推测且未经证实,但抱怨的核心在于可复现性和可靠性:用户希望模型行为在发布后保持稳定,而不是在同一产品名称下悄然改变。

3. AI 视频模型与运动控制

  • 在 MiniMax 中使用环绕 Lora + 首尾帧可获得极佳效果(活动:2263):一位用户分享了用于从首帧/尾帧条件生成锁定主体的 MiniMax-H3 LoRA360°环绕镜头:pablodawson/MiniMax-H3-360-Orbit-LoRA。该提示词明确将场景约束为冻结的瞬间——无物体/姿态变形、无漂移、无持续动作——因此相机视差成为唯一的运动来源,目标是获得更干净的伪体积输出,适合下游重建工作流。文中提到了一个关联的 Reddit 演示视频,但由于 Reddit 返回403 Forbidden,无法查看该视频 URL。评论者认为该 LoRA 对创建 3D 资产尤其有用:一位建议将生成的环绕片段输入 Opus 以提取快照用于 3D 模型生成,并声称这能改善风格保持。另一位评论者推断,这种环绕一致的视频生成使现有电影的消费级体积/VR 观看更近了一步。

    • 一位评论者描述了一种工作流:将环绕/生成的 3D 视频片段输入 Opus,并指示其提取快照用于 3D 模型创建。他们报告称,与不提供视频参考直接提示模型相比,这能大幅改善风格捕捉,表明环绕视频充当了强大的多视角条件来源。

    • 输出中注意到的一个技术瑕疵是不一致的运动分割:人物实际上保持冻结,而汽车、头发和背景爆炸等次要元素继续运动。这表明 MiniMax 在从首帧/尾帧约束中保留主体姿态的同时仍在合成环境动态,从而可能造成部分动画不匹配。

  • Griffin,首个通过视频图灵测试的人类交互模型,已在 NVIDIA 的全双工 AI 视频基准测试中排名第一——44% 的人认为它是真人,而其他系统约为 3%(活动:2018):一篇 Reddit 帖子声称,被描述为“人类交互模型”的 Griffin 是首个通过视频图灵测试的系统,并在 NVIDIA 的全双工 AI 视频基准测试中排名#1,有44%的参与者判定其为真人,而其他系统约为~3%。由于 403 Forbidden 响应,无法独立访问关联的 Reddit 视频,因此无法从所提供的来源验证基准测试细节、方法和模型架构。评论大多与技术无关:一位用户开玩笑说人类/AI 的揭示被颠倒了,而另一位则认为该技术没有必要,且很可能被用于掠夺性应用。

    • 一位评论者强调,44% 的人类识别率在技术上意义重大,因为人类通常对细微的面部、时机和行为异常高度敏感——这正是 CGI/电子动画中恐怖谷问题的基础。他们认为这表明 Griffin 大幅超越了此前的“假人”系统,尤其是与帖子中声称其他系统在同一视频图灵式基准测试中得分约为 ~3% 相比。

    • 一个在技术上相关的真实滥用案例是AI生成的求职者:据称合成候选人会申请职位、进行视频面试、被录用,然后要么获得平台内部访问权限,要么窃取已发货的工作设备。该评论者指出,审查不严或背景调查有限的大公司可能无法识别这些由AI中介的面试,这意味着全双工视频代理可能会显著加剧身份验证和招聘安全风险。

来源:Latent Space · latent.space