Benefit Street Partners 如何用 Codex 更快回答客户问题
Benefit Street Partners 的 Anant Kumar 用 Codex 做代码审查并加快后续跟进,从而更快回答客户问题。他构建的工具用于比较贷款估值和分析信贷协议。
Benefit Street Partners 的 Anant Kumar 用 Codex 做代码审查并加快后续跟进,从而更快回答客户问题。他构建的工具用于比较贷款估值和分析信贷协议。
vLLM 团队用智能体辅助开发为 Kimi K3 构建统一的 CuTe DSL 解码路径,在 16 块 NVIDIA GB300 上以 DSpark 达到 842 tokens/s,比原生 vLLM 快 1.73 倍。
巴西银行 Itaú 正通过对话式界面 ia.i 和治理平台 IARA,将 AI First 战略同时落地到客户与员工场景。该行身处巴西监管最严格的行业之一,仍推进生成式 AI 的规模化应用。
Databricks 宣布多语句事务(Multi-Statement Transactions)正式 GA,可在 Delta Lake 和 Apache Iceberg 表上原生运行跨多表、多语句的原子工作流,无需再依赖独立数仓系统。
AWS SMGS Operations 团队基于 Amazon Bedrock AgentCore Evaluations 搭建了面向 AWS 全球现场销售的多智能体系统评估框架,覆盖 Performance Insights、Customer Insights、Data Insights 等子智能体。
两名工程师用 Codex 在几周内做出 Stack Overflow for Agents,其 ChatGPT 插件推动智能体创建量最高增长 10 倍,注册量随之增至三倍。
Stripe Data Pipeline 现已支持将 Stripe 数据实时同步到 Postgres,Databricks Lakebase 是受支持的目标之一,由 OpenSharing 驱动,更新可在数秒内到达。
NVIDIA 推出 RTX Spark,基于 GB10 系统级芯片和大容量统一内存,让开发者在一台机器上本地完成 AI 编码、测试与部署。当前 AI 智能体开发流程分散在笔记本、云端模型 API 和云 VM 之间,RTX Spark 旨在将这一流程整合到本地。
PyTorch 博客介绍 Zephon,一种为 TorchTitan 提供弹性确定性数据加载的方案:在 16 GPU 上训练 1B 参数模型至 step 150 后,改用 8、32、64 GPU 恢复训练,Zephon 的 loss 曲线与基线重合,每个 global batch 的 SHA-256 哈希均匹配。
Redwood Research 提出 Screwtape,一条把真实智能体轨迹改写成攻击、并反复迭代直到绕过只看动作的监控器的流程,配套论文已公开。
Databricks 针对 npm 恶意包中占比 3.8%(432 个包版本)的捆绑二进制样本,提出在推理阶段注入预计算静态证据的"能力画像"方案,而非微调模型权重。在 9 个模型上测试显示,含二进制包无法得出明确恶意结论的比例为 14.4%,是纯源码包 6.2% 的两倍以上。
Reflection AI 推出开源权重模型 Beam,面向编码智能体与长周期任务,可维护代码、调用工具并完成多步工作流。
推荐理由:文章给出 Beam 的参数量、上下文长度与三种部署路径,可据此判断开源编码模型在 AWS 上的落地成本。
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE,并在 NVIDIA Blackwell 上完成优化,推理、工具调用和结构化输出开箱可用。
推荐理由:vLLM 从 Day 0 支持 Beam 并给出内核融合与自适应验证的实测数据,可看推理栈如何承接新架构。
NVIDIA 宣布 RTX Spark 笔记本今日全球开售,由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 推出,起售价 2,599 美元。
推荐理由:RTX Spark 把 128GB 统一内存和 1 petaflop FP4 算力放进轻薄 Windows 笔记本,可据此判断本地跑大模型与智能体的硬件门槛变化。
Tessl 工程团队用 Tessl Code Review 审查其单体仓库每周超 1200 个智能体编写的 PR,约 75% 的 PR 无需人工修正即可合并。该工具基于团队自有编码规范审查,发现的问题中 91% 为真实缺陷,高于此前 AI 审查工具的 68%,每个 PR 修复的真实 bug 数量翻倍(1.56 对 0.75),单 PR 审查成本降低 35%。
Mercedes-Benz 与 NVIDIA 宣布扩大战略合作,共同开发下一代驾驶辅助与自动驾驶系统,将 Mercedes-Benz 的 MB.OS 与 NVIDIA Hyperion 计算与传感器架构、Alpamayo Stack 全栈驾驶软件及 Halos 安全系统结合。
AMD 与 Embedded LLM 在 vLLM Blog 详解 Kimi K3 在八卡 AMD Instinct MI355X 上的推理优化,在 AgentX 基准 50 tokens/s/user P90 交互性下达到约 7。
推荐理由:AMD 与 vLLM 社区拆解 Kimi K3 在 MI355X 上的六项推理优化,可迁移到自建推理栈的瓶颈排查。
Sullivan & Cromwell 与 OpenAI 合作开发了 Agreement Analyzer,一款用于识别协议草案问题的 AI 工具。该工具将法律专业知识引入协议审查流程。
Comfy 发起竞赛,悬赏 1 万美元大奖征集对 Genjutsu、Cinema Studio 等创意应用的开源重建,要求发布仓库并允许任何人运行和 fork。
Databricks AI 研究团队自去年 AI Runtime(AIR)推出起就将其作为首个客户,用它开发、训练和测试支撑 AI Functions(含 ai_parse_document、ai_extract)的模型。
OpenAI 推出 Rosalind Academic Plan,为符合条件的学术实验室提供 GPT-Rosalind 的赞助访问权限及相关工具,用于推进生命科学研究。
Krea 3 现已通过 ComfyUI Partner Nodes 提供,这是 Krea 推出的新图像模型,主打基于参考图的生成与编辑。模型针对速度与单图成本优化,支持多张参考图按上传顺序编号引用,并可在改变场景、光线或构图时保持产品标签、形状与材质不变。
Databricks 的 Lakehouse//RT 现已支持 Spatial SQL 与空间 join,在高并发下地理空间查询最高比传统云数据仓库快 38 倍。基于 SpatialBench 的测试显示,单查询并发下最高快 20 倍,即便剔除提升最大的查询,平均仍快 3.5 倍以上,且无需修改代码或新增许可。该功能目前处于 Beta 阶段。
Atlassian 在 Databricks 上以 OCSF 开放模式构建安全湖仓,处理每天 440 亿条日志事件。借助 OCSF 结构化数据,分区与 Z-ORDER 将代表性查询从约 45 秒降至 2–3 秒,提升 95%;启用 Graviton 集群与 Photon 后查询成本与运行时间减少约三分之二。
研究对比了 Retrieve-then-Plan(RtP)与 Plan-then-Retrieve(PtR)两种工具发现架构:在 ToolBench(46,984 个 API。
Apple 提出 Selection-based Structured Reasoning(SSR)框架,将推理从开放式生成改为从预设自然语言候选推理中按似然度选择,无需辅助任务头,并借助共享上下文 KV cache 并行打分。在 2B 和 4B 模型、七个多模态搜索基准上,SSR 平均成功率与同规模领先搜索智能体相当,单轮推理延迟降低超 90%,每题模型总推理延迟降低 28–54%。
Meta 的 Muse Spark Open 已在 Together AI 上线,Together AI 是其 Day 0 发布伙伴。该模型面向长时程智能体编码工作流,具备 1M token 上下文窗口、长时程自主规划与自我纠错、可协调子智能体、跨桌面移动端与浏览器的 computer use 与多模态浏览,并接受文本、图像、音频和音视频输入,还会在执行前说明意图。
推荐理由:官方给出 Muse Spark Open 的上下文窗口、定价与调用方式,可据此判断它在长时程编码智能体上的可用性。
vLLM 与 Meta Superintelligence Labs 合作,在 Muse Spark Open 发布当天为其提供 Day 0 支持。
推荐理由:vLLM 在发布当天给出 Muse Spark Open 的部署命令、量化格式与 DSpark 投机解码配置,可据此评估 1M 上下文的生产落地成本。
OpenAI 发布 GPT-Live-1.1 与 GPT-Live-1.1 Quip 的系统卡,说明两款模型基于互联网公开数据、第三方合作数据及用户与人工训练师提供的数据训练,数据处理流程包含严格过滤以降低个人信息与有害内容。系统卡还给出针对违禁内容的语音原生评估,并提示此前已发布模型的对比数值取自其最新版本,可能与发布时数值略有差异。
微软研究院发布零知识虚拟机 Magnetar,可证明 Rust、Go、C 编译后的 RISC-V 程序执行,在 15 个基准程序上平均比现有最快的 zkVM 快 10 到 39 倍,证明验证约 12 毫秒。
推荐理由:微软研究院公开 Magnetar 的设计与基准数据,可了解零知识证明在通用程序上的效率与密码学取舍。
Meta 的编码优化开源权重模型 Muse Spark Open 已在 Amazon SageMaker JumpStart 上线,可在自己的 AWS 账户中部署为 SageMaker AI 端点。
推荐理由:Meta 的编码优化开源模型接入 SageMaker JumpStart,文中给出两种量化变体的实例选型与部署步骤,可据此估算自托管成本。
Volvo Cars 宣布扩大与 NVIDIA 的合作,基于 NVIDIA Hyperion 传感器与计算架构、Halos OS 和 Alpamayo Stack 驾驶软件,为未来车型打造门到门的安全自动驾驶能力,覆盖高速、城市街道与泊车场景。
Black Forest Labs 发布 FLUX 3 Image Klein,这是 FLUX 3 家族中紧凑的开源权重模型,参数量 5.6B,保留大尺寸 FLUX 3 Image 的边界框等控制功能,并提供未蒸馏的 Base 版和低延迟的 Distilled 版。
推荐理由:原文给出 5.6B 开源权重的量化加速数据与消费级 GPU 实测,可据此判断本地图像生成的成本变化。
Meta 发布 Muse Spark Open 的开放权重,这是一个 816B 总参数、42B 激活的模型,上下文窗口 1M tokens,已在 Hugging Face 上以 Muse Model License 提供。
推荐理由:Meta 开源 816B 总参数、42B 激活的编码与智能体模型,并给出 Helion 内核与 TorchTitan 微调路径,可据此评估开源权重模型的部署与二次训练成本。
Meta 发布 Muse Spark Open,这是一个面向编码优化的 816B MoE 模型,激活参数 42B,上下文窗口 1M token。该模型在 NVIDIA GB300 NVL72 Blackwell Ultra 上训练,针对智能体编码工作流,具备更高的首次尝试准确率、可靠的工具调用和对代码库的深度理解。1M token 上下文窗口可容纳整个代码库。
Apple 发布 MLX 新版本,展示在 Mac Studio 上本地运行前沿大模型:四台 M5 Ultra 组成的集群运行 816B 参数的 Muse Spark Open 时生成速度超过 36 tokens/s,单机 M5 Ultra 相比 M3 Ultra 的 TTFT 最高快 4.6 倍、生成速度提升 1.6 倍。
推荐理由:Apple 官方给出 MLX 在 Mac Studio 集群上跑近万亿参数模型的实测数据,可据此判断本地大模型推理的可行边界。
Adobe 与 NVIDIA 扩大合作,将 NVIDIA RTX Spark 超级芯片引入 Photoshop、Premiere 和 Substance 3D 等智能体创作应用,AI 处理、编辑、调色与特效速度最高提升 2 倍。
NVIDIA 发布 RTX Spark,定位为一台面向创作者、玩家和 AI 智能体的 Windows PC,并将于 10 月 16 日在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。
推荐理由:NVIDIA 官方公布 RTX Spark 的定位与全球发布活动安排,并汇总多家媒体对本地 AI 与游戏表现的早期评价。
OpenRouter 发布 Private Endpoints,让企业把微调模型、专属部署或向供应商预留的容量注册为私有端点,通过现有 API 和 model slug 调用,公共供应商可作为限流或故障时的备用。
Google DeepMind 介绍用其智能体开发平台 Google Antigravity 加速抗菌肽发现,把过去分散在多个数据库的检索压缩到一次会话中。平台借助 ProtNLM 从氨基酸序列预测生物功能,扫描 UniProt 中数百万条未表征蛋白,找到一条对呼吸道感染相关病原体有预测活性的新型抗菌肽候选,目前正进行湿实验验证。
推荐理由:原文给出智能体科研工作台在抗菌肽发现中的完整流程,可了解跨库检索与结构分析如何被压缩进单次会话。