AWS 提出 Trust in Depth:让智能体获得更多自主权而不失控
AWS 副总裁 Shawn Bice 提出 Trust in Depth 框架,主张用相互独立的验证层让智能体在可验证时自主行动,只在需要判断的决策上保留人工介入。
AWS 副总裁 Shawn Bice 提出 Trust in Depth 框架,主张用相互独立的验证层让智能体在可验证时自主行动,只在需要判断的决策上保留人工介入。
Databricks 的 Amber Roberts 指出,企业 AI 智能体采用速度远超 ROI 证明,因为采购者与日常使用者往往不是同一批人,目前多数组织仍处于试用与铺开阶段。她认为"更快"是衡量智能体生产力的错误指标,生产力应绑定各团队自身 KPI,且效率提升只有在质量不下降时才有意义。她还强调智能体理解业务上下文比单纯执行任务的速度更重要。
Tessl 提出评估 AI 软件工厂开放性的关键问题:能否把企业上下文带进去,又能否把工厂积累的知识带出来。文章指出,代码可以带走,但架构决策、技能、评估用例和学到的约束等 know-how 往往留在平台内;支持多模型、接入外部 coding agent、私有化部署都只是起点,真正的开放应让这些知识可检查、可提取、可复用。
Tessl 将一场 AI Native DevCon 演讲《Skills Everywhere》转化为智能体可用的 skill 上下文,核心主张是:企业落地智能体的瓶颈往往不是模型不够强,而是上下文工程不到位。
Mozilla.ai 在 AI Native DevCon London 上介绍了 cq 项目,其基本单元是知识单元:智能体遇到非显而易见的问题并找到解法后,将领域、洞察和采取的动作结构化提交,经审核后可被其他智能体查询复用。cq 默认本地运行,使用本地 SQLite 数据库,数据无需离开本机,也可连接远程服务器构建团队级知识库。
Tessl 博客指出,Agent Skills 一旦被智能体信任,就能影响其读取内容、调用工具与信任边界,因此应被视为供应链组件。研究扫描约 4,000 个公开技能,发现可疑下载、凭证风险、类恶意行为与安全漏洞等问题。核心风险在于私有上下文、不可信内容与外部通信三者叠加,仅靠"先读一遍"不足以构成安全模型。
Tessl 两场演讲指出,多数 AI 智能体在生产环境表现不佳,并非模型有误,而是其可见数据不完整、结果缺乏度量。Rob Willoughby 认为持久回报来自智能体周边的环境——上下文、评估与验证,而非更快的工具本身;Streambased CEO Tom Scott 则称智能体受限于数据可见性,缺失的集成与延迟更新形成盲点,降低准确率与自动化率,且更清晰的业务视图往往比更大的上下文窗口更有效。
Tessl 在 AI Native DevCon London 的分享指出,AI 编码智能体让 PR 数量增加,但审查环节反而成为新瓶颈,根源在于缺乏验证层。其方案是把产品意图写成可执行规格,由规划智能体拆解需求、多个验证智能体并行逐条检查预览环境,并同时结合规格与代码(而非仅看 diff)来判定实现是否符合意图。
GitHub Next 提出在 CI 和 CD 之外增加第三根支柱 Continuous AI,即由仓库事件或定时触发的自动化 AI 工作流,用于持续文档、代码改进、triage 和故障分析。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界、满足用户需求,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时深入查看数据的重要性。
Redwood Research 的文章指出,把安全研究定义为"在不显著增加成本或降低有用性的前提下让 AI 部署更安全"会得出一个尴尬结论:几乎所有能力研究都算安全研究,因为任何研究都只是增加选项、拓展帕累托前沿。作者认为关键在于开发者必须在帕累托前沿上选一个具体点,安全研究通常让开发者倾向更高安全,能力研究则相反;但在政治意愿远高于当下的某种未来情境下,某些能力研究也可能有效提升安全。
NVIDIA 提出 AI 工厂投资回报取决于三个要素:每兆瓦产出能力、硬件使用寿命和 token 需求,三者相互关联。SemiAnalysis AgentX 数据显示,Vera Rubin NVL72 每兆瓦吞吐量比 GB300 NVL72 高 30 倍以上,在 DeepSeek V4 Pro 上每百万 token 成本低至 45 倍。
GitHub Copilot 提出,聊天框在多数场景下是错误的 AI 交互界面,应改用 canvas——一种运行在 GitHub Copilot 应用内、无浏览器外壳的全栈应用,可与 agent 双向通信并在本地执行代码。文中演示了用 canvas 构建 Connect 4 游戏、Winget 包管理界面和 SQLite 数据库操作界面,并称用 agent 构建工具比反复对话更省 token。
Redwood Research 认为,COCONUT、full-bandwidth transformers 等潜在推理架构会让 AI 在潜在状态中完成远超文本 CoT 的推理,从而削弱 CoT 的可监控性。
Sakana AI 宣布 Jürgen Schmidhuber 正式加入并出任首席科学顾问,同时参与其新成立的 Recursive Self-Improvement(RSI)Lab。
GitHub Podcast 最新一期拆解了五个 AI 热门论断:AI 生成的代码仍需阅读,但审查力度应按风险分级;Skills 与 MCP 解决不同问题,MCP 提供连接工具与数据的标准,Skills 则封装团队流程与最佳实践;RAG 并未消亡,检索能为模型提供训练数据之外的相关信息,减少 token 浪费并让回答更有依据。
伯克利 EPIC Data Lab 提出近零推理成本时代数据系统面临三大挑战:为智能体设计(Data Systems For Agents)、由智能体运行(Of Agents)、由智能体构建(By Agents)。
伯克利 AI 研究团队梳理了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调。现有方法如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由外部设定,而非模型自主选择。