技术方向
把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
59 条精选近 30 天 54 条共收录 4,774 条
Prime Intellect 发布用 Rust 从零重写的 Prime Agent，整个重写由 Prime Agent 自己编排超过 2000 个智能体完成，跨 10000 多个 Prime Sandboxes，消耗 Prime Inference 的 GLM-5.3 端点超 2000 亿 token。
推荐理由：原文给出用 2000 多个智能体把自身从 TypeScript 重写为 Rust 的完整流程与性能对比数据，可迁移到多智能体编排实践。
ElcanoTek 发布 MIT 许可的自托管智能体集群 fleet，可自选模型，模型生成的 bash、Python 和文件读写默认在无根 Podman 沙箱中执行，也可切换为 KVM microVM 隔离。
推荐理由：原文完整交代了自托管智能体集群的沙箱隔离、成本上限与凭据托管设计，可据此判断团队级 Agent 落地的工程取舍。
Lume 发布本地优先的 AI 编码智能体指挥中心，可监控 Claude Code、Codex、Antigravity、OpenCode 等已有会话，显示哪些在运行、等待或需要人工介入，并支持在同一处继续对话。
推荐理由：原文完整列出 Lume 对 Claude Code、Codex 等会话的监控与接管方式，以及本地优先的隐私设计，便于判断它能否嵌入现有编码工作流。
ZeroClaw 是一个用 Rust 编写的单二进制智能体运行时，配置后在本机运行，可连接 Anthropic、OpenAI、Ollama 等约 20 家 LLM 提供商，并通过 Discord、Telegram、Matrix、邮件、语音、webhook 和 CLI 等 30 多个渠道接收消息。
推荐理由：原文给出单二进制自托管智能体运行时的完整能力清单与安装路径，可据此判断自托管方案与云端智能体的取舍。
Cloudflare 发布 agents SDK，把智能体定义为基于 Durable Objects 的持久化有状态执行环境，每个智能体拥有独立状态、存储与生命周期，空闲时休眠、按需唤醒，官方称可运行数百万个且不活跃时不产生费用。
推荐理由：Cloudflare 把智能体做成基于 Durable Objects 的有状态运行环境，读者可据此判断按用户或会话部署智能体的成本与工程路径。
字节跳动开源项目 DeerFlow 发布 2.0，从深度研究框架重写为编排子智能体、记忆与沙箱的超级智能体框架，由可扩展技能驱动，与 v1 不共享代码，原框架保留在 1.x 分支维护。
推荐理由：DeerFlow 2.0 从深度研究框架重写为编排子智能体、记忆与沙箱的超级智能体框架，可据此判断其能力边界与部署成本。
Assembled 开源团队编码智能体平台 143，把智能体会话、自动化和历史放在同一共享工作区，支持接入 GitHub、Linear、Sentry、Slack、Notion、PagerDuty 等工具提供上下文。
推荐理由：原文给出团队共享编码智能体的架构与自托管路径，可据此判断多智能体协作如何接入现有仓库与评审流程。
vLLM 宣布已支持 NVIDIA Vera Rubin NVL72，在 AgentX 上以 MiniMax M3 达到每 GPU 最高 7.84 倍于 GB200 的吞吐，在 150 TPS 约束下吞吐提升 5.18 倍。
推荐理由：vLLM 官方给出 Rubin 平台的早期适配状态与实测吞吐数据，可据此判断新硬件上的部署准备度。
yc-software 开源多人智能体框架 QM，可在 Slack 和网页端运行，部署在自有云上并使用自己的模型和密钥。QM 为每位员工提供隔离工作区，同时支持在频道、群组消息和项目中与智能体协作，每个人和每个房间都有独立的记忆、文件、权限、定时任务和沙箱。框架支持 Pi、OpenCode、Codex 和 Claude Code 驱动同一核心，采用 MIT 许可证。
推荐理由：原文给出多智能体协作的架构与安全模型细节，可据此判断自托管部署的可行性与边界。
作者用 FastVideo 的 FastH3 V2 checkpoint 配合四步采样、稀疏注意力 VSA、ClipProj 小文本编码器、INT8 剪枝 checkpoint。
推荐理由：作者把单张 RTX 5090 上跑实时视频的七项优化逐条拆开，可迁移到其他视频模型的推理部署。
NVIDIA Dynamo 提出以统一的会话级 ID 把请求级服务基础设施改造成程序感知系统，支持会话感知路由、共享 KV cache 索引和跨 vLLM、SGLang 的程序化缓存迁移。
推荐理由：原文给出会话级 ID、追踪回放与调度策略的完整设计，可据此理解智能体推理服务栈的改造路径。
Archon 发布开源 AI 编码工作流引擎，把规划、实现、验证、代码审查、创建 PR 等开发流程写成 YAML 工作流，让 AI 编码变得确定且可重复。每次运行使用独立 git worktree，可并行执行多个任务；工作流定义在 .archon/workflows/ 中并提交到仓库，可从 CLI、Web UI、Slack、Telegram 或 GitHub 运行。
推荐理由：原文给出了 YAML 工作流定义、隔离 worktree 与多平台接入方式，读者可据此判断如何把 AI 编码流程固定下来。
OpenClaw 是一个开源 AI 助手，运行在用户自己的电脑上，可接入 Discord、iMessage、Slack、Teams、Telegram、WhatsApp 等 20 多个渠道，并提供 macOS、iOS、Android、Windows、Linux 原生应用。
推荐理由：原文交代了自托管网关、可替换模型插件与多聊天渠道接入方式，读者可据此判断它能否嵌入现有工作流。
Zenity Labs 研究人员披露名为 AgentCorruption 的漏洞链，只需对某个公开的 Amazon Bedrock AgentCore 智能体发送一条提示词，就能通过元数据服务 169.254.169.254 窃取其 AWS 临时凭据，进而控制同一 AWS 账户和区域内的所有 AgentCore 智能体。
推荐理由：原文梳理了 Zenity 演示的完整攻击链和 AWS 此后的权限收紧，读者可以据此评估自己云端智能体的隔离与最小权限配置。
Anthropic 发布 Claude Haiku 5.5，这是 Haiku 系列约一年来的首次更新，定价与 OpenAI 的 GPT-6 Luna 相同，同日还下调了 Sonnet 5.5 与订阅方案价格。
推荐理由：汇总了 Haiku 5.5 的定价、独立评测与 token 消耗数据，可对照 GPT-6 Luna 判断小模型在智能体工作流中的成本取舍。
AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线。
推荐理由：原文给出 Haiku 5.5 在 Bedrock 上的能力定位与成本变化，读者可据此判断它在多智能体分工中的位置。
NVIDIA 与 Microsoft 在旧金山 Windows AI 活动上宣布为 Windows PC 的 AI 智能体共同设计软硬件，Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers（MXC）正式可用，让智能体在系统控制下安全持久地在后台运行。
推荐理由：原文给出 RTX Spark 的硬件规格与本地模型运行能力，读者可据此判断 Windows 端侧 AI 的算力边界。
GitHub 发布基于 ModernBERT 的通用密钥检测模型，用上下文判断数据库 URL、Kubernetes Secret manifest 和 Dockerfile 中的密码类值，可在 2 毫秒内评估一批候选密钥，并称可将可拦截的密钥数量提升一倍以上。
推荐理由：GitHub 公开了九季度密钥泄露数据，并说明新分类器如何把防护从人工响应转向推送前拦截。
微软研究院开源 Agent Lightning v1.0，一个约 3500 行代码的轻量级 Agentic RL 框架，提出 Harnessed Agentic RL 范式，让部署时使用的 agent harness 直接参与强化学习，无需在训练框架内重新实现 agent。
推荐理由：原文给出框架的代码规模、Kubernetes 支持与端到端训练数据，读者可据此判断接入现有 agent harness 做 RL 的成本。
vLLM 团队与 Inferact 在 DeepSeek-V4.1-Flash 发布后三周内完成优化，在 SemiAnalysis AgentX 智能体服务基准上低并发提速 1.9 倍、150 TPS 约束下吞吐提升 5.3 倍。
推荐理由：原文逐项列出 vLLM 侧的系统优化与对应加速比，可据此判断长上下文智能体推理的部署成本走向。