vLLM 如何用智能体辅助优化 Kimi K3 解码性能
vLLM 团队用智能体辅助开发为 Kimi K3 构建统一的 CuTe DSL 解码路径，在 16 块 NVIDIA GB300 上以 DSpark 达到 842 tokens/s，比原生 vLLM 快 1.73 倍。
#教程/实践
vLLM BlogAI 评分5858 AWS Machine Learning BlogAI 评分3434 如何用 Amazon Bedrock AgentCore 构建可信 AI 智能体的生产级评估框架
AWS SMGS Operations 团队基于 Amazon Bedrock AgentCore Evaluations 搭建了面向 AWS 全球现场销售的多智能体系统评估框架，覆盖 Performance Insights、Customer Insights、Data Insights 等子智能体。
AWS Machine Learning Blog精选AI 评分6666 Reflection AI 开源编码智能体模型 Beam，并给出 AWS 部署路径
Reflection AI 推出开源权重模型 Beam，面向编码智能体与长周期任务，可维护代码、调用工具并完成多步工作流。
推荐理由：文章给出 Beam 的参数量、上下文长度与三种部署路径，可据此判断开源编码模型在 AWS 上的落地成本。
vLLM Blog精选AI 评分6060 AMD 与 vLLM 如何在 MI355X 上优化 Kimi K3 推理：AgentX 吞吐超 NVIDIA HGX B300 24.4%
AMD 与 Embedded LLM 在 vLLM Blog 详解 Kimi K3 在八卡 AMD Instinct MI355X 上的推理优化，在 AgentX 基准 50 tokens/s/user P90 交互性下达到约 7。
推荐理由：AMD 与 vLLM 社区拆解 Kimi K3 在 MI355X 上的六项推理优化，可迁移到自建推理栈的瓶颈排查。
Databricks BlogAI 评分2222 Databricks AI 研究团队如何用 AI Runtime 支撑模型训练
Databricks AI 研究团队自去年 AI Runtime（AIR）推出起就将其作为首个客户，用它开发、训练和测试支撑 AI Functions（含 ai_parse_document、ai_extract）的模型。
Databricks BlogAI 评分2222 Atlassian 如何在 Databricks 上基于 OCSF 构建安全湖仓
Atlassian 在 Databricks 上以 OCSF 开放模式构建安全湖仓，处理每天 440 亿条日志事件。借助 OCSF 结构化数据，分区与 Z-ORDER 将代表性查询从约 45 秒降至 2–3 秒，提升 95%；启用 Graviton 集群与 Photon 后查询成本与运行时间减少约三分之二。
Apple Machine Learning Research精选AI 评分6666 Apple 用 MLX 与 RDMA 在 Mac Studio 上实现本地及分布式大模型推理
Apple 发布 MLX 新版本，展示在 Mac Studio 上本地运行前沿大模型：四台 M5 Ultra 组成的集群运行 816B 参数的 Muse Spark Open 时生成速度超过 36 tokens/s，单机 M5 Ultra 相比 M3 Ultra 的 TTFT 最高快 4.6 倍、生成速度提升 1.6 倍。
推荐理由：Apple 官方给出 MLX 在 Mac Studio 集群上跑近万亿参数模型的实测数据，可据此判断本地大模型推理的可行边界。
Databricks BlogAI 评分2222 FactSet 如何借助 Databricks AI Runtime 将模型训练与部署从数天缩短至数小时
FactSet 用 Databricks AI Runtime 的无服务器 GPU 基础设施运行 Text-to-Formula 模型的微调，将模型搭建、训练到部署的周期从数天缩短至数小时。其 TTF 系统此前基于 RAG，后引入微调开源模型，端到端延迟降低约 60%，如今每两到三周微调一次模型，并已使用 Llama 系列模型。
vLLM Blog精选AI 评分7676 vLLM 提出训练推理逐位一致的 RL 训练方案，DeepSeek-V4-Flash 上 diff 为 0
vLLM 团队提出让训练前向直接调用 vLLM 推理 kernel 并修改这些高性能 kernel，使 rollout 与训练对每个采样 token 产生逐位相同的 logprob（diff = 0）。
推荐理由：原文给出训练与推理逐位一致的具体做法与吞吐代价，可据此判断高性能 RL 训练中数值对齐的取舍。
Databricks BlogAI 评分3636 在 AI Runtime 上将 Qwen 训练时间缩短 6 倍
Databricks 在 AI Runtime 上通过系统性能优化，把 Qwen 3.8 27B 的微调时间从 7 小时 44 分钟压缩到 1 小时 17 分钟，提速 6 倍，训练吞吐从 9,396 tok/s 提升。
Databricks BlogAI 评分2020 OLTP vs. OLAP：事务型数据库与分析型数据库如何选择
OLTP 面向高并发、低延迟的当前数据读写，如支付、订单和库存更新，依靠 ACID 保证数据完整性；OLAP 面向跨时间、产品、地域等维度的大规模历史数据扫描、关联与聚合分析。
Databricks BlogAI 评分2222 什么是 HTAP？混合事务/分析处理简明指南
HTAP（混合事务/分析处理）由 Gartner 于 2014 年提出，指在同一集成数据库系统内融合 OLTP 与 OLAP，让分析查询直接读取当前事务数据，无需等待批量 ETL 搬运。
AWS Machine Learning BlogAI 评分3636 用 Amazon Bedrock AgentCore 构建自改进的文档处理系统
基于 Amazon Bedrock AgentCore 可搭建多智能体 IDP 系统，由 8 个专用智能体在两条图工作流中协作，自动分类、提取、校验并从新文档格式中学习，部署通常不到 20 分钟。
NVIDIA Technical BlogAI 评分2222 NVIDIA NeMo Gym 如何优化芯片设计中的智能体可靠性与工具调用效率
NVIDIA 用 NeMo Gym 优化芯片设计工作流中 AI 智能体的可靠性与工具调用效率。多阶段工程流程中，早期未被发现的错误会静默传播到下游阶段和最终产物，智能体生成看似合理却错误的产物是生产落地的主要障碍。
AWS Machine Learning BlogAI 评分2424 Tamnoon 如何用 Amazon Bedrock 构建 AI 驱动的云安全修复平台 Tami
Tamnoon 基于 Amazon Bedrock 构建了智能体云修复编排器 Tami，可自主调查 CNAPP 等来源的安全发现并评估修复安全性，90 天内将关键云暴露减少超 90%，且零生产事故。Tami 由调查、安全评分、修复、代码生成四个专用智能体组成，通过单一 API 按任务调用不同基础模型，安全评分智能体将发现分类为 SAFE、RISKY 或 AWAITING DATA，存疑时降级处理。
AWS Machine Learning BlogAI 评分3636 用 Amazon Bedrock AgentCore 生成演示文稿
基于 Amazon Bedrock AgentCore 构建的 AI 智能体系统可自动生成 PowerPoint 演示文稿，内部测试中不到 90 秒完成。
AWS Machine Learning BlogAI 评分2222 用 Amazon SageMaker JumpStart 部署并评测模型
Amazon SageMaker JumpStart 提供了一套可复用流程：从模型目录部署模型、用 SageMaker Python SDK 跑轻量性能测试，测完删除端点。
Databricks BlogAI 评分2222 2026 年实时分析实践指南：如何用湖仓一体替代专用实时引擎
实时分析正成为关键能力，但传统做法需额外部署 Apache Druid、Apache Pinot 或 ClickHouse 等专用服务引擎，带来独立数据副本、管道和治理开销。文章提出实时分析应作为湖仓一体的能力，与批处理共用一份数据和一套管控，并从新鲜度、延迟、并发三个维度评估工作负载是否真正需要实时。金融、零售、制造等场景的实时需求均可由此框架判断。
NVIDIA Technical BlogAI 评分1818 如何用 AI 智能体重写 Apache Spark UDF 以实现 GPU 加速
NVIDIA 介绍如何借助 AI 智能体将 Apache Spark UDF 重写为基于 cuDF 的 GPU 加速实现，以应对智能体 AI 带来的大规模数据集高频复杂查询需求。cuDF 利用 GPU 的大规模并行能力和高带宽显存提升数据吞吐，目标是在成本不按比例增加的前提下满足企业级数据处理需求。
GitHub Blog · AI & MLAI 评分3838 GitHub 如何用 ModernBERT 分类器实现更少噪声的密钥检测
GitHub 训练了一个基于 ModernBERT 的上下文感知密钥分类器，用于替代此前的 LLM 流水线，在推送后扫描中实现 86% 的中位执行时间下降和超过 98% 的服务成本节省，用户对告警的接受度提升 11.5%。
AWS Machine Learning BlogAI 评分2323 如何用 managed entitlements 管理 Amazon Bedrock 私有定价优惠
Amazon Bedrock 的 managed entitlements 支持从中心账户订阅 AWS Marketplace 私有定价优惠（MPPO），再向组织内多个账户分发模型访问权限。
AWS Machine Learning Blog精选AI 评分6060 在 Amazon Bedrock 上用 Grok 4.7 构建长时程智能体
AWS 团队在 Amazon Bedrock 上基于 Grok 4.7 构建工具调用智能体，在三个需要搜索而非查表验证的任务上跑了 72 次，答对 67 次，xhigh 档位 18 次全对。
推荐理由：通过 72 次可复现的智能体运行，量化了 Grok 4.7 各推理档位在正确率与 token 成本间的取舍。
AWS Machine Learning BlogAI 评分2828 ShipStation Global 如何在 Amazon Bedrock AgentCore 上构建 AI IT 服务台
ShipStation Global 工程团队基于 Amazon Bedrock AgentCore 打造了 Slack 内的 AI IT 服务台智能体 Deckhand，可解答常规 IT 问题、识别报错截图并创建和更新 Jira Service Management 工单。
AWS Machine Learning BlogAI 评分2828 Orca Security 如何用 Amazon Bedrock 构建自然语言安全查询
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建了自然语言查询智能体 Discovery AI，可将自然语言问题转换为 Sonar 查询。
AWS Machine Learning BlogAI 评分2929 Amazon SageMaker AI 上的 MoE 内核工程优化实践
针对 MoE 模型在 decode 阶段 M 维过薄导致的 GPU 利用率瓶颈，团队通过 Swap-AB 转置让专家维度 N=8192 占据 WGMMA 首个操作数位置，在 H200 上实现端到端输出吞吐提升 2–4%，该优化已合入 vLLM 0.24.0 及之后版本。
PyTorch BlogAI 评分2424 IBM 如何用 Inductor 扩展 Spyre 加速器的 torch.compile 后端
IBM 将 Spyre 加速器的 torch.compile 后端从自研的 sendnn 编译栈迁移到 PyTorch 开源 Inductor，编译器体积缩小约 7 倍。
vLLM Blog精选AI 评分6262 vLLM 引入双向 KV 传输，多轮智能体负载 TTFT 最高降低 3.3 倍
vLLM 新增双向 KV 传输能力，让 decode 节点把已计算的 KV 块回传给 prefill 节点，避免多轮对话中重复计算历史上下文。在 1P1D 部署、Amazon EC2 P5en 加 AWS EFA 的测试中，最长提示下 Qwen3-32B 的 TTFT 降低约 1.6 倍，zai-org/GLM-5-FP8 降低约 3.3 倍。
推荐理由：原文给出双向 KV 传输的架构、可调参数与复现步骤，读者可据此评估多轮智能体场景下的 TTFT 收益。
AWS Machine Learning BlogAI 评分3434 在泰国、马来西亚、新加坡、印尼和台湾通过 Amazon Bedrock 全球跨区域推理调用 OpenAI GPT-6 模型
Amazon Bedrock 现支持在泰国、马来西亚、新加坡、印尼和台湾五个 AWS 区域通过全球跨区域推理调用 OpenAI GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra。
GitHub Blog · AI & MLAI 评分3030 GitHub Copilot 入门：如何让 Copilot 了解你的代码库
GitHub Copilot 可通过四种方式定制项目上下文：用 `.github/copilot-instructions.md` 定义仓库级规范，用 `.github/instructions` 中的 applyTo 字段指定路径级规则，用 `.github/skills` 下的 SKILL.md 打包可复用流程，用 `.github/agents` 定义专用自定义智能体。
NVIDIA Technical BlogAI 评分2222 ReplaySSM：重新思考混合模型解码的状态存储
NVIDIA 提出 ReplaySSM，重新思考混合模型解码时的状态存储方式。NVIDIA Nemotron 3、Qwen3.5 至 Qwen3.8、Kimi-K3、GLM-5.3-Flash 等混合模型将 SSM 层与少量注意力层交错，SSM 层用固定大小状态替代随序列增长的 KV cache 以实现快速解码。
Databricks BlogAI 评分2222 Flo Health 如何用 Databricks AI Runtime 构建更安全、更实用的开放模型
Flo Health 借助 Databricks AI Runtime 在无服务器 NVIDIA H100 GPU 上对开放模型做分布式微调，用 26 个 AI 评委（12 个医疗安全、6 个微观行为、8 个实用性）作为奖励信号，生成超 15,000 条隐私优先的合成问题，并采用监督微调加 DPO 的偏好优化流程。
AWS Machine Learning BlogAI 评分3434 如何用 Ray LLM Deep Learning Containers 在 Amazon EKS 上运行多节点推理
AWS 发布 Ray LLM Deep Learning Containers，可在 Amazon EKS 上用两个 GPU 节点部署单个大语言模型，将 prefill 与 decode 阶段分离并统一在一个 OpenAI 兼容端点后。该容器内置 vLLM、Ray Serve LLM、NIXL 和 EFA 栈，整个服务应用仅需一段 YAML，无需编写 handler 或构建自定义镜像。
AWS Machine Learning BlogAI 评分2828 在 Amazon SageMaker AI 上用 llama.cpp 部署决策模型
AWS 发布 llama.cpp 专用深度学习容器（DLC），可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型，并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
Tessl BlogAI 评分5050 如何只用自己拥有的文件约束编码智能体
用一份 ticket 测试编码智能体时，无约束运行只通过 8 项检查中的 1 项，而配置了 charter 的运行通过 8/8。charter 由四个杠杆组成：CLAUDE.md 指令、.claude/rules/ 路径规则、.claude/commands/ 等能力配置，以及唯一能拒绝写入的 .claude/hooks/。作者指出，绿色评分不等于正确变更，语义权限检查仍需人工审查。
Tessl BlogAI 评分3434 一个大脑：如何用 OpenClaw、Obsidian 和 Telegram 构建组织记忆
Leapfrog 团队用 OpenClaw、GitHub 仓库、Obsidian 和 Telegram 搭建了一套"组织大脑"，让公司知识与客户生产知识可通过自然语言查询。
Tessl BlogAI 评分3636 智能体代码审查的解剖：Tessl Code Review 如何重构 PR 审查流程
Tessl 提出智能体代码审查的六部分结构：标准、视角、发现、裁决、逐条回应与记忆，其中标准以 skills、docs 和 rules 形式存放在仓库中作为上下文。
Databricks BlogAI 评分2222 TinyFish 如何在 Databricks AI Runtime 上训练与部署其 web-native 模型
TinyFish 将其 web-native 模型的训练、评估与生产部署统一到 Databricks 上，用 AI Runtime 跑 GPU 后训练、MLflow 做评估、Model Serving 做线上服务。
AWS Machine Learning BlogAI 评分3636 Postman 如何在 Amazon Bedrock 上为 4000 万开发者运行 Agent Mode
Postman 的 Agent Mode 基于 Amazon Bedrock 运行，为 4000 万开发者提供跨 API 测试、文档、发现与实现的 AI 原生工作方式。
Databricks BlogAI 评分5858 Databricks 发布 Lakebase 数据库分支，为编码智能体提供隔离环境
Databricks 在博客中介绍 Lakebase Postgres 的数据库分支能力，可在不到一秒内分支整个数据库，无论其大小，采用 copy-on-write 让分支共享父分支数据、仅在分叉时占用额外存储，并支持 scale-to-zero 使空闲分支不产生计算成本。
NVIDIA Technical BlogAI 评分2222 用前沿 AI 模型为机器人创建 SimReady 资产的 5 个步骤
NVIDIA 给出用前沿 AI 模型为机器人仿真创建 SimReady 资产的 5 步流程，基于 NVIDIA Omniverse 库，并遵循 SimReady Foundation 规范、由 NVIDIA 智能体技能引导。该流程用于把 CAD 资产转换为 OpenUSD 并完成验证，开发者需在测试机器人行为前配置和校验材质、碰撞几何、关节及其他物理属性。