SageMaker HyperPod 新增 Data Capture 能力
热点事件持续更新
SageMaker HyperPod 新增 Data Capture 能力
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
AWS 为 SageMaker HyperPod 推出 Data Capture 能力,可在端点、负载均衡器、模型 Pod 三个独立层级把线上推理的输入输出记录到 Amazon S3,AWS 称对模型可用性零影响。该能力目前适用于已部署推理算子的 HyperPod 集群。 AWS 在一篇教程中以 Qwen2.5-3B-Instruct 家电客服路由模型为例,演示用 Athena 查询发现新产品盲区、按 SQL 策略打标后微调,并称部署后验证了数据带来的准确率提升。若要在同一集群完成训练闭环,需额外安装 amazon-sagemaker-hyperpod-training-operator 的 EKS 插件;训练节点需具备出站网络访问(如通过 NAT 网关),拉取 vllm/vllm-openai 镜像也需外网。
AI 根据报道生成 · 59 分钟前更新
最新进展11月14日 02:01
用 Amazon SageMaker HyperPod Data Capture 构建模型改进飞轮报道时间线
沿着报道,了解事件的不同侧面。
11月14日
- AWS Machine Learning Blog用 Amazon SageMaker HyperPod Data Capture 构建模型改进飞轮
Amazon SageMaker HyperPod 新增 Data Capture 能力,可在端点、负载均衡器、模型 Pod 三个独立层级把线上推理输入输出记录到 Amazon S3,对模型可用性零影响。文章以 Qwen2.5-3B-Instruct 家电客服路由模型为例,用 Athena 查询发现新产品盲区、SQL 策略打标后微调,验证部署后数据带来的准确率提升。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。