AWS 发布 SageMaker TTS 扩缩容目标值推导教程

AWS Machine Learning Blog 发布教程，针对 Amazon SageMaker AI 上自托管 TTS 端点扩缩容目标值靠猜的问题，给出用实测数据推导配置的方法：将 8200 万参数的 Kokoro-82M 以自定义容器部署在实时端点上，实测单实例在 SLO 内可承受的最高并发 Q_max 和一次完整扩容耗时 T_total，再通过算术推导出扩容阈值、缩容阈值及两个冷却时间。 教程称，示例中的每个数字都可用两份已提交的测量文件重跑复现，不产生 AWS 调用和新支出；正式实测前可先用 dry-run 预估约 36 分钟的实跑耗时。运行扩容测量需 ml.g5.xlarge 服务配额在基线之上至少留一个空位。 教程同时提示，示例容器固定的是较早版本的 PyTorch，存在已知漏洞 PYSEC-2026-2286（在 torch 2.10.0 中修复），用于概念验证之外场景前应先审查并升级。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。