跳到正文
热点事件持续更新

AssemblyAI用EC2 Spot降语音推理成本70%

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

AssemblyAI 在 Amazon ECS 上混合使用 EC2 Spot 与 On-Demand GPU 实例运行语音转文字推理,据 AWS Machine Learning Blog 介绍,其推理计算成本较按需价格节省 70%。Spot 实例中断前有 2 分钟预警,任务经 SQS 队列重新入队重试,客户侧只表现为处理时间小幅增加,转写仍能完成并交付。 其 Spot 池覆盖 g4dn、g5、g6 三类 NVIDIA GPU 实例家族,部署在 us-west-2 与 eu-west-2 以满足数据驻留合规。AssemblyAI 的语音转文字 API 已在 AWS Marketplace 上架。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. AWS Machine Learning Blog
    AssemblyAI 如何用 Amazon EC2 Spot 优化语音转文字推理成本

    AssemblyAI 在 Amazon ECS 上混合使用 EC2 Spot 与 On-Demand GPU 实例运行语音转文字推理,通过 SQS 队列重试机制在 Spot 中断的 2 分钟预警内把任务重新入队,兼顾成本与 SLA。其 Spot 池覆盖 g4dn、g5、g6 三类 NVIDIA GPU 实例家族,并部署在 us-west-2 与 eu-west-2 以满足数据驻留合规。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。