跳到正文
热点事件持续更新

Baseten 优化 Qwen3-ASR 批量转写,称吞吐达 vLLM 7 倍

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Baseten 工程博客称,其优化后的 Qwen3-ASR 1.7B 批量转写部署在单张 RTX PRO 6000、64 并发下,吞吐达到原版 vLLM 实现的 7 倍以上;5 分钟音频的实时倍率从约 380x 提升到 2,645x,1 小时文件可达 3,128x。这些数字来自 Baseten 自述,并非独立验证。 该优化部署已作为 Baseten Model Library 的默认版本,可一键部署,并通过任意兼容 OpenAI 的转写客户端调用;也可搭配 Nemotron 3 Diarization 生成带说话人标注的转写。若需要实时转写,Baseten 另提供同一模型的流式预设。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. RadarAI
    Baseten 优化 Qwen3-ASR 1.7B 批量转写,吞吐达原版 vLLM 的 7 倍

    Baseten 工程博客称,其优化后的 Qwen3-ASR 1.7B 部署在单张 RTX PRO 6000、64 并发下吞吐达原版 vLLM 的 7 倍以上,5 分钟音频的实时倍率从约 380x 提升到 2,645x,1 小时文件可达 3,128x。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。