AWS Machine Learning Blog· Yadan Wei·· 21 天前AI 评分49
在 SageMaker AI 上用 vLLM-Omni 构建实时语音应用（Part 1）
Build real-time voice applications with vLLM-Omni on SageMaker AI – Part 1
AI 导读
AWS 的 vLLM-Omni DLC 支持在 SageMaker AI 上部署 Qwen3-TTS，通过一条持久双向连接流式输入文本、边生成边输出语音。该 v1.5 DLC 新增双向流式能力标签与路由中间件，经 v1/audio/speech/stream 路由返回 24 kHz PCM 音频块，示例配 Gradio 应用。Part 2 将把该 DLC 用于图像与视频生成。
来源：AWS Machine Learning Blog · aws.amazon.com