Deepgram优化Nova-3的Trainium2推理

2026年10月20日，AWS Machine Learning Blog披露，Deepgram与AWS已将Nova-3语音转文本模型从标准PyTorch移植至AWS Trainium2，用于离线批处理推理。迁移后的最终配置在单台Amazon EC2 trn2.3xlarge上运行8个模型副本。Deepgram以每美元可处理的音频量衡量此次优化结果，称该配置较其此前使用的计算选项提高11%至70%。报道披露了模型迁移路径、最终实例、副本数量及相对效率区间，但未提供单副本吞吐量、延迟或绝对处理规模。

AI 根据报道生成 · 50 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。