Deepgram 如何将 Nova-3 迁移至 AWS Trainium2 优化语音推理

Deepgram 与 AWS 将 Nova-3 语音转文本模型迁移至 AWS Trainium2，并通过算子调优和 Rust 数据并行运行时提升离线批处理效率。该方案在单个 trn2.3xlarge 实例上运行 8 个模型副本，每美元处理的音频量比其他计算方案高 11%–70%。