Deepgram 将 Nova-3 移植到 AWS Trainium2，每美元音频处理量提升 11–70%

Deepgram 与 AWS 合作，将 Nova-3 语音转文字模型移植到 AWS Trainium2，并在 AWS Machine Learning Blog 发布工程复盘。最终配置在单台 EC2 trn2.3xlarge 实例上运行 8 个模型副本，在 Deepgram 的离线批量转写工作负载上，按评估当时的实例价格计算，每美元处理的音频量比原有计算方案多 11–70%。 优化工作包括将 Nova-3 移植到 AWS Neuron 软件栈、内核级调优，以及构建数据并行的 Rust 运行时，让 Deepgram 自己的模型服务器调用 Trainium。该方案面向呼叫中心分析、医疗转录等离线批量工作负载。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。