NVIDIA Technical Blog· Tanya Lenz·原文发布· 22 小时前AI 评分21
用 Global Performance Tuner 将 NVIDIA TensorRT 性能优化扩展到单一构建路径之外(第一部分)
Scaling NVIDIA TensorRT Performance Optimization Beyond a Single Build Route with the Global Performance Tuner, Part 1
AI 导读
NVIDIA 介绍 TensorRT 构建引擎时的调度(scheduling)过程:涉及图 IR 变换、算子融合、实现选择、内存放置和量化等相互依赖的决策,本质是一个存在多种合法答案的编译问题。Global Performance Tuner 可将性能优化扩展到单一构建路径之外。
本站提供 AI 导读,完整报道请前往来源网站阅读。
阅读原文 NVIDIA Technical Blog · developer.nvidia.com