• 学习时长

    10周/建议每周至少6小时

  • 答疑服务

    专属微信答疑群/讲师助教均参与

  • 作业批改

    每章节设计作业/助教及时批改评优

  • 课程有效期

    一年/告别拖延,温故知新

*课程已报满,可预约下一期

  • 1:开课仪式
  • 第1章: TensorRT介绍
  • 第1节: TensorRT是什么
  • 2:【视频】TensorRT是什么
  • 第2节: TensorRT整体工作流程与优化策略
  • 3:【视频】TensorRT整体工作流程与优化策略
  • 第3节: TensorRT的组成与基本使用流程
  • 4:【视频】TensorRT使用的基本流程
  • 第4节: TensorRT DEMO:SampleMNIST
  • 5:【视频】demo
  • 第5节: TensorRT进阶
  • 6:【视频】TensorRT进阶
  • 第6节: DEMO演示
  • 7:【视频】Demo演示
  • 第2章: TensorRT转ONNX模型
  • 第1节: ONNX介绍
  • 8-1:【课件】 TensorRT 转换 ONNX模型 v2.0
  • 8-2:【视频】ONNX介绍
  • 第2节: 背景知识
  • 9:【视频】背景知识 lower概念
  • 第3节: TRT转换模型的主要痛点
  • 10:【视频】TRT转换模型的主要痛点
  • 第4节: onnx-parser & onnx-graphsurgen
  • 11:【视频】onnx-parser & onnx-graphsurgen
  • 第5节: 实践
  • 12-1:【视频】实践上:Transformer模型优化 解决不支持的算子
  • 12-2:【视频】 实践下:Transformer模型优化 合并LayerNorm算子
  • 第6节: polygraphy
  • 13:【视频】 polygraphy
  • 第3章: 模型介绍与课程目标
  • 14:【课件】模型介绍与课程目标
  • 第1节: 大模型分类介绍
  • 15:【视频】大模型分类
  • 第2节: 模型介绍:ControlNet Stable Diffusion(CNSD)模型
  • 16:【视频】 ControlNet Stable Diffusion模型简介
  • 第3节: 课程内容及目标介绍
  • 17:【视频】课程内容及目标介绍
  • 第4章: 环境搭建、代码结构与评价标准
  • 18:【课件】L2 diffusion-背景和技术介绍
  • 第1节: 环境搭建:手动搭建和docker两种方式
  • 19:【视频】Docker环境搭建
  • 第2节: 评价标准介绍:从速度和精度两个方面进行评估
  • 20:【视频】模型推理评价标准
  • 第3节: 4种模型转换方式类型与优缺点
  • 21:【视频】转换方式介绍及其优缺点
  • 第5章: 开始节点
  • 第1节: TensorRT转换方式介绍
  • 第2节: 模型结构详细介绍:模型结构图、单步调试代码
  • 第3节: diffusion类模型-PyTorch转TRT的工作流介绍
  • 第4节: 介绍 TRT python API并介绍TRT8.6的新API
  • 第6章: 节点一 FP16优化
  • 第1节: FP16优化
  • 第2节: 经验:TRT不同版本如何合并LayerNorm算子
  • 第3节: 实践:对CNSD模型进行FP16加速并评估
  • 第7章: 节点二 CUDA Graph 优化
  • 第1节: CUDA-graph:是什么,为什么,如何做
  • 第2节: TensorRT8.6 新特性,BuildOptimalLevel 优化
  • 第3节: 实践:对CNSD模型进行CUDA Graph优化和尝试BuildOptimalLevel 优化
  • 第9章: 节点三 CNSD int8量化
  • 第1节: 介绍使用TRT int8优化模型经验
  • 第2节: 解决精度损失问题: smoothquant 算法
  • 第3节: 实践:对CNSD模型进行int8量化优化
  • 第11章: 节点五 pipeline 优化
  • 第1节: 番外篇:优化迭代次数、使用蒸馏等优化方案
  • 第2节: nsys profile的使用
  • 第3节: unet+controlnet合并,并拼batch优化
  • 第4节: 优化scheduler模块:提前生成scheduler,减少耗时
  • 第5节: 显存管理优化

相关推荐

模型压缩与部署 模型压缩与部署 基础
模型压缩与部署 大语言模型 模型压缩与部署 进阶
模型压缩与部署 模型压缩与部署 基础

未注册验证后自动登录,注册/登录则视为同意

《服务协议》《隐私协议》

请完善资料,让我们更好的为您服务!

+86  (手机号已绑定)

未注册验证后自动登录,注册/登录则视为同意

《服务协议》《隐私协议》