• 学习时长

    8周/建议每周至少6小时

  • 答疑服务

    专属微信答疑群/讲师助教均参与

  • 作业批改

    每章节设计作业/助教及时批改评优

  • 课程有效期

    一年/告别拖延,温故知新

*课程已报满,可预约下一期

  • 1-1:开课仪式
  • 1-2:【视频】课程有什么用
  • 第1章: TensorRT介绍
  • 第1节: TensorRT是什么
  • 2-1:【课件】TensorRT介绍
  • 2-2:【视频】TensorRT是什么
  • 第2节: TensorRT整体工作流程与优化策略
  • 3:TensorRT整体工作流程与优化策略
  • 第3节: TensorRT的组成与基本使用流程
  • 4:【视频】TensorRT使用的基本流程
  • 第4节: TensorRT demo:SampleMNIST
  • 5:【视频】demo
  • 第5节: TensorRT进阶
  • 6:【视频】TensorRT进阶
  • 第6节: DEMO演示
  • 7:【视频】Demo演示
  • 第2章: TensorRT转换ONNX模型
  • 第1节: ONNX 介绍
  • 8-1:【课件】 TensorRT 转换 ONNX模型 v2.0
  • 8-2:【视频】ONNX介绍
  • 第2节: 背景知识
  • 9:【视频】背景知识 lower概念
  • 第3节: TRT转换模型的主要痛点
  • 10:【视频】TRT转换模型的主要痛点
  • 第4节: onnx-parser & onnx-graphsurgen
  • 11:【视频】onnx-parser & onnx-graphsurgen
  • 第5节: 实践
  • 12-1:【视频】实践上:Transformer模型优化 解决不支持的算子
  • 12-2:【视频】 实践下:Transformer模型优化 合并LayerNorm算子
  • 第6节: polygraphy
  • 13:【视频】 polygraphy
  • 第3章: 模型框架与模型转换方式介绍
  • 14-1:【课件】Ernie项目-第一章
  • 14-2:资料分享
  • 第1节: 课程介绍和模型介绍
  • 15:【视频】课程介绍和模型介绍
  • 第2节: 转换方式对比
  • 16:【视频】转换方式对比
  • 第4章: 起点:实践环境搭建
  • 第1节: 加速节点介绍
  • 17-1:【课件】Ernie项目-开始节点
  • 17-2:【视频】 加速节点介绍
  • 17-3:代码
  • 第2节: 环境和目录结构介绍
  • 18:【视频】环境和目录结构介绍
  • 第3节: 测试数据介绍
  • 19:【视频】 测试数据介绍
  • 第4节: C++ infer与评价标准
  • 20:【视频】 C++ infer与评价标准
  • 第5节: 构建方式介绍
  • 21:【视频】 构建方式介绍
  • 第6节: 实战:开始节点
  • 22-1:【视频】开始节点实战
  • 22-2:L4 Project:环境搭建
  • 第7节: 作业
  • 23-1:实践作业
  • 23-2:【作业】第四章
  • 第5章: 第一阶段优化方法:性价比最高的推理加速优化
  • 24:【课件】Ernie项目-第一阶段优化方法
  • 第1节: 加速节点概况
  • 25:【视频】加速节点概况
  • 第2节: FP16优化
  • 26: 【视频】FP16优化
  • 第3节: 合并LayerNorm算子
  • 27:【视频】合并layernorm算子
  • 第4节: 实战:FP16优化
  • 28:FP16优化
  • 第5节: 作业
  • 29-1:作业描述
  • 29-2:【作业】第五章
  • 第6章: 第二阶段优化方法:CUDA Graph && 输入优化
  • 第1节: 输入优化方法:减少数据传输次数&提高传输速度
  • 第2节: 输入优化方法:batching与overlap
  • 第3节: 补充知识:CUDA stream
  • 第4节: 什么是CUDA Graph以及为什么要做
  • 第5节: 如何做CUDA Graph
  • 第6节: 作业
  • 第7章: 第三阶段优化方法:大规模算子合并加速
  • 第1节: 为什么要做大规模算子合并
  • 第2节: 模型结构详解
  • 第3节: 加速策略1:合并Encoder模块以及Input Embedding模块
  • 第4节: 加速策略2:加速Attention模块
  • 第5节: 加速策略3:去除冗余计算等策略
  • 第6节: 参考方案讲解

相关推荐

机器学习 机器学习 计算机视觉 环境感知 基础
机器学习 机器学习 进阶
人工智能基础 基础

未注册验证后自动登录,注册/登录则视为同意

《服务协议》《隐私协议》

请完善资料,让我们更好的为您服务!

+86  (手机号已绑定)

未注册验证后自动登录,注册/登录则视为同意

《服务协议》《隐私协议》