• 学习时长

    8周/建议每周至少6小时

  • 答疑服务

    专属微信答疑群/讲师助教均参与

  • 作业批改

    每章节设计作业/助教及时批改评优

  • 课程有效期

    一年/告别拖延,温故知新

*课程已报满,可预约下一期

  • 1:百度文心大模型ERNIE-第三期开课仪式
  • 第1章: TensorRT介绍
  • 第1节: TensorRT是什么
  • 2-1:【课件】TensorRT介绍
  • 2-2:【视频】TensorRT是什么
  • 第2节: TensorRT整体工作流程与优化策略
  • 3:TensorRT整体工作流程与优化策略
  • 第3节: TensorRT的组成与基本使用流程
  • 4:【视频】TensorRT使用的基本流程
  • 第4节: TensorRT DEMO:SampleMNIST
  • 5:【视频】demo
  • 第5节: TensorRT进阶
  • 6:【视频】TensorRT进阶
  • 第6节: DEMO演示
  • 7:【视频】Demo演示
  • 第2章: TensorRT转换ONNX模型
  • 第1节: ONNX 介绍
  • 8-1:【课件】 TensorRT 转换 ONNX模型 v2.0
  • 8-2:【视频】ONNX介绍
  • 第2节: 背景知识
  • 9:【视频】背景知识 lower概念
  • 第3节: TRT转换模型的主要痛点
  • 10:【视频】TRT转换模型的主要痛点
  • 第4节: onnx-parser & onnx-graphsurgen
  • 11:【视频】onnx-parser & onnx-graphsurgen
  • 第5节: 实践
  • 12-1:【视频】实践上:Transformer模型优化 解决不支持的算子
  • 12-2:【视频】 实践下:Transformer模型优化 合并LayerNorm算子
  • 第6节: polygraphy
  • 13:【视频】 polygraphy
  • 第3章: 模型框架与模型转换方式介绍
  • 14-1:【课件】Ernie项目-模型框架与模型转换方式介绍
  • 14-2:资料分享
  • 第1节: 课程介绍和模型介绍
  • 15:【视频】课程介绍和模型介绍
  • 第2节: 转换方式对比
  • 16:【视频】转换方式对比
  • 第4章: 环境搭建
  • 第1节: 加速节点介绍
  • 17-1:【课件】Ernie项目-开始节点
  • 17-2:【视频】 加速节点介绍
  • 17-3:代码
  • 第2节: 环境和目录结构介绍
  • 18:【视频】环境和目录结构介绍
  • 第3节: 测试数据介绍
  • 19:【视频】 测试数据介绍
  • 第4节: C++ infer与评价标准
  • 20:【视频】 C++ infer与评价标准
  • 第5节: 构建方式介绍
  • 21:【视频】 构建方式介绍
  • 第6节: 开始节点实战
  • 22-1:【视频】开始节点实战
  • 22-2:L4 Project:环境搭建
  • 第7节: 作业
  • 23-1:实践作业
  • 23-2:【作业】第四章
  • 第5章: 第一阶段优化方法:性价比最高的推理加速优化
  • 24:【课件】Ernie项目-第一阶段优化方法
  • 第1节: 加速节点概况
  • 25:【视频】加速节点概况
  • 第2节: FP16优化
  • 26: 【视频】FP16优化
  • 第3节: 合并LayerNorm算子
  • 27:【视频】合并layernorm算子
  • 第4节: 作业
  • 28-1:作业描述
  • 28-2:【作业】第五章
  • 第6章: 第二阶段优化方法:CUDA Graph && 输入优化
  • 29:【课件】输入优化&CUDA Graph
  • 第1节: 输入优化方法:减少数据传输次数&提高传输速度
  • 30-1:【视频】减少传输次数&提高传输速度
  • 30-2:【代码】输入优化demo.docx
  • 第2节: 输入优化方法:batching与overlap
  • 31: 【视频】batching与overlap
  • 第3节: 补充知识:CUDA stream
  • 32-1:【课件】CUDA C编程:CUDA stream
  • 32-2:【视频】CUDA Stream介绍
  • 32-3:【视频】CUDA Stream为什么有效
  • 32-4:【视频】CUDA Stream默认流的表现
  • 第4节: 什么是CUDA Graph以及为什么要做
  • 33-1:【课件】CUDA Graph
  • 33-2:【视频】什么是CUDA Graph以及为什么要做
  • 第5节: 如何做CUDA Graph
  • 34:【视频】如何做CUDA Graph
  • 第6节: CUDA Graph缺点及解决方案
  • 35:【视频】CUDA Graph缺点及解决方案
  • 第7节: 实战:输入优化与 CUDA Graph
  • 36:L6 Project:输入优化与 CUDA Graph
  • 第8节: 作业
  • 37-1:【文档】作业说明
  • 37-2:【作业】第六章
  • 第7章: 第三阶段优化方法:大规模算子合并加速
  • 38:【课件】Ernie项目 算子合并
  • 第1节: 为什么要做大规模算子合并
  • 39:【视频】为什么要做大规模算子合并
  • 第2节: 模型结构详解
  • 40:【视频】模型结构讲解
  • 第3节: 加速策略1:合并Encoder模块以及Input Embedding模块
  • 41:【视频】合并Encoder模块以及Input Embedding模块
  • 第4节: 加速策略2:加速Attention模块
  • 42:【视频】 加速Attention模块
  • 第5节: 加速策略3:去除冗余计算等策略
  • 43:【视频】去除冗余计算等策略
  • 第8章: 终点:结合开源方案
  • 第1节: 终点:结合开源方案
  • 44:【课件】终点:结合开源方案
  • 第2节: 基础版本开源代码
  • 45:【视频】基础版本开源代码
  • 第3节: 进阶fused版本
  • 46:【视频】进阶fused版本

相关推荐

模型压缩与部署 模型压缩与部署 基础
模型压缩与部署 大语言模型 模型压缩与部署 进阶
模型压缩与部署 模型压缩与部署 基础
模型压缩与部署 模型压缩与部署 进阶

未注册验证后自动登录,注册/登录则视为同意

《服务协议》《隐私协议》

请完善资料,让我们更好的为您服务!

+86  (手机号已绑定)

未注册验证后自动登录,注册/登录则视为同意

《服务协议》《隐私协议》