课程中心
公开课
面试题库
企业服务
企业内训
企业招聘
高校合作
课程中心
公开课
面试题库
企业服务
企业内训
企业招聘
高校合作
登录/注册
登录/注册
登录/注册
登录 /注册
课程中心
公开课
面试题库
企业服务
企业内训
企业招聘
高校合作
深度学习模型推理加速项目实践 （Stable Diffusion）
第36任务： 【视频】解决变长输入的CUDA Graph策略
查看课程
任务列表
第1任务： 开课仪式
第2任务： 【课件】TensorRT介绍
第2任务： 【视频】TensorRT是什么
第3任务： 【视频】TensorRT整体工作流程与优化策略
第4任务： 【视频】TensorRT使用的基本流程
第5任务： 【视频】demo
第6任务： 【视频】TensorRT进阶
第7任务： 【视频】Demo演示
第8任务： 【课件】 TensorRT 转换 ONNX模型 v2.0
第8任务： 【视频】ONNX介绍
第9任务： 【视频】背景知识 lower概念
第10任务： 【视频】TRT转换模型的主要痛点
第11任务： 【视频】onnx-parser & onnx-graphsurgen
第12任务： 【视频】实践上：Transformer模型优化 解决不支持的算子
第12任务： 【视频】 实践下：Transformer模型优化 合并LayerNorm算子
第13任务： 【视频】 polygraphy
第14任务： 【课件】模型介绍与课程目标
第15任务： 【视频】大模型分类
第16任务： 【视频】 ControlNet Stable Diffusion模型简介
第17任务： 【视频】课程内容及目标介绍
第18任务： 【课件】diffusion-背景和技术介绍
第19任务： 【视频】Docker环境搭建
第20任务： 【视频】模型推理评价标准
第21任务： 【视频】转换方式介绍及其优缺点
第22任务： 【课件】L5 stable diffusion加速 开始节点.pdf
第23任务： 【视频】各优化节点介绍
第24任务： 【视频】如何快速了解模型结构
第24任务： 【视频】实操演示
第25任务： 【视频】Pytorch模型转ONNX
第26任务： 【视频】ONNX模型转TensorRT
第27任务： 【说明】项目环境搭建
第27任务： 【视频】作业实践安排
第27任务： 【作业】第五章
第28任务： 【课件】节点二 fp16优化
第29任务： 【视频】为什么FP16是性价比最高的优化方法
第30任务： 【视频】FP16优化的经验分享
第31任务： 【课件】节点二 fp16 实战
第31任务： 【视频】实战内容概览
第32任务： 【视频】项目Profile
第32任务： 【视频】项目profile的意义
第33任务： 【视频】FP16溢出调试实践
第34任务： 【课件】节点三 cuda-graph v1.2
第35任务： 【视频】为什么要做CUDA Graph
第35任务： 【视频】如何在该项目中使用CUDA Graph
第36任务： 【视频】解决变长输入的CUDA Graph策略
第37任务： 【视频】BuildOptimalLevel优化
第38任务： 【视频】实践作业
第38任务： 【作业】第七章
第39任务： 【课件】节点四 pipeline 优化
第40任务： 【视频】本章内容概览
第41任务： 【视频】迭代次数优化与GroupNorm
第41任务： 【视频】模型内部优化实践
第42任务： 【视频】 拼batch优化
第43任务： 【视频】实践作业
第43任务： 【作业】第八章
第44任务： 【课件】TensorRT INT8量化加速
第44任务： 【视频】TRT FP16优化
第45任务： 【视频】TRT INT8量化算法（上）
第45任务： 【视频】TensorRT INT8量化算法（下）
第46任务： 【视频】内容概述
第47任务： 【视频】INT8值不值得做
第48任务： 【视频】如何做INT8量化：以ControlNet为例
第49任务： 【视频】解决INT8量化误差的3种方法
第50任务： 【课件】节点五 int8 量化-实践
第50任务： 【视频】分析INT8误差
第50任务： 【视频】解决INT8误差的方法
第50任务： 【视频】实践演示
第51任务： 【课件】进阶节点：深度优化
第52任务： 【视频】内容概述
第53任务： 【视频】CNSD模型的结构解析
第53任务： 【视频】模型代码结构分析
第54任务： 【视频】模型冗余计算的优化
第55任务： 【视频】深度优化碎碎念
