课程中心
公开课
面试题库
企业服务
企业内训
企业招聘
高校合作
课程中心
公开课
面试题库
企业服务
企业内训
企业招聘
高校合作
登录/注册
登录/注册
登录/注册
登录 /注册
课程中心
公开课
面试题库
企业服务
企业内训
企业招聘
高校合作
生成式预训练语言模型：理论与实战
第34任务： 【课件】Transformer的核心机制-注意力Attention
查看课程
任务列表
第1任务： 开课仪式
第2任务： 0819直播答疑回放
第3任务： 【课件】从图灵测试到ChatGPT-NLP简史-3.1.pdf
第4任务： 【视频】语言模型的引入
第5任务： 【视频】语言模型的进化
第6任务： 【视频】预训练语言模型
第7任务： 【视频】大模型的使用模式：Pretrain+fine-tuning与Prompt-Instruct
第8任务： 【课件】最简单的语言模型N-gram
第9任务： 【视频】再谈什么是语言模型
第10任务： 【视频】N-gram
第11任务： 【视频】英文分词中的子词
第12任务： 【代码】02_NGram
第12任务： 【视频】创建一个bigram字符预测模型
第12任务： 【作业】第二章
第13任务： 【课件】Lecture3 词的向量表示Word2Vec
第14任务： 【视频】计算机如何表示词
第15任务： 【视频】One-Hot编码
第16任务： 【视频】 词的分布式表示
第17任务： 【视频】词向量的定义
第18任务： 【视频】语言模型为什么需要词向量
第19任务： 【视频】Word2Vec的思想
第20任务： 【视频】Skip-Gram词向量模型实践
第21任务： 【视频】Word2Vec总结：训练过程及其局限
第22任务： 【代码】03_Word2Vec
第22任务： 【视频】作业安排
第22任务： 【作业】第三章
第23任务： 【课件】神经概率语言模型NPLM
第24任务： 【视频】神经概率语言模型的引入
第25任务： 【视频】NPLM思想与结构
第26任务： 【视频】NPLM模型实践
第27任务： 【代码】04_NPLM
第27任务： 【视频】NPLM模型的增强与改进
第27任务： 【作业】第四章
第28任务： 【课件】Transformer的基本架构-序列到序列-Seq2Seq
第29任务： 【视频】Seq2Seq的思想由来
第30任务： 【视频】Seq2Seq架构详解
第31任务： 【视频】Seq2Seq模型实现机器翻译任务
第32任务： 【视频】Seq2Seq的局限
第33任务： 【代码】05_Seq2Seq Code
第33任务： 【视频】作业说明
第33任务： 【作业】第五章
第34任务： 【课件】Transformer的核心机制-注意力Attention
第34任务： 【代码】Attention.zip
第35任务： Seq2Seq的局限以及Attention如何解决这种局限
第36任务： 【视频】点积注意力思想
第36任务： 【视频】缩放点积注意力
第36任务： 【视频】编码器-解码器注意力
第36任务： 【视频】自注意力与多头注意力
第37任务： 【视频】注意力中的掩码
第38任务： 【代码】06_Attention
第38任务： 【视频】总结
第38任务： 【作业】第六章
第38任务： 【作业思路】Attention注意力机制
第39任务： 【课件】Transformer的架构拆解和代码实现
第40任务： 【视频】Transformer引入
第41任务： 【视频】Transformer架构概览
第41任务： 【视频】组件：缩放点积注意力与多头注意力
第41任务： 【视频】组件：逐位置前向传播与正弦位置编码
第41任务： 【视频】组件：填充位置掩码
第42任务： 【视频】组件：编码器与解码器层
第43任务： 【视频】基于Transformer的机器翻译
第44任务： 【代码】Transformer Code
第44任务： 【视频】作业
第44任务： 【作业】第七章
第44任务： 【作业思路】Transformer
第45任务： 【课件】L8 GPT：生成式预训练Transformer
第46任务： 【视频】为什么GPT只需要Decoder
第47任务： 【视频】基础模型
第48任务： 【视频】GPT模型架构
第49任务： 【实践】训练Wiki-GPT
第49任务： 【视频】程序架构梳理
第50任务： 【代码】WikiGPT
第50任务： 【视频】作业
第50任务： 【作业】第八章
第50任务： 【作业思路】GPT
第51任务： 【课件】基于人类反馈的强化学习RLHF
第52任务： 【视频】Transformer大模型家族谱系
第53任务： 【视频】ChatGPT训练方法
第54任务： 【视频】ChatGPT整体训练流程
第54任务： 【视频】miniChatGPT
第55任务： 【视频】DeepSpeed Chat介绍
第55任务： 【视频】Deepspeed01
第55任务： 【视频】Deepspeed02
第56任务： 【代码】09_ChatGPT
第56任务： 【视频】作业安排
第56任务： 【作业】第九章
第56任务： 【作业思路】GPT
第57任务： 【课件】Lecture10 GPT-4 API - Prompt Engineering
第58任务： 【视频】章节介绍
第59任务： 【视频】AGI的星星之火
第60任务： 【视频】提示工程技巧
第61任务： 【代码】10_GPT4-API
第61任务： 【视频】提示工程实践
第61任务： 【作业】第十章
第61任务： 【视频】L10 示范
第61任务： 【作业思路】GPT_API
