课程封面

transformer教程

共11节 已有7人学过

主讲老师学不会电磁场

更新时间2024-10-12 18:50:00

课件资料  下载

免费

加载中...

课程介绍

我们将从头编写一个transformer模型

讲师介绍

讲师头像

学不会电磁场

主要研究深度学习和嵌入式

AI课程导读

这门课程以“从零手写 Transformer”为主线,带你从环境配置、词嵌入与位置编码开始,逐步实现多头注意力、Add & Norm、前馈网络、编码器与解码器,再补齐掩码、数据构建、训练循环和自回归推理,最终跑通一个完整的序列到序列模型。它不满足于调用现成 API,而是用公式配合代码逐句拆解,让你真正看懂张量形状、Q/K/V、交叉注意力、残差连接和 mask 的作用。课程适合有 Python 与 PyTorch 基础、希望深入理解 Transformer 内部机制的学习者,也适合想通过动手实现打通 NLP 模型训练全流程的开发者。学完后,你将能够独立搭建并调试 Transformer,理解训练与推理的关键细节,具备继续学习大模型、注意力机制和序列生成任务的扎实基础。

AI课程大纲

学不会电磁场

主要研究深度学习和嵌入式

评价

给该课程打分:

发表