博士,欢迎回来。本终端为罗德岛新入职干员准备了一套从零开始的深度学习训练课程。
从张量和梯度讲起,一路学到卷积网络、LSTM 和 Transformer,最后亲手写出一个会续写唐诗的迷你 GPT。每个作战单元都有可交互的模拟训练、可以直接运行的代码、训练任务和作战评价。
code/ 文件夹里有每章完整可运行的 Python 代码。自己敲一遍,再改一改参数。| 周 | 作战内容 |
|---|---|
| 第 1 周 | 第 1、2 章:环境、张量 |
| 第 2 周 | 第 3、4 章:自动求导、线性回归 |
| 第 3 周 | 第 5 章:神经网络与分类 |
| 第 4 周 | 第 6 章:训练技巧 |
| 第 5~6 周 | 第 7 章:CNN |
| 第 7 周 | 第 8 章:RNN / LSTM |
| 第 8 周 | 第 9 章:Transformer |
| 第 9~10 周 | 第 10 章 + 期末作战(项目) |
全部代码在 code/ 文件夹中,已在 PyTorch 2.x(CPU)上实际运行验证。先安装依赖:pip install -r code/requirements.txt,然后进入 code 文件夹运行,例如 python ch05_mnist_mlp.py。
| 文件 | 内容 | 运行时间(CPU) |
|---|---|---|
ch01_check_env.py | 检查环境,复习 NumPy | 1 秒 |
ch02_tensor.py | 张量的常用操作 | 1 秒 |
ch03_autograd.py | 自动求导与梯度下降 | 1 秒 |
ch04_linear_regression.py | 线性回归:手写版与标准版 | 约 5 秒 |
ch05_mnist_mlp.py | MLP 识别手写数字,约 98% | 约 1 分钟 |
ch06_training_tricks.py | Fashion-MNIST 规范训练脚本 | 约 3~5 分钟 |
ch07_cnn_cifar10.py | CNN 识别 CIFAR-10,约 80%+ | 约 20~40 分钟(建议 GPU) |
ch08_lstm_sine.py | LSTM 预测正弦波 | 约 1 分钟 |
ch08_text_classify.py | 中文情感分类(玩具数据) | 几秒 |
ch09_mini_gpt.py | 从零实现迷你 GPT 续写唐诗 | 约 2 分钟 |
ch10_transfer_learning.py | ResNet-18 迁移学习与单图预测 | 约 5~10 分钟 |
| 资源 | 说明 |
|---|---|
| 《动手学深度学习》 | 李沐等著,免费在线阅读,有 PyTorch 代码。本课程最好的配套读物 |
| PyTorch 官方教程 | 权威,遇到具体 API 时查阅 |
| 李宏毅《机器学习》 | 台大公开课,B 站可看,讲解生动 |
| 3Blue1Brown 神经网络系列 | 用动画讲清反向传播和 Transformer,B 站有中文字幕 |
| 吴恩达《深度学习专项课程》 | 经典入门课,理论清晰 |