
李宏毅深度学习作业集 leedl-tutorial3 步上手 15 个 PyTorch 实战 Notebook【免费下载链接】leedl-tutorial《李宏毅深度学习教程》李宏毅老师推荐苹果书PDF下载地址https://github.com/datawhalechina/leedl-tutorial/releases项目地址: https://gitcode.com/GitHub_Trending/le/leedl-tutorialleedl-tutorial 是 Datawhale 整理的李宏毅《机器学习》课程作业中文实现包含 15 份 PyTorch 实战 notebook 与配套讲义 PDF覆盖从回归、分类到领域适配、元学习的完整路线适合想动手系统练习深度学习的入门者也适合在少量标注数据场景下寻找可运行参考实现的人。 痛点与适用场景目标数据没有标签做迁移或少样本任务时最常见的困境是有标签的源数据充足目标数据却一片空白。HW11 的作业设定就是这个场景——用真实照片训练对手绘涂鸦无任何标签做识别逼你只靠特征本身解决问题而不是堆更多标注数据。想亲手验证算法而不是只看概念MAML 的 fast weights、DANN 的梯度反转看十遍 PPT 不如自己填一次 TODO。本仓库每个作业都把关键实现留空Homework/readme.md 中 15 份作业全部已完成checklist 全勾你可以边做边对照讲义逐格验证。 三步快速上手第一步克隆仓库git clone https://gitcode.com/GitHub_Trending/le/leedl-tutorial15 份作业都在Homework/下每个目录配有.ipynb和同名讲义.pdf例如 HW15-MetaLearning.ipynb 与 HW15.pdf。第二步配置运行环境多数作业面向 Google Colab 免费 GPU先跑 Google_Colab_Tutorial.ipynb 和 Pytorch_Tutorial_2.ipynb 两份热身。注意 notebook 内数据路径形如../input/ml2022spring-hw15/omniglot按各 notebook 内的下载说明把数据放到对应目录即可。第三步运行首个 notebook从 HW1 回归开始默认n_epochs3000训练记录会自动写入 tensorboard完成后运行%tensorboard --logdir./runs/就能直接看到损失曲线确认环境无误后再按分类、CNN 顺序推进。⚙️ 核心原理拆解仓库按数据/标签不足的不同成因拆成几条独立技术路线各自对应一个可运行的作业路线核心思路适用场景对应作业领域对抗训练DaNN特征提取器、分类器与域分类器联合训练并插入梯度反转让域分类器学不会从而逼出域不变特征源域有标签、目标域无标签HW11元学习MAML双层优化外层学易适应的初始化内层用 support set 少量梯度步快速收敛到新任务5-way 1-shot 等少样本分类HW15终身学习SCP持续吸收新任务用经验回放抑制灾难性遗忘模型不断遇到新类别HW14迁移学习微调直接复用 base 模型学到的表示少训几个 epoch最简基线用于对比HW15 的 base solverHW11 用真实照片训练、涂鸦识别的场景解释了为什么需要领域适配HW14 则把终身学习的各方法归纳成一张总览图 实测与效果数据以下数字全部来自 notebook 内预置的训练输出与统计可直接打开验证指标具体数值出处MAML 训练精度26.7% 提升至 84.8%30 epochsHW15 notebook 输出MAML 验证精度训练末段 78%峰值 85%同上5-way 1-shotOmniglot 28x28DaNN 参数量特征提取器 2,142,336 / 分类器 530,442 / 域分类器 1,055,233HW11 notebook 训练统计DaNN 训练耗时ColabSimple 约 1 小时Strong 56 小时同上知识蒸馏教师模型RestNet 测试精度约 89.9%HW13 notebook 注释这张 HW11 的曲线恰好说明了 DANN 的成功判据训练精度红收敛到约 0.98 后域分类精度黄被压到 0.54 附近——域分类器基本失效——而测试精度绿随之升到 0.73 并继续缓慢上升所以 notebook 才提醒训练 200 epoch 后仍值得继续训练。⚠️ 实战注意事项MAML 需要自己填实现notebook 把 First Order MAML 留成 TODO讲义 HW15.pdf 第 25 页有伪代码建议先开FOTrue跑通再写完整版本。内外层学习率是配套的默认inner_lr0.4、meta_lr0.001动其中一个就要重新观察训练精度曲线不要孤立调参。两条 solver 路线的 epoch 差 6 倍base solver 只跑 5 epochsmeta solver 跑 30 epochs对比实验时先确认跑的是哪条路线。lambda 是固定值HW11 取lambda0.1原论文中它是自适应的结果波动时可从这里入手调整。预留 GPU 时间HW11 的 Strong 基线在 Colab 上需要 56 小时先用 Simple 档位验证代码正确性再升级。 资源导航全部 15 份作业清单Homework/readme.md元学习实战HW15-MetaLearning.ipynb领域对抗训练HW11-Adaptation.ipynb终身学习HW14-LifeLongMachineLearning.ipynb环境热身教程Homework/Warmup/纸质版勘误修订表docs/errata.md这份仓库的价值在于每个概念都有可运行 notebook、每个 notebook 都留了动手空格。建议按 Warmup → HW1/HW2 → HW15 的顺序走用 5-way 1-shot 的 Omniglot 配置亲手实现一遍 First Order MAML把从大量数据到少量数据的完整链路跑通再回头对照 HW11、HW14 扩展到其他路线。【免费下载链接】leedl-tutorial《李宏毅深度学习教程》李宏毅老师推荐苹果书PDF下载地址https://github.com/datawhalechina/leedl-tutorial/releases项目地址: https://gitcode.com/GitHub_Trending/le/leedl-tutorial创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考