《深度学习(Deep Learning)》教学大纲
制定时间:2024 年 12 月
一、课程基本信息
(一)适用专业:智能科学与技术
(二)课程代码:3ZN1015A
(三)学分/课内学时:4学分/64学时
(四)课程类别:专业教育
(五)课程性质:必修/理论课
(六)先修课程:线性代数、机器学习、概率论与数理统计
(七)后续课程:语音识别技术、毕业设计(论文)
二、课程教学目标
本课程将讲授基于PyTorch深度学习框架的人工智能应用开发技术。课程不仅会讲解深度学习的基础理论和主流的模型及算法(包括线性回归、神经网络、卷积神经网络、循环神经网络等),而且会重点讲解如何基于PyTorch框架针对不同的应用场景进行深度学习模型的选择、构建和应用。经过课程的讲授和学生的学习,能够使学生具备基于深度学习方法的问题求解基本思想和初步的深度学习程序开发能力,促进其继续在人工智能专业方向深造或从事相关行业的工作。
(一)具体目标
目标1:掌握PyTorch深度学习框架;理解数据集、预测模型、损失函数、激活函数、反向传播等深度学习的关键基础知识。
目标2:掌握人工神经网络、卷积神经网络、循环神经网络等主流算法模型的原理及使用场景。
目标3:掌握科学思维方法,即能够针对不同的应用场景进行深度学习模型的选择、构建和应用;具备人工智能问题求解的基本思想和初步的人工智能应用软件开发能力。
(二)课程目标与毕业要求的对应关系
毕业要求 |
毕业要求指标点 |
课程目标 |
教学单元 |
评价方式 |
1. 能够应用数学、自然科学和工程科学的基本原理,识别、表达、并通过文献研究分析智能系统中的复杂工程问题,以获得有效结论。 |
毕业要求指标点2.5:能运用基本原理分析实际工程的影响因素,证实解决方案的合理性。 |
目标1 |
理论1、2、6、12 实验1~3、6、12 |
课内实验 |
目标2 |
理论3、4、7、8、13 实验4、7、8、13 |
期中考核 |
2. 具有自主学习和终身学习的意识,有不断学习和适应发展的能力。 |
毕业要求指标点12.1:具有自主学习和终身学习的意识,具备终身学习的知识基础和自主学习的方法; |
目标3 |
理论5、9~11、14~16 实验5、9~11、14~16 |
期末考核 |
三、教学内容与方法
(一)教学内容及要求
序号 |
教学单元 |
教学内容 |
学习产出要求 |
推荐学时 |
推荐教学方式 |
支撑课程 目标 |
备注 |
1 |
理论1: 深度学习简介 |
课程目标、所需教材、课程安排等基本信息;人工智能与深度学习历史和应用。 |
了解本课程的学习目标、教学安排;了解深度学习的历史与前景展望;了解深度神经网络应用案例。 |
2 |
讲授 案例 |
目标1 |
|
2 |
实验1: PyTorch基础(上) |
Anaconda和PyTorch开发环境搭建、PyTorch编程基础。 |
掌握Anaconda和PyTorch开发环境搭建方法、PyTorch编程基础操作。 |
2 |
讲授 案例 |
目标1 |
|
3 |
实验2: PyTorch编程(下) |
Anaconda和PyTorch开发环境搭建、PyTorch编程基础。 |
掌握Anaconda和PyTorch开发环境搭建方法、PyTorch编程基础操作。 |
2 |
实验 |
目标1 |
|
4 |
理论2: 机器学习知识回顾 |
优化的概念和计算;线性回归的概念;损失函数的概念;最小二乘法与梯度下降。 |
重温机器学习的知识,对未来将要学习的内容打好基础。 |
2 |
讲授 案例 |
目标1 |
|
5 |
实验3: 线性回归与梯度下降 |
线性回归方法,梯度下降的手动与自动实现。 |
掌握线性回归和梯度下降方法的实现方法。 |
2 |
实验 |
目标1 |
|
6 |
理论3: 感知机模型 |
从回归到分类;单层感知机的原理和局限;多层感知机原理;激活函数概念与计算。 |
掌握Logistic回归和Softmax回归的概念;掌握激活函数的概念和计算以及感知机模型的原理。 |
2 |
讲授 案例 |
目标2 |
|
7 |
理论4: 人工神经网络 |
求导的链式法则;反向传播概念和计算;基于PyTorch的神经网络构建。 |
掌握人工神经网络的概念和反向求导的计算方法。 |
2 |
讲授 案例 |
目标2 |
|
8 |
实验4: 人工神经网络 |
基于PyTorch的神经网络构建、利用神经网络识别各类数据集。 |
掌握基于PyTorch的神经网络构建方法。 |
2 |
实验 |
目标2 |
|
9 |
理论5: 模型评估与调优 |
数据集的划分;模型的性能指标;过拟合和欠拟合;参数迭代的稳定性。 |
掌握模型的评价方法和调优方法。 |
2 |
讲授 案例 |
目标3 |
|
10 |
实验5: 模型的性能指标与调优 |
对比不同模型的性能指标、模型避免过拟合和欠拟合的方法。 |
掌握模型的评价和调优方法。 |
2 |
实验 |
目标3 |
|
11 |
理论6: 卷积神经网络基础 |
卷积神经网络的结构,包括卷积层、卷积核、非线性层、汇聚层、全连接层等。 |
掌握卷积神经网络各个层的概念和卷积层输出大小的计算。 |
2 |
讲授 案例 |
目标1 |
|
12 |
理论7: 现代卷积神经网络1 |
现代卷积网络及其应用:LeNet、AlexNet、VGGNet。 |
掌握现代神经网络的结构、特点和应用。 |
2 |
讲授 案例 |
目标2 |
|
13 |
实验6: 简单卷积神经网络 |
卷积神经网络的PyTorch实现,利用卷积神经网络识别简单的图像数据集。 |
掌握卷积神经网络的PyTorch实现方法。 |
2 |
实验 |
目标1 |
|
14 |
实验7: LeNet实现 |
LeNet的PyTorch实现、BN层的实现及作用。 |
掌握现代神经网络的PyTorch实现方法。 |
2 |
实验 |
目标2 |
|
15 |
理论8: 现代卷积神经网络2 |
现代卷积网络及其应用:GoogleNet、ResNet、DenseNet、BN层;卷积神经网络性能优化的方法。 |
掌握现代神经网络的结构、特点和应用;掌握利用数据增强和模型迁移提高网络性能的方法。 |
2 |
讲授 案例 |
目标2 |
|
16 |
实验8: ResNet的实现 |
ResNet的实现、BN层的实现及作用。 |
掌握现代神经网络的PyTorch实现方法。 |
2 |
实验 |
目标2 |
|
17 |
理论9: 数据增强与模型迁移 |
数据增强、模型迁移。 |
掌握图像数据增强和模型迁移微调的方法。 |
2 |
讲授 案例 |
目标3 |
|
18 |
实验9: 数据增强与模型迁移 |
卷积神经网络性能优化的方法:数据增强、模型迁移。 |
掌握利用数据增强和模型迁移提高性能的方法。 |
2 |
实验 |
目标3 |
|
19 |
理论10: 目标检测1 |
目标检测的概念、锚框的概念、目标检测方法的原理:R-CNN。 |
掌握锚框的概念、R-CNN和SSD的结构和特点。 |
2 |
讲授 案例 |
目标3 |
|
20 |
实验10: 目标检测1 |
锚框的生成、R-CNN的实现。 |
掌握锚框的生成、R-CNN的PyTorch实现方法。 |
2 |
实验 |
目标3 |
|
21 |
理论11: 目标检测2 |
目标检测方法的原理:SSD、YOLO及CenterNet。 |
掌握SSD、YOLO和CenterNet的结构和特点。 |
2 |
讲授 案例 |
目标3 |
|
22 |
实验11: 目标检测2 |
SSD及YOLO模型的实现。 |
掌握SSD及YOLO模型的PyTorch实现方法。 |
2 |
实验 |
目标3 |
|
23 |
理论12: 循环神经网络 |
序列模型、文本预处理、语言模型、循环神经网络。 |
掌握文本模型与图像模型的不同点,掌握循环神经网络的概念和构建。 |
2 |
讲授 案例 |
目标1 |
|
24 |
实验12: 文本预处理与循环神经网络 |
文本预处理及循环神经网络的实现。 |
掌握文本预处理和循环神经网络的PyTorch实现方法。 |
2 |
实验 |
目标1 |
|
25 |
理论13: 现代循环神经网络 |
门控循环单元、长短期记忆网络、深度循环神经网络、编码器/解码器架构、序列到序列学习。 |
继续深入掌握现代循环神经网络的概念和构建。 |
2 |
讲授 案例 |
目标2 |
|
26 |
实验13: 深度循环神经网络与编码器/解码器 |
编码器/解码器架构的实现、文本生成应用。 |
掌握编码器/解码器架构的PyTorch实现方法以及利用RNN生成文本的方法。 |
2 |
实验 |
目标2 |
|
27 |
理论14: 自然语言处理应用 |
常见的自然语言处理方面的原理及应用:情感分析、机器翻译。 |
掌握常见的自然语言处理应用原理:文本情感分析和机器翻译。 |
2 |
讲授 案例 |
目标3 |
|
28 |
实验14: 文本情感分类 |
文本情感分析及数据集、使用循环神经网络进行情感分类。 |
掌握情感分析的PyTorch实现方法。 |
2 |
实验 |
目标3 |
|
29 |
实验15: 机器翻译 |
机器翻译与数据集、使用循环神经网络进行机器翻译。 |
掌握机器翻译的PyTorch实现方法。 |
2 |
实验 |
目标3 |
|
30 |
理论15: 循环神经网络扩展 |
注意力提示和汇聚、Bahdanau注意力、Transformer模型;词嵌入、词的相似性和类比、BERT。 |
掌握自然语言处理的进阶知识,扩充知识面。 |
2 |
讲授 案例 |
目标3 |
|
31 |
实验16: Transformer模型与文本摘要 |
建立Transformer模型并训练,利用模型完成文本摘要任务。 |
掌握Transformer模型及文本摘要应用的PyTorch实现方法。 |
2 |
实验 |
目标3 |
|
32 |
理论16: 课程总结 |
课程总结、答疑;布置期末大作业。 |
回忆课程知识,能利用深度学习方法解决现实问题。 |
2 |
讲授 案例 |
目标3 |
|
(二)教学方法
本课程注重理论教学与实验的结合,注重学生实践能力的培养,加强实验上机来巩固学生对于不同深度学习算法的理解,通过实验锻炼学生对于建立深度学习模型在各个环节上的动手能力,实验还将以目前比较常见的深度学习应用为实例,使学生体会深度学习广泛的应用场景,通过本课程的学习,学生将全面了解深度学习的正确运用,能够在实际项目的研究中运用深度学习加速工作,跟踪前沿的深度学习算法、思想、应用等,能够为学生从事人工智能下一步相关研究工作或在实践项目中的应用打下坚实的基础。
1.课堂讲授
采用启发式教学,激发学生主动学习的兴趣,培养学生独立思考、分析问题和解决问题的能力,引导学生主动通过实践和自学获得知识。
系统讲授深度学习的基本理论、基本知识和基本方法,使学生能够系统掌握用于解决智能科学类专业工程复杂问题的专业基础知识。
在教学过程中采用电子教案,Jupyter Notebook课件,多媒体教学与传统板书、教具教学相结合,提高课堂教学信息量,增强教学的直观性。
理论教学与工程实践相结合,引导学生应用数学、自然科学和工程科学的基本原理,采用现代设计方法和手段,进行问题分析、综合与仿真,培养其识别、表达和解决相关工程问题的思维方法和实践能力。
课内讨论和课外答疑相结合,每周至少一次进行答疑。
2. 实验教学
实验教学是深度学习课程中重要的实践环节,目的是培养学生运用实验方法研究解决智能类专业复杂工程问题的能力。课程必做实验16个,各实验要求学生独立完成并提交实验报告。
3. 专题研究
围绕本课程教学重点内容,设置专题研究环节,培养学生逐步具有应用PyTorch深度学习框架解决复杂工程问题中建模能力,结合所研究课题进行报告和设计报告的撰写,并清晰陈述观点和回答问题的能力。
组织形式及要求如下:
学生从教师给定的题目中选择或自主选题,以小组为单位进行,每个人的分工与责任需明确,并在报告中提供小组研讨情况记录及说明;
选题应结合典型深度学习产品,完成具体产品需求分析,设计深度学习算法,编写程序,给出设计成果,撰写研究报告,并进行陈述与答辩。
四、考核及成绩评定
(一)考核内容及成绩构成
课程目标 |
考核内容 |
成绩评定方式 |
成绩占总评分比例 |
目标成绩占当次考核比例 |
学生当次考核平均得分 |
目标达成 情况计算 公式 |
目标1:掌握PyTorch深度学习框架;理解数据集、预测模型、损失函数、激活函数、反向传播等深度学习的关键基础知识。 |
学生对于PyTorch深度学习框架使用方法的掌握程度;学生对于深度学习关键基础知识的掌握程度。 |
实验 |
30% |
100% |
A |

|
目标2:掌握人工神经网络、卷积神经网络、循环神经网络等主流算法模型的原理及使用场景。 |
学生对于主流深度学习算法模型的原理和使用方法的掌握程度。 |
期中考核 |
7% |
70% |
B1 |

|
期末考核 |
18% |
30% |
B2 |
目标3:掌握科学思维方法,即能够针对不同的应用场景进行深度学习模型的选择、构建和应用;具备人工智能问题求解的基本思想和初步的人工智能应用软件开发能力。 |
学生对于不同的应用场景进行深度学习模型的选择、构建和应用,以及开发具有针对性人工智能软件方法的掌握程度。 |
期中考核 |
3% |
30% |
C1 |

|
期末考核 |
42% |
70% |
C2 |
(二)实验成绩评定
必做实验16次,支撑目标1,共占总评分30%。对应目标的评分标准如下:
对应目标 |
目标1:掌握PyTorch深度学习框架;理解数据集、预测模型、损失函数、激活函数、反向传播等深度学习的关键基础知识。 |
考查点 |
实验操作 |
实验内容 |
实验报告 |
成绩比例 |
30% |
30% |
40% |
评分标准 |
100% 至 90% |
能够根据智能系统的性能及控制要求制定很好的实验方案,能正确熟练使用软件和相关模型完成实验。实验态度认真,操作能力强,操作、记录规范,沟通、协作很好。 |
实验记录全部完成无遗漏,内容丰富、图文并茂,流程图数量足够且正确,实验方案有自己独到的思路与见解。 |
有很强的总结实验和撰写报告的能力,实验报告内容完整、正确,有很好的分析与见解。文本表述清晰,书写工整,格式规范。 |
89.9% 至 80% |
能够根据智能系统的性能及控制要求制定良好的实验方案,能正确使用软件和相关模型完成实验。实验态度认真,操作能力强,操作、记录规范,沟通、协作良好。 |
实验记录比较完整,内容比较丰富、图文并茂,流程图数量足够且基本正确,实验方案有自己的思路与见解。 |
有较强的总结实验和撰写报告的能力,实验报告内容完整、正确,有较好的分析与见解。文本表述较为清晰,书写比较工整,格式规范。 |
79.9 至 70% |
能够根据智能系统的性能及控制要求制定实验方案,能正确使用软件完成实验。实验态度比较认真,操作能力较强,操作、记录规范,沟通、协作正常。 |
实验记录比较完整,内容比较丰富,流程图数量足够且基本正确。 |
有良好的总结实验和撰写报告的能力,实验报告内容较完整、正确,有自己的分析与见解。文本表述较为清晰,书写较为工整,格式较为规范。 |
69.9% 至 60% |
基本能够根据智能系统的性能及控制要求制定实验方案,能使用软件完成实验。实验态度不太认真,操作能力一般,操作、记录基本规范,有沟通、协作。 |
实验记录基本完整,内容基本够,流程图数量基本够但有少量错误。 |
有一定的总结实验和撰写报告的能力,实验报告内容基本完整、正确,没有分析或见解。文本表述基本清晰,书写基本工整,格式基本规范。 |
59.9%至 0 |
动手操作能力差;操作、记录不规范,实验中不能与合作者进行沟通、协作,不能正确使用仪器设备。 |
实验记录未完成,内容不够,流程图数量不够、错误多。 |
总结实验和撰写报告的能力差,实验报告内容不完整、错误多。文本表述不清晰,书写潦草、格式不规范。 |
(三)期中考核成绩评定
期中成绩评定采用期中作业的方式完成,支撑目标2和目标3,其中目标2占70%,目标3占30%,共占总评分的10%。对应评分标准如下:
对应目标 |
目标2:掌握人工神经网络、卷积神经网络、循环神经网络等主流算法模型的原理及使用方法。 目标3:能够针对不同的应用场景进行深度学习模型的选择、构建和应用;具备人工智能问题求解的基本思想和初步的人工智能应用软件开发能力。 |
考查点 |
模型选择 |
期中作业任务完成情况 |
期中作业报告 |
成绩比例 |
30% |
30% |
40% |
评 分 标 准 |
100% 至 90% |
模型选择非常合理,选用的模型类型、结构、训练方法、损失函数等能够很好地完成给定任务和附加任务。 |
根据期中作业要求实现所有功能,同时完成附加任务要求。 |
期中作业报告完整无遗漏,内容丰富、图文并茂,文字足够且正确,对实验方案有自己独到的思路与见解。 |
89.9% 至 80% |
模型选择合理,选用的模型类型、结构、训练方法、损失函数等能够完成给定任务和附加任务。 |
根据期中作业要求实现主要功能,对附加任务要求进行一定的尝试但并未完成。 |
期中作业报告较完整,内容较丰富、图文并茂,文字足够且基本正确,对实验方案有自己的思路与见解。 |
79.9 至 70% |
模型选择较为合理,选用的模型类型、结构、训练方法、损失函数等能基本完成给定任务,但存在一定缺陷。 |
根据期中作业要求实现主要功能。 |
期中作业报告较完整,内容较丰富,文字内容足够且基本正确。 |
69.9% 至 60% |
模型选择一般,选用的模型类型、结构、训练方法、损失函数等能够基本完成给定任务,但缺陷较多。 |
根据期中作业要求基本实现主要功能,但存在一定的缺陷。 |
期中作业报告基本完整,内容基本够,有少量错误。 |
59.9%至 0 |
模型选择不合理,选用的模型类型、结构、训练方法、损失函数等无法完成给定任务。 |
无法实现期中作业要求。 |
期中作业报告未完成,内容不够,错误多。 |
(四)期末考核成绩评定
期末成绩评定采用期末大作业的方式完成,支撑目标2和目标3,其中目标2占30%,目标3占70%,共占总评分的60%。对应评分标准如下:
对应目标 |
目标2:掌握人工神经网络、卷积神经网络、循环神经网络等主流算法模型的原理及使用方法。 目标3:能够针对不同的应用场景进行深度学习模型的选择、构建和应用;具备人工智能问题求解的基本思想和初步的人工智能应用软件开发能力。 |
考查点 |
深度学习模型选择 |
期末大作业任务完成情况 |
期末大作业报告 |
成绩比例 |
30% |
30% |
40% |
评 分 标 准 |
100% 至 90% |
深度学习模型选择非常合理,选用的模型类型、结构、训练方法、损失函数等能够很好地完成给定任务和附加任务。 |
根据期末大作业要求实现所有功能,同时完成附加任务要求。 |
期末大作业报告完整无遗漏,内容丰富、图文并茂,文字足够且正确,对实验方案有自己独到的思路与见解。 |
89.9% 至 80% |
深度学习模型选择合理,选用的模型类型、结构、训练方法、损失函数等能够完成给定任务和附加任务。 |
根据期末大作业要求实现主要功能,对附加任务要求进行一定的尝试但并未完成。 |
期末大作业报告较完整,内容较丰富、图文并茂,文字足够且基本正确,对实验方案有自己的思路与见解。 |
79.9 至 70% |
深度学习模型选择较为合理,选用的模型类型、结构、训练方法、损失函数等能基本完成给定任务,但存在一定缺陷。 |
根据期末大作业要求实现主要功能。 |
期末大作业报告较完整,内容较丰富,文字内容足够且基本正确。 |
69.9% 至 60% |
深度学习模型选择一般,选用的模型类型、结构、训练方法、损失函数等能够基本完成给定任务,但缺陷较多。 |
根据期末大作业要求基本实现主要功能,但存在一定的缺陷。 |
期末大作业报告基本完整,内容基本够,有少量错误。 |
59.9%至 0 |
深度学习模型选择不合理,选用的模型类型、结构、训练方法、损失函数等无法完成给定任务。 |
无法实现期末大作业要求。 |
期末大作业报告未完成,内容不够,错误多。 |
五、参考学习资料
(一)推荐教材:
阿斯顿·张(Aston Zhang),李沐(Mu Li),[美]扎卡里·C.立顿(Zachary C.Lipton) 等. 动手学深度学习(PyTorch版),ISBN:9787115600820. 北京:人民邮电出版社,2023.
斋藤康毅(日)著,陆宇杰译.深度学习入门-基于Python的理论与实现, ISBN:9787115485588. 北京:人民邮电出版社,2018.
斋藤康毅(日)著,陆宇杰译. 深度学习进阶-自然语言处理, ISBN:9787115547644. 北京:人民邮电出版社,2020.
(二)在线资源:
《深度学习入门:基于Python的理论与实现》配套资源
https://github.com/oreilly-japan/deep-learning-from-scratch
https://github.com/MemorialCheng/deep-learning-from-scratch
《动手学深度学习》电子预览版及资源
http://zh-v2.d2l.ai/
《深度学习进阶:自然语言处理》配套资源(官方发布)
https://github.com/oreilly-japan/deep-learning-from-scratch-2
《动手学深度学习》视频资源
https://space.bilibili.com/1567748478/channel/seriesdetail?sid=358497