课程是一门面向高年级本科生,培养深度学习相关理论基础及实践能力(以自然语言处理为例)的课程。课程在理论内容表述上尽量做到深入浅出,且附有大量相关代码及演示,从而使学生获得理性和感性的认识,便于理解。课程以目前流行的Python作为主编程语言。如果你想亲密接触深度学习、人工智能等并愿意付诸实践,请加入进来吧!
—— 课程团队
考核评价的最终成绩依据学生的出勤、平时作业和课程研修报告。
(1)出勤及课堂互动表现(折合20分)。课堂安排提问互动环节并根据效果计分。
(2)平时作业2次(折合20分)。要求学生提交小程序或运行报告,侧重考察学生利用所学方法动手编程解决实际问题的能力。
(3)课程报告(折合60分)。课程报告主要侧重在利用所学深度学习方法提出解决现有较大问题的方案、创新思路设计。学生需要对题目进行深入调研,在运用相关所学知识和方法基础上,发挥想象力,探索出解决问题的步骤,并撰写报告。其格式可参照学术论文的格式。
第一章:概论
1.1 深度学习概念的提出
n 深度学习概念的提出
1.2 数据集拆分问题
n 数据集拆分方法
n 数据集拆分程序
1.3 分类性能如何评价
n 分类性能度量方法之准确率、精确率及召回率
n 分类性能度量方法之准确率、精确率及召回率程序示例
n 分类性能度量方法之绘制P-R曲线示例
n 分类性能度量方法之ROC曲线
n 分类性能度量方法之ROC曲线绘制程序示例
n 分类效果可视化方法之混淆矩阵及程序示例
1.4 参数调优问题
n K折交叉验证
n 使用网格搜索进行参数调优
1.5 回归性能如何评价
n 回归问题评价方法及程序
n 逻辑回归损失计算方法及程序示例
1.6 一致性如何评价
n 皮尔森相关系数及kappa相关系数的原理及程序示例
第二章:特征工程
2.1 文本特征预处理方法
n NLTK的使用方法及程序示例
n Jieba分词方法及程序示例
n BOW、VSM程序及代码
n TFIDF及程序演示
2.2常见相似度计算方法及程序
n 常见相似度计算方法及程序
2.3 图像特征工程问题
n 图像特征数值化问题
2.4 特征值的进一步处理
n 量纲缩放问题
n 特征值规范化处理、特征缺失值处理问题
2.5 特征选择及程序演示
n 图像的递归特征消除方法
n LDA及PCA
第三章:深度学习相关技术基础(一)
3.1 线性回归
n 线性回归问题
n 线性回归的矩阵解法及梯度下降解法
n Sklearn中的线性回归
n 多元线性回归
n R2评价方法
n 多项式回归
3.2 学习曲线的绘制
n 学习曲线的绘制
3.3 逻辑回归
n 逻辑回归原理及程序演示
n Sklearn中逻辑回归的损失函数及优化方法
3.4 回归的正则化处理
n 回归的正则化问题
n 岭回归及曲线绘制示例
第四章:深度学习相关技术基础(二)
n 感知机模型及程序示例
n 熵、交叉熵、相对熵及JS散度的原理及程序示例
n 联合熵、条件熵及互信息的原理及程序示例
n 反向传播中的梯度问题及程序示例
n 从线性分类器到小型神经网络及程序示例
第五讲:循环神经网络
n 标准RNN模型
n LSTM模型基本原理
n LSTM模型的常见变体
n LSTM典型开源代码学习笔记(1)
n LSTM典型开源代码学习笔记(2)
第六章:卷积神经网络
n 卷积神经网络基本原理
n LeNet-5及在图像分类上的应用
n 用卷积神经网络进行文本分类
n 卷积神经网络典型开源代码学习笔记
第七章:递归神经网络
n 情感分析问题及常规求解策略
n Google word2vec介绍
n 采用递归神经网络解决情感分析问题
n 递归神经网络开源代码学习笔记