课程简介
机器学习（Machine Learning）是人工智能的核心研究领域之一，并取得了广泛的应用效果，是引领这一轮“人工智能热潮”的关键技术支撑。为了便于不同基础的初学者学习，《机器学习进步》课程包含的是数学要求比《机器学习初步》略高的部分，覆盖机器学习的入门基础内容。课程主讲人周志华教授是领域专家，所著《机器学习》（网友昵称为“西瓜书”）正是本课程的教材。课程团队成员也包括詹德川教授、叶翰嘉博士、赵鹏博士，负责课程讨论与习题解答。课程内容包括绪论、模型评估与选择、线性模型、决策树、神经网络、支持向量机、贝叶斯分类器、集成学习、聚类等主题中对数学基础比《机器学习初步》课程略高的内容。
课程大纲
绪论
1.1 假设空间
1.2 NFL定理推导
模型评估与选择
2.1 PR指标的扩展
2.2 ROC与AUC
2.3 非均等代价
2.4 偏差-方差分解
线性模型
3.1 对率回归求解
3.2 线性判别分析
3.3 线性判别分析的多类推广
3.4 纠错输出码
3.5 类别不平衡
番外篇
机器学习的学派
决策树
4.1 连续值的处理
4.2 缺失值的处理
4.3 从“树”到“规则”
4.4 多变量决策树
支持向量机
5.1 软间隔SVM
5.2 正则化
5.3 如何使用SVM？
5.4 表示定理
5.5 核方法
神经网络
6.1 BP算法推导
6.2 标准BP与累积BP
6.3 全局最小与局部极小
6.4 其他常见神经网络模型
6.5 深度神经网络
6.6 深度神经网络的诀窍
贝叶斯分类器
7.1 贝叶斯分类器与贝叶斯学习
7.2 半朴素贝叶斯分类器
7.3 贝叶斯网
7.4 典型依赖关系
7.5 分析条件独立性
7.6 结构学习
7.7 推断
7.8 EM 算法
集成学习
8.1 学习器的结合
8.2 Stacking
8.3 选择性集成
8.4 多样性度量
8.5 多样性增强常用策略
聚类
9.1 k均值聚类
9.2 学习向量量化
9.3 高斯混合聚类
9.4 DBSCAN
9.5 层次聚类
考试
1.1 假设空间
1.2 NFL定理推导
模型评估与选择
2.1 PR指标的扩展
2.2 ROC与AUC
2.3 非均等代价
2.4 偏差-方差分解
线性模型
3.1 对率回归求解
3.2 线性判别分析
3.3 线性判别分析的多类推广
3.4 纠错输出码
3.5 类别不平衡
番外篇
机器学习的学派
决策树
4.1 连续值的处理
4.2 缺失值的处理
4.3 从“树”到“规则”
4.4 多变量决策树
支持向量机
5.1 软间隔SVM
5.2 正则化
5.3 如何使用SVM？
5.4 表示定理
5.5 核方法
神经网络
6.1 BP算法推导
6.2 标准BP与累积BP
6.3 全局最小与局部极小
6.4 其他常见神经网络模型
6.5 深度神经网络
6.6 深度神经网络的诀窍
贝叶斯分类器
7.1 贝叶斯分类器与贝叶斯学习
7.2 半朴素贝叶斯分类器
7.3 贝叶斯网
7.4 典型依赖关系
7.5 分析条件独立性
7.6 结构学习
7.7 推断
7.8 EM 算法
集成学习
8.1 学习器的结合
8.2 Stacking
8.3 选择性集成
8.4 多样性度量
8.5 多样性增强常用策略
聚类
9.1 k均值聚类
9.2 学习向量量化
9.3 高斯混合聚类
9.4 DBSCAN
9.5 层次聚类
考试