机器学习算法与实践电子书

前言

第1章 机器学习概述

1.1 人工智能与机器学习

1.2 机器学习的概念

1.2.1 机器学习的定义

1.2.2 机器学习发展史

1.2.3 机器学习分类

1.3 机器学习工具

1.3.1 Python语言

1.3.2 第三方工具库

1.3.3 编译环境

1.3.4 库的下载与安装

1.4 机器学习示例

1.4.1 自动驾驶

1.4.2 机器翻译

1.4.3 游戏中的人工智能

1.5 本章小结

1.6 延伸阅读——大数据背景下的机器学习算法

1.7 习题

第2章 机器学习基本理论

2.1 机器学习术语

2.1.1 基本概念

2.1.2 过拟合与欠拟合

2.1.3 模型评估

2.2 实验估计方法

2.2.1 留出法

2.2.2 交叉验证法

2.2.3 自助法

2.3 性能度量

2.3.1 错误率与精度

2.3.2 查准率、查全率与F1

2.3.3 ROC与AUC

2.4 比较检验

2.4.1 假设检验

2.4.2 交叉验证

2.5 参数调优

2.5.1 网格搜索

2.5.2 随机搜索

2.5.3 贝叶斯优化算法

2.6 本章小结

2.7 延伸阅读——机器学习应用于我国海外投资效率预警

2.8 习题

第3章 K-近邻

3.1 算法原理

3.2 距离度量方法

3.3 搜索优化方法

3.3.1 k-d树

3.3.2 球树

3.4 算法实现

3.5 本章小结

3.6 延伸阅读——机器学习在国产芯片上的应用

3.7 习题

第4章 贝叶斯

4.1 贝叶斯方法概述

4.1.1 贝叶斯公式

4.1.2 贝叶斯决策理论

4.1.3 极大似然估计

4.2 朴素贝叶斯算法

4.2.1 高斯朴素贝叶斯算法

4.2.2 多项式朴素贝叶斯算法

4.2.3 伯努利朴素贝叶斯算法

4.3 半朴素贝叶斯算法

4.4 贝叶斯网络算法

4.4.1 贝叶斯网络结构

4.4.2 贝叶斯网络学习算法

4.4.3 贝叶斯网络推断

4.5 EM算法

4.6 本章小结

4.7 延伸阅读——机器学习在智能驾驶上的应用

4.8 习题

第5章 线性模型

5.1 线性回归

5.1.1 简单线性回归

5.1.2 多变量线性回归

5.1.3 梯度下降法

5.1.4 多项式回归

5.2 逻辑回归

5.2.1 二分类逻辑回归

5.2.2 多分类逻辑回归

5.3 模型正则化

5.4 本章小结

5.5 延伸阅读——云计算与机器学习

5.6 习题

第6章 支持向量机

6.1 算法概述

6.2 线性可分支持向量机及其对偶算法

6.3 线性支持向量机

6.4 非线性支持向量机

6.5 支持向量机回归

6.5.1 线性支持向量机回归

6.5.2 非线性支持向量机回归

6.6 SMO算法

6.7 代码实现

6.7.1 线性支持向量机代码实现

6.7.2 非线性支持向量机代码实现

6.7.3 支持向量机回归代码实现

6.8 本章小结

6.9 延伸阅读——机器学习算法在电力负荷预测中的应用

6.10 习题

第7章 决策树

7.1 决策树概述

7.2 ID3算法

7.2.1 信息熵和信息增益

7.2.2 算法流程

7.2.3 代码实现

7.3 C4.5算法

7.3.1 信息增益率

7.3.2 连续型特征处理

7.3.3 算法流程

7.3.4 代码实现

7.4 分类与回归树

7.4.1 基尼系数

7.4.2 回归树

7.4.3 代码实现

7.5 剪枝策略

7.5.1 单一因子策略

7.5.2 最优因子策略

7.5.3 代码实现

7.6 本章小结

7.7 延伸阅读——5G智能医疗中的机器学习

7.8 习题

第8章 集成学习

8.1 集成学习概述

8.2 投票法

8.2.1 投票策略

8.2.2 代码实现

8.3 装袋法

8.3.1 随机森林算法

8.3.2 代码实现

8.4 提升法

8.4.1 自适应提升算法

8.4.2 梯度提升算法

8.4.3 代码实现

8.5 本章小结

8.6 延伸阅读——国产C919飞机研发中的机器学习

8.7 习题

第9章 聚类算法

9.1 聚类概述

9.1.1 相似度

9.1.2 性能度量

9.2 原型聚类

9.2.1 k均值

9.2.2 代码实现

9.3 密度聚类

9.3.1 DBSCAN算法

9.3.2 代码实现

9.4 层次聚类

9.4.1 聚合聚类

9.4.2 代码实现

9.5 本章小结

9.6 延伸阅读——聚类算法在少数民族服饰色彩分析中的应用

9.7 习题

第10章 数据降维

10.1 数据降维概述

10.2 主成分分析

10.2.1 PCA算法原理

10.2.2 特征值分解降维

10.2.3 奇异值分解降维

10.3 线性判别分析

10.3.1 LDA算法原理

10.3.2 LDA对二分类问题降维

10.3.3 LDA对多分类问题降维

10.4 本章小结

10.5 延伸阅读——数据降维技术在地震属性分析中的应用

10.6 习题

第11章 半监督学习

11.1 未标记样本

11.2 半监督学习方法

11.2.1 生成式方法

11.2.2 半监督SVM

11.2.3 图半监督学习

11.2.4 基于分歧的方法

11.3 半监督聚类

11.3.1 基于约束的方法

11.3.2 基于距离的方法

11.3.3 基于约束和距离的方法

11.4 本章小结

11.5 延伸阅读——半监督学习应用于高铁运行安全图像智能识别

11.6 习题

第12章 神经网络

12.1 人工神经网络概述

12.2 感知机

12.2.1 感知机模型原理

12.2.2 算法实现

12.3 多层前馈神经网络

12.3.1 多层前馈神经网络原理

12.3.2 算法实现

12.4 其他神经网络

12.4.1 常用神经网络

12.4.2 深度神经网络

12.5 本章小结

12.6 延伸阅读——基于卷积神经网络的新型电力系统频率特性预测

12.7 习题

附录

参考文献