机器学习算法原理与编程实践电子书

内容简介

前言

第1章 机器学习的基础

1.1 编程语言与开发环境

1.1.1 搭建Python开发环境

1.1.2 安装Python算法库

1.1.3 IDE配置及其安装测试

1.2 对象、矩阵与矢量化编程

1.2.1 对象与维度

1.2.2 初识矩阵

1.2.3 矢量化编程与GPU运算

1.2.4 理解数学公式与NumPy矩阵运算

1.2.5 Linalg线性代数库

1.3 机器学习的数学基础

1.3.1 相似性的度量

1.3.2 各类距离的意义与Python实现

1.3.3 理解随机性

1.3.4 回顾概率论

1.3.5 多元统计基础

1.3.6 特征间的相关性

1.3.7 再谈矩阵——空间的变换

1.3.8 数据归一化

1.4 数据处理与可视化

1.4.1 数据的导入和内存管理

1.4.2 表与线性结构的可视化

1.4.3 树与分类结构的可视化

1.4.4 图与网络结构的可视化

1.5 Linux操作系统下部署Python机器学习开发环境

1.5.1 Linux发行版的选择

1.5.2 CentOS部署多版本Python实例

1.5.3 安装NumPy、SciPy、Matplotlib开发包

1.5.4 安装Scikit-Learn开发包

1.6 结语

第2章 中文文本分类

2.1 文本挖掘与文本分类的概念

2.2 文本分类项目

2.2.1 文本预处理

2.2.2 中文分词介绍

2.2.3 Scikit-Learn库简介

2.2.4 向量空间模型

2.2.5 权重策略：TF-IDF方法

2.2.6 使用朴素贝叶斯分类模块

2.2.7 分类结果评估

2.3 分类算法：朴素贝叶斯

2.3.1 贝叶斯公式推导

2.3.2 朴素贝叶斯算法实现

2.3.3 算法的改进

2.3.4 评估分类结果

2.4 分类算法：kNN

2.4.1 kNN算法原理

2.4.2 kNN算法的Python实现

2.4.3 评估分类结果

2.5 结语

第3章 决策树的发展

3.1 决策树的基本思想

3.1.1 从一个实例开始

3.1.2 决策树的算法框架

3.1.3 信息熵测度

3.2 ID3决策树

3.2.1 ID3算法

3.2.2 ID3的实现

3.2.3 决策树主方法

3.2.4 训练决策树

3.2.5 持久化决策树

3.2.6 决策树分类

3.2.7 算法评估

3.3 C4.5算法

3.3.1 信息增益率

3.3.2 C4.5的实现

3.3.3 训练决策树

3.3.4 分类数据

3.4 Scikit-Learn与回归树

3.4.1 回归算法原理

3.4.2 最小剩余方差法

3.4.3 模型树

3.4.4 剪枝策略

3.4.5 Scikit-Learn实现

3.5 结语

第4章 推荐系统原理

4.1 推荐系统概述

4.1.1 从亚马逊网站认识推荐系统

4.1.2 推荐系统的架构

4.1.3 开源推荐系统

4.2 协同过滤及其算法

4.2.1 协同过滤

4.2.2 数据预处理

4.2.3 使用Scikit-Learn的KMeans聚类

4.2.4 User CF原理

4.2.5 Item CF原理

4.2.6 SVD原理与计算

4.3 KMeans算法详解

4.3.1 KMeans算法流程

4.3.2 辅助函数

4.3.3 聚类主函数

4.3.4 评估分类结果

4.4 聚类的改进：二分KMeans算法

4.4.1 二分聚类主函数

4.4.2 评估分类结果

4.5 SVD算法详解

4.5.1 SVD算法回顾

4.5.2 常用距离函数

4.5.3 SVD数据集

4.5.4 SVD算法主函数

4.5.5 评估结果

4.6 结语

第5章 梯度寻优

5.1 最优化与计算复杂性

5.1.1 最优化理论

5.1.2 最优化的数学描述

5.1.3 凸集与分离定理

5.1.4 凸函数及其性质

5.1.5 局部最优与全局最优

5.1.6 计算复杂性与NP问题

5.1.7 逐次逼近法

5.2 Logistic梯度下降法

5.2.1 梯度下降法

5.2.2 线性分类器

5.2.3 Logistic函数——世界不是非黑即白

5.2.4 算法流程

5.2.5 对测试集进行分类

5.3 算法分析

5.3.1 超平面的变化趋势

5.3.2 超平面的收敛评估

5.3.3 权重向量的收敛评估

5.3.4 算法总体评价

5.4 随机梯度下降法：算法改进与评估

5.4.1 主函数

5.4.2 程序输出

5.4.3 步长变化率

5.4.4 权重收敛评估

5.4.5 权重分量的变化趋势

5.4.6 算法总体评价

5.5 结语

第6章 神经网络初步

6.1 神经网络简史

6.1.1 起源与早期发展

6.1.2 中期发展

6.1.3 当前的发展与反思

6.2 BP神经网络理论

6.2.1 线性不可分问题

6.2.2 BP网络构成

6.2.3 BP网络的训练过程

6.3 BP网络的实现和评估

6.3.1 BP网络类与主要方法

6.3.2 设计BP网络

6.3.3 辅助函数

6.3.4 主函数

6.3.5 分类器

6.3.6 执行分类并输出结果

6.3.7 BP网络评估

6.4 自组织特征映射神经网络

6.4.1 SOM网络框架

6.4.2 SOM类

6.4.3 功能函数

6.4.4 SOM网络的实现

6.4.5 聚类结果

6.5 Boltzmann机算法

6.5.1 问题的提出

6.5.2 模拟退火原理

6.5.3 Boltzmann分布与退火过程

6.5.4 Boltzmann机类与功能函数

6.5.5 最短路径的实现

6.5.6 执行算法

6.5.7 评估结果

6.6 结语

第7章 预测的技术与哲学

7.1 线性系统的预测

7.1.1 回归与现代预测学

7.1.2 最小二乘法

7.1.3 代码实现

7.1.4 正规方程组法

7.1.5 正规方程组的代码实现

7.1.6 算法评估

7.2 径向基网络

7.2.1 RBF网络

7.2.2 辅助函数

7.2.3 使用RBF预测

7.2.4 评估预测结果

7.3 岭回归

7.3.1 验证多重共线性

7.3.2 岭回归理论

7.3.3 岭际分析

7.3.4 k值的判定

7.3.5 辅助函数

7.3.6 岭回归的实现与k值计算

7.3.7 算法评估

7.4 预测的哲学

7.4.1 从《周易》谈起

7.4.2 两仪生四象

7.4.3 周期三与混沌

7.4.4 Logistic中的吸引子

7.4.5 三生万物

7.4.6 八卦图及其推演

7.5 结语

第8章 万能分类器——支持向量机

8.1 支持向量机的理论基础

8.1.1 经验风险最优

8.1.2 关键定理与VC维

8.1.3 结构风险最优

8.2 SVM的数学推导

8.2.1 最大间隔超平面

8.2.2 拉格朗日乘子法

8.2.3 KKT条件与对偶变换

8.2.4 分类器函数

8.2.5 映射到高维空间

8.2.6 核函数法

8.2.7 离群点的松弛变量

8.3 SMO算法

8.3.1 SMO求解SVM

8.3.2 构造SMO类

8.3.3 主函数

8.3.4 训练数据

8.3.5 分类并评估算法

8.4 SVM中文文本分类

8.4.1 回顾中文文本分类

8.4.2 Scikit-Learn SVM分类

8.4.3 评估结果

8.5 结语

第9章 人脸识别中的机器学习

9.1 模式识别概述

9.1.1 认知与模式

9.1.2 机器视觉与OpenCV

9.1.3 OpenCV的文件与基本操作

9.2 人脸检测

9.2.1 人脸识别的历史与架构

9.2.2 人脸识别系统

9.2.3 人脸检测原理与Haar级联检测

9.2.4 人脸检测特征文件

9.2.5 Haar cascade的实现

9.2.6 LBP cascade的实现

9.3 AdaBoost算法概述

9.3.1 算法原理与步骤

9.3.2 辅助函数

9.3.3 AdaBoost分类器

9.3.4 单层决策树分类子算法

9.3.5 训练数据集

9.3.6 执行分类

9.4 人脸识别

9.4.1 人脸数据库

9.4.2 PCA原理

9.4.3 特征脸识别类

9.4.4 生成特征脸

9.4.5 执行人脸识别

9.5 结语

第10章 认知计算与深度学习

10.1 认知计算

10.1.1 认知层次论

10.1.2 从具体到抽象

10.1.3 Theano库与基本操作

10.2 多层感知器

10.2.1 MNIST数据集

10.2.2 Softmax回归类

10.2.3 正则化方法

10.2.4 执行SoftMax学习

10.2.5 多层感知器

10.2.6 多层感知器的实现

10.2.7 MLP的训练过程

10.3 卷积神经网络

10.3.1 理论基础

10.3.2 卷积类

10.3.3 LeNet5函数

10.3.4 CNN的训练过程

10.4 Theano安装与GPU运算

10.4.1 Anaconda安装

10.4.2 实现CPU运算

10.4.3 安装VS2013

10.4.4 安装CUDA

10.4.5 实现支持GPU运算

10.5 结语

第11章 概率图模型与词性标注

11.1 马尔科夫过程

11.1.1 随机过程与状态图

11.1.2 马尔科夫链及其概念

11.1.3 马尔科夫链的实现

11.2 概率图模型和贝叶斯网

11.2.1 概述

11.2.2 条件独立性

11.2.3 贝叶斯网简介

11.2.4 贝叶斯网的构造

11.2.5 贝叶斯网的推理简介

11.3 隐马尔科夫模型

11.3.1 概述

11.3.2 HMM推理与前向算法

11.3.3 Vertibi算法原理

11.3.4 Vertibi算法实现

11.3.5 执行并输出结果

11.4 词性标注系统

11.4.1 语料库与词性资源

11.4.2 手工计算

11.4.3 结果验证

11.5 结语