人工智能数学基础电子书

内容提要

前言

第1篇 基础原理

第1章 人工智能概述

1.1 人工智能的概念

1.2 人工智能的发展

1.3 人工智能的主要流派与研究方向

1.4 人工智能的数学基础

1.5 Python对人工智能算法设计的支持

第2章 向量和矩阵

2.1 向量

2.1.1 标量的定义

2.1.2 向量的定义

2.1.3 向量的两个基本运算

2.1.4 向量与数据

2.2 矩阵

2.2.1 矩阵的定义

2.2.2 矩阵与数据

2.3 矩阵和向量的创建

2.3.1 NumPy的安装

2.3.2 NumPy的导入和使用

2.3.3 矩阵的创建

2.3.4 向量的创建

2.4 矩阵的基本类型与关系

2.5 矩阵的基本运算

2.5.1 矩阵的加法和减法

2.5.2 矩阵的数乘

2.5.3 矩阵的乘法

2.5.4 矩阵与向量的乘法

2.5.5 矩阵的乘方

2.6 转置矩阵和逆矩阵

2.6.1 转置矩阵

2.6.2 逆矩阵

2.7 行列式

2.7.1 行列式引例

2.7.2 行列式的定义

2.7.3 行列式与矩阵的区别

2.7.4 行列式的计算

2.8 矩阵的秩

2.8.1 向量组

2.8.2 向量组的线性相关和线性无关

2.8.3 矩阵的秩的定义

2.8.4 矩阵的秩的计算

2.9 内积与正交

2.9.1 向量的内积

2.9.2 向量的长度

2.9.3 向量的正交

2.9.4 标准正交基

第3章 特征值与矩阵分解

3.1 矩阵分解概述

3.2 特征值与特征向量

3.2.1 引例

3.2.2 特征值和特征向量的定义

3.2.3 特征值和特征向量的求解

3.2.4 基于NumPy的特征值与特征向量的计算及验证

3.2.5 特征值的性质

3.2.6 特征空间

3.3 特征值分解

3.4 SVD

3.4.1 应用SVD解决问题

3.4.2 SVD的定义

3.4.3 SVD的实现

3.4.4 利用SVD重构矩阵

3.4.5 利用SVD进行矩阵近似

第4章 极限和导数

4.1 函数

4.1.1 函数的定义

4.1.2 几种特殊函数的定义

4.1.3 函数的特性

4.2 极限

4.2.1 数列

4.2.2 收敛数列的性质

4.2.3 极限的符号表示

4.2.4 函数极限的定义

4.3 无穷小与无穷大

4.3.1 无穷小

4.3.2 无穷小的基本性质

4.3.3 无穷小与函数极限的关系

4.3.4 无穷大

4.3.5 无穷大与无穷小的关系

4.3.6 无穷小的比较

4.4 函数的连续性

4.4.1 函数连续的定义

4.4.2 函数连续需要满足的条件

4.4.3 函数的间断点

4.4.4 函数间断点的常见类型

4.5 导数与偏导数

4.5.1 导数

4.5.2 偏导数的定义与几何意义

4.6 方向导数

4.7 梯度

第5章 微积分

5.1 微积分的基本思想

5.2 微积分的应用

5.3 定积分

5.3.1 定积分的定义

5.3.2 定积分的几何意义

5.4 定积分的性质

5.5 牛顿－莱布尼茨公式

5.5.1 积分上限的函数及其导数

5.5.2 牛顿－莱布尼茨公式的定义

5.5.3 牛顿－莱布尼茨公式的几何解释

第6章 概率论

6.1 随机事件及其概率

6.1.1 样本空间和随机事件

6.1.2 概率和频率

6.1.3 古典概型

6.2 条件概率

6.3 独立性

6.4 随机变量

6.4.1 离散型随机变量

6.4.2 连续型随机变量

6.5 随机向量

6.5.1 联合分布函数

6.5.2 离散型随机向量

6.5.3 连续型随机向量

6.5.4 边缘分布

6.6 随机变量的数字特征

6.6.1 数学期望

6.6.2 方差

6.7 大数定律和中心极限定理

6.7.1 大数定律

6.7.2 中心极限定理

6.8 数理统计的基本概念

6.8.1 常用的统计量

6.8.2 参数估计

6.9 最大似然估计

6.9.1 似然函数

6.9.2 最大似然估计

6.10 最大后验估计

第7章 概率分布

7.1 正态分布

7.1.1 正态分布的数学表示

7.1.2 Python中正态分布相关工具包

7.1.3 应用Python函数库产生正态分布

7.2 二项分布

7.2.1 二项分布的数学表示

7.2.2 应用Python函数库产生二项分布

7.3 泊松分布

7.3.1 泊松分布的数学表示

7.3.2 应用Python函数库产生泊松分布

7.4 均匀分布

7.4.1 均匀分布的数学表示

7.4.2 应用Python函数库产生均匀分布

7.5 卡方分布

7.5.1 卡方分布的数学表示

7.5.2 应用Python函数库产生卡方分布

7.6 Beta分布

7.6.1 Beta分布的数学表示

7.6.2 应用Python函数库产生Beta分布

第2篇 应用提高

第8章 最优化方法

8.1 最优化方法的基本概念

8.1.1 最优化问题的三要素

8.1.2 最优化问题的基本解法

8.1.3 最优化问题的分类

8.1.4 最优化问题的基本概念

8.1.5 泰勒公式

8.1.6 Hessian矩阵

8.2 一阶优化算法

8.3 二阶优化算法

8.4 约束优化问题

第9章 假设检验

9.1 假设检验的基本概念

9.1.1 假设检验的基本思想

9.1.2 单侧检验与双侧检验

9.1.3 P值检验法

9.2 Z检验

9.3 t检验

9.4 卡方检验

9.5 假设检验中的两类错误

第10章 相关分析

10.1 相关分析概述

10.1.1 相关分析的基本概念

10.1.2 线性相关的基本概念

10.2 皮尔逊相关系数

10.3 皮尔逊相关系数的计算与检验

10.3.1 相关系数的计算

10.3.2 相关系数的显著性检验

10.4 斯皮尔曼等级相关系数

10.4.1 皮尔逊相关系数的局限性

10.4.2 斯皮尔曼等级相关

10.5 肯德尔相关系数

10.5.1 肯德尔相关系数的数学表示

10.5.2 肯德尔相关系数的应用

10.5.3 肯德尔相关系数的显著性检验

10.6 质量相关

10.6.1 二列相关

10.6.2 点二列相关

10.6.3 Python对二列相关的支持

10.7 品质相关

10.7.1 列联相关系数

10.7.2 ϕ 相关系数

10.8 偏相关与复相关

10.8.1 偏相关系数

10.8.2 复相关系数

第11章 随机过程

11.1 随机过程

11.1.1 随机过程概述

11.1.2 马尔可夫过程

11.1.3 马尔可夫链

11.2 马尔可夫链采样算法

11.3 MCMC采样算法

11.4 Gibbs采样算法

第3篇 常用算法与模型

第12章 回归分析

12.1 回归分析概述

12.1.1 回归分析的一般步骤

12.1.2 一元线性回归模型

12.2 回归方程的推导及应用

12.2.1 回归方程

12.2.2 参数的最小二乘估计

12.2.3 方差σ2的估计

12.3 回归方程的决定系数

12.3.1 因变量y变化的指标

12.3.2 决定系数

12.4 多元线性回归与曲线回归问题

12.4.1 多元线性回归分析

12.4.2 曲线回归分析

第13章 SVM模型

13.1 SVM的原理

13.1.1 超平面

13.1.2 最优分类超平面

13.1.3 SVM和支持向量

13.2 SVM的分类

13.2.1 线性可分和线性不可分样本

13.2.2 3种SVM

13.3 线性可分SVM

13.3.1 线性可分SVM的原理

13.3.2 线性可分SVM的学习算法和判定过程

13.4 线性可分SVM的实现

13.4.1 应用SVM的一般流程

13.4.2 利用sklearn.svm.SVC解决分类问题

13.4.3 线性可分SVM的示例

13.5 核函数

13.5.1 升维

13.5.2 核函数的引入

13.5.3 核函数的使用

13.5.4 核函数的类型

13.5.5 常用核函数的实现

13.6 非线性SVM与核函数的引入

13.6.1 非线性SVM概述

13.6.2 核函数的选择

13.7 非线性SVM的实现

13.7.1 基础示例

13.7.2 线性核函数和多项式核函数的应用与对比

13.7.3 多项式核函数参数的影响

13.7.4 高斯径向基核函数参数的影响

13.7.5 交叉验证

第14章 决策树模型

14.1 熵和信息熵

14.1.1 熵的概念

14.1.2 信息熵的概念

14.1.3 应用Python函数库计算信息熵

14.2 决策树算法

14.2.1 决策树算法简介

14.2.2 基于信息熵的决策树算法

14.3 常见算法的实现

14.3.1 ID3算法的实现

14.3.2 C4.5算法的实现

14.3.3 CART算法的实现

14.3.4 应用Python函数库实现决策树分类

第15章 聚类算法

15.1 聚类分析概述

15.1.1 聚类分析的定义

15.1.2 距离和相似性度量

15.1.3 聚类的类型

15.2 层次聚类

15.2.1 层次聚类的原理

15.2.2 层次聚类的流程

15.2.3 层次聚类实例

15.3 K-Means聚类

15.3.1 K-Means聚类的原理

15.3.2 K-Means聚类的流程

15.3.3 K-Means聚类的评价指标

15.3.4 K-Means聚类实例

15.4 DBSCAN聚类

15.4.1 DBSCAN聚类的原理

15.4.2 DBSCAN聚类的流程

15.4.3 DBSCAN聚类实例

第16章 神经网络

16.1 感知机模型

16.1.1 感知机学习策略

16.1.2 感知机学习算法

16.2 神经元和神经网络

16.3 激活函数

16.3.1 Sigmoid函数

16.3.2 tanh函数

16.3.3 ReLU函数

16.4 BP神经网络

16.4.1 正向传播

16.4.2 反向传播