实战深度学习算法：零起点通关神经网络模型(基于Python和NumPy实现)电子书

前言

符号表

第1章 基础分类模型

1.1 深度学习简介

1.2 目标问题：空间中的二分类

1.3 感知机模型

1.4 算法实现

1.5 小结

参考文献

第2章 第一个神经网络

2.1 目标问题：MNIST手写数字识别

2.2 挑战：从二分类到多分类

2.3 Softmax方法

2.4 正确分类的独热编码

2.5 损失函数——交叉熵

2.6 信息熵和交叉熵

2.7 第一个神经网络的学习算法

2.8 反向传播

2.9 抽象泄漏

2.10 算法实现

2.11 小结

参考文献

第3章 多层全连接神经网络

3.1 第一个挑战：异或问题

3.2 更深的神经网络——隐藏层

3.3 第二个挑战：参数拟合的两面性

3.4 过拟合与正则化

3.5 第三个挑战：非线性可分问题

3.6 激活函数

3.7 算法和结构

3.8 算法实现

3.9 小结

参考文献

第4章 卷积神经网络（CNN）

4.1 挑战：参数量和训练成本

4.2 卷积神经网络的结构

4.3 卷积神经网络学习算法

4.4 算法实现

4.5 小结

参考文献

第5章 卷积神经网络——算法提速和优化

5.1 第一个挑战：卷积神经网络的运算效率

5.2 提速改进

5.3 反向传播算法实现

5.4 第二个挑战：梯度下降的幅度和方向

5.5 递减学习率参数

5.6 学习策略的优化方法

5.7 总体模型结构

5.8 使用CNN实现MNIST手写数字识别验证

5.9 小结

参考文献

第6章 批量规范化（Batch Normalization）

6.1 挑战：深度神经网络不易训练

6.2 批量规范化方法的初衷

6.3 批量规范化的算法

6.4 批量规范化的效果

6.5 批量规范化为何有效

6.6 批量规范化的反向传播算法

6.7 算法实现

6.8 调整学习率和总体结构

6.9 在MNIST数据集上验证结果

6.10 小结

参考文献

第7章 循环神经网络（Vanilla RNN）

7.1 第一个挑战：序列特征的捕捉

7.2 循环神经网络的结构

7.3 RNN前向传播算法

7.4 RNN反向传播算法

7.5 第二个挑战：循环神经网络的梯度传递问题

7.6 梯度裁剪

7.7 算法实现

7.8 目标问题：序列数据分析

7.9 小结

参考文献

第8章 长短时记忆网络（LSTM）——指数分析

8.1 目标问题：投资市场的指数分析

8.2 挑战：梯度弥散问题

8.3 长短时记忆网络的结构

8.4 LSTM前向传播算法

8.5 LSTM反向传播算法

8.6 算法实现

8.7 实现沪深300指数分析

8.8 小结

参考文献

第9章 双向门控循环单元（BiGRU）——情感分析

9.1 目标问题：情感分析

9.2 第一个挑战：模型的运算效率

9.3 GRU模型的结构

9.4 GRU前向传播算法

9.5 GRU前向传播表达式的其他写法

9.6 GRU反向传播算法

9.7 GRU算法实现

9.8 用GRU模型进行情感分析

9.9 首次验证

9.10 第二个挑战：序列模型的过拟合

9.11 Dropout正则化

9.12 再次验证：GRU+Dropout

9.13 第三个挑战：捕捉逆序信息

9.14 双向门控循环单元（BiGRU）

9.15 第三次验证：BiGRU+Dropout

9.16 小结

参考文献

附录A 向量和矩阵运算

附录B 导数和微分

附录C 向量和矩阵导数

附录D 概率论和数理统计

参考文献

后记

索引