深度学习与神经网络电子书

内容简介

前言

第1章 绪论

1.1 与深度学习有关的几个概念

1.2 神经网络与深度学习的发展历程

1.3 神经网络的产生机理

1.4 生物神经网络基础

1.5 本书的知识框架体系

1.6 本章小结

第2章 人工神经网络计算

2.1 神经网络概述

2.2 人工神经元模型

2.3 神经网络结构

2.4 神经网络的学习方法

2.5 神经网络的损失函数

2.6 神经网络的学习规则

2.7 梯度下降法

2.8 网络正则化方法

2.9 模型评估方法

2.10 本章小结

第3章 多层感知器神经网络

3.1 感知器及其发展过程

3.2 感知器学习算法

3.3 多层感知器的算法实现

3.4 反向传播算法

3.5 本章小结

第4章 自组织竞争神经网络

4.1 竞争学习的概念与原理

4.2 SOFM网络

4.3 ART网络

4.4 自组织竞争神经网络的算法实现

4.5 本章小结

第5章 径向基函数神经网络

5.1 径向基函数介绍及结构

5.2 函数逼近与内插

5.3 正则化理论

5.4 径向基函数神经网络学习

5.5 本章小结

第6章 卷积神经网络

6.1 卷积神经网络的概念及特点

6.2 卷积神经网络的基本结构

6.3 卷积神经网络参数学习

6.4 卷积神经网络常用模型

6.5 卷积神经网络的算法实现

6.6 本章小结

第7章 循环神经网络

7.1 循环神经网络的概念

7.2 循环神经网络模型

7.3 循环神经网络参数学习

7.4 网络梯度问题改进

7.5 长短期记忆

7.6 门控循环单元网络

7.7 深度循环神经网络

7.8 循环神经网络算法实现——手写体数字识别问题

7.9 本章小结

第8章 注意力机制与反馈网络

8.1 注意力机制网络

8.2 离散型Hopfield神经网络

8.3 连续型Hopfield神经网络（CHNN）

8.4 Hopfield神经网络应用实例

8.5 Hopfield神经网络求解TSP

8.6 本章小结

第9章 深度学习网络优化

9.1 参数初始化

9.2 数据预处理

9.3 逐层归一化

9.4 超参数优化

9.5 优化算法

9.6 本章小结

第10章 受限玻尔兹曼机和深度置信网络

10.1 概率图模型

10.2 受限玻尔兹曼机的基本结构

10.3 受限玻尔兹曼机的能量模型和似然函数

10.4 受限玻尔兹曼机的学习任务

10.5 深度置信网络

10.6 深度置信网络的应用

10.7 本章小结

第11章 栈式自编码器

11.1 自编码器

11.2 稀疏自编码器

11.3 栈式自编码器的原理

11.4 降噪自编码器

11.5 自编码器的图像还原

11.6 自编码器的机器翻译应用

11.7 本章小结

第12章 生成对抗网络

12.1 深度生成模型

12.2 生成对抗网络的基本结构

12.3 原始-对偶次梯度方法训练

12.4 生成对抗网络的应用

12.5 本章小结

第13章 图神经网络

13.1 图网络概述

13.2 图卷积神经网络

13.3 图循环神经网络

13.4 消息传递神经网络

13.5 图神经网络模型的应用

13.6 本章小结

第14章 深度强化学习

14.1 强化学习概述

14.2 马尔可夫决策过程

14.3 Q-Learning算法

14.4 Deep Q-Network强化学习

14.5 蒙特卡罗算法

14.6 AlphaGo强化学习

14.7 强化学习的应用

14.8 本章小结

第15章 深度学习的可解释性

15.1 可解释性的定义

15.2 可解释性方法

15.3 可视化方法分类

15.4 神经网络特征可视化

15.5 本章小结

第16章 多模态预训练模型

16.1 预训练

16.2 多模态数据的特征表示

16.3 Transformer模型

16.4 预训练模型学习

16.5 大模型的训练与预测

16.6 本章小结

附录A 主要符号

参考文献