理解深度学习电子书

前言

主要符号表

第1章 绪论

1.1 深度学习的定义

1.1.1 深度神经网络

1.1.2 深度学习与神经科学

1.1.3 深度学习的争议

1.2 深度学习与传统机器学习方法的区别

1.3 人工智能和深度学习的发展历程

1.3.1 人工智能的历史发展

1.3.2 深度学习的历史变迁

1.4 本书结构

练习

第2章 卷积神经网络

2.1 卷积神经网络概述

2.1.1 引言

2.1.2 基本网络结构

2.1.3 卷积层

2.1.4 与全连接层的对等关系

2.1.5 池化层

2.1.6 卷积的变体

2.2 卷积神经网络的训练

2.2.1 前馈运算

2.2.2 反馈运算

2.3 经典的卷积神经网络模型

2.3.1 LeNet

2.3.2 AlexNet

2.3.3 U-Net

2.3.4 VGG

2.3.5 ResNet

2.4 项目示例和代码解析

2.4.1 准备工作

2.4.2 数据准备

2.4.3 模型构建

2.4.4 训练与测试

2.4.5 结果可视化

2.4.6 拓展：ResNet可视化

2.5 小结

练习

第3章 循环神经网络

3.1 循环神经网络概述

3.1.1 引言

3.1.2 循环神经网络的结构与数学表示

3.2 循环神经网络的训练方法

3.2.1 随时间反向传播算法

3.2.2 实时循环学习算法

3.3 经典的循环神经网络模型

3.3.1 针对梯度问题的循环神经网络改进

3.3.2 循环神经网络变体

3.4 项目示例和代码解析

3.4.1 数据准备

3.4.2 数据预处理

3.4.3 模型构建

3.5 小结

练习

第4章 图神经网络

4.1 图神经网络概述

4.1.1 引言

4.1.2 图的表示方法

4.1.3 图神经网络的基本任务

4.2 图神经网络的训练方法

4.2.1 图信号与图卷积

4.2.2 空域图卷积

4.2.3 谱域图神经网络的训练

4.2.4 空域图神经网络的训练

4.3 经典的图神经网络模型

4.3.1 GCN

4.3.2 GraphSAGE

4.3.3 GAT

4.3.4 R-GCN

4.4 项目示例和代码解析

4.4.1 PyTorch工具简介

4.4.2 问题描述

4.4.3 数据简介

4.4.4 数据处理

4.4.5 模型构建

4.5 小结

练习

第5章 生成对抗神经网络

5.1 生成对抗神经网络概述

5.1.1 引言

5.1.2 从概率到模型

5.1.3 基本结构

5.2 生成对抗神经网络的训练方法

5.2.1 GAN的优化问题

5.2.2 GAN的训练流程

5.2.3 GAN中的梯度消失问题

5.2.4 评估指标设计

5.3 经典的生成对抗神经网络模型

5.3.1 CGAN

5.3.2 CycleGAN

5.3.3 StyleGAN

5.4 项目示例和代码解析

5.4.1 项目简介

5.4.2 数据处理

5.4.3 模型构建

5.4.4 训练过程

5.4.5 结果展示

5.5 小结

练习

第6章 Transformer

6.1 Transformer概述

6.1.1 引言

6.1.2 Transformer模型结构

6.2 Transformer关键技术

6.2.1 编码方式

6.2.2 注意力机制

6.2.3 前馈网络

6.2.4 残差连接与归一化

6.3 Transformer的训练和推理

6.4 Vision Transformer

6.4.1 图像分块与嵌入

6.4.2 位置编码与类标记

6.4.3 Transformer编码与分类

6.4.4 ViT的优势与挑战

6.5 自监督预训练与大语言模型

6.5.1 BERT

6.5.2 GPT

6.5.3 BART

6.5.4 商用大语言模型

6.6 项目示例和代码解析

6.6.1 项目简介

6.6.2 项目代码

6.7 小结

练习

第7章 扩散模型

7.1 扩散模型概述

7.1.1 引言

7.1.2 变分自编码器

7.1.3 扩散模型网络结构

7.2 扩散模型的训练与推理

7.2.1 去噪扩散概率模型

7.2.2 扩散模型的训练过程

7.2.3 扩散模型的推理过程

7.3 经典的扩散模型

7.3.1 类别标签条件

7.3.2 图片条件

7.3.3 文本条件

7.4 项目示例和代码解析

7.4.1 搭建U-Net网络

7.4.2 实现DDPM算法

7.4.3 训练与推理代码

7.5 小结

练习

第8章 深度强化学习

8.1 强化学习概述

8.1.1 引言

8.1.2 强化学习的基本概念

8.1.3 马尔可夫决策过程

8.2 基本强化学习算法

8.2.1 有模型学习

8.2.2 无模型学习

8.3 深度强化学习算法

8.3.1 基于值函数的方法

8.3.2 基于策略梯度的方法

8.3.3 Actor-Critic

8.4 项目示例和代码解析

8.4.1 Gym简介

8.4.2 算法构建

8.4.3 训练与测试

8.4.4 结果展示

8.5 小结

练习

第9章 深度学习工具

9.1 深度学习框架概述

9.1.1 发展背景

9.1.2 基础概念和操作

9.2 TensorFlow及其应用

9.2.1 简介

9.2.2 安装和初步设置

9.2.3 深度学习应用

9.3 PyTorch及其应用

9.3.1 简介

9.3.2 安装和初步设置

9.3.3 深度学习应用

9.4 飞桨及其应用

9.4.1 简介

9.4.2 安装和初步设置

9.4.3 深度学习应用

9.5 框架选择建议

9.6 小结

练习