深度学习案例精粹:基于TensorFlow与Keras电子书

内容简介

前言

本书特色

示例源码、PPT课件、思维导图、数据集、开发环境下载与答疑服务

本书内容及知识体系

适合阅读本书的读者

勘误和鸣谢

目 录

第1章 深度学习与应用框架

1.1 深度学习的概念

1.1.1 何为深度学习

1．学习

2．深度

1.1.2 与传统的“浅层学习”的区别

1.2 案例实战：文本的情感分类

1.2.1 第一步：数据的准备

1.2.2 第二步：数据的处理

1.2.3 第三步：模型的设计

1.2.4 第四步：模型的训练

1.2.5 第五步：模型的结果和展示

1.3 深度学习的流程、应用场景和模型分类

1.3.1 深度学习的流程与应用场景

1.3.2 深度学习的模型分类

1．卷积神经网络模型（CNN）

2．深度置信网络模型（DBN）

3．堆栈自编码网络模型（SAEN）

1.4 主流深度学习的框架对比

1.4.1 深度学习框架的选择

1．性能方面

2．社区的活跃度

3．深度学习语言

1.4.2 本书选择：Keras与TensorFlow

1.5 本章小结

第2章 实战卷积神经网络——手写体识别

2.1 卷积神经网络理论基础

2.1.1 卷积运算

2.1.2 TensorFlow中的卷积函数

2.1.3 池化运算

2.1.4 softmax激活函数

2.1.5 卷积神经网络原理

2.2 案例实战：MNIST手写体识别

2.2.1 MNIST数据集的解析

2.2.2 MNIST数据集的特征和标签

2.2.3 TensorFlow 2.X编码实现

第一步：数据的获取

第二步：数据的处理

第三步：模型的确定与各模块的编写

2.2.4 使用自定义的卷积层实现MNIST识别

第一步：初始化参数

第二步：定义可变参数

第三步：模型的计算

2.3 本章小结

第3章 实战ResNet——CIFAR-100数据集分类

3.1 ResNet理论基础

3.1.1 ResNet诞生的背景

3.1.2 模块工具的TensorFlow实现

3.1.3 TensorFlow高级模块layers

1．卷积简介

2．BatchNormalization简介

3．dense简介

4．pooling简介

5．layers模块应用实例

3.2 案例实战：CIFAR-100数据集分类

3.2.1 CIFAR-100数据集的获取

3.2.2 ResNet残差模块的实现

3.2.3 ResNet网络的实现

3.2.4 使用ResNet对CIFAR-100数据集进行分类

第一步：数据集的获取

第二步：模型的导入和编译

第三步：模型的计算

3.3 本章小结

第4章 实战循环神经网络GRU——情感分类

4.1 情感分类理论基础

4.1.1 复习简单的情感分类

4.1.2 什么是GRU

1．GRU的输入与输出结构

2．门-GRU的重要设计

3．GRU的结构

4.1.3 TensorFlow中的GRU层

4.1.4 双向GRU

4.2 案例实战：情感分类

4.2.1 使用TensorFlow自带的模型来实现分类

第一步：预训练模型的载入

第二步：使用预训练模型进行文本分类

4.2.2 使用自定义的DPCNN来实现分类

4.3 本章小结

第5章 实战图卷积——文本情感分类

5.1 图卷积理论基础

5.1.1 “节点”“邻接矩阵”和“度矩阵”的物理意义

5.1.2 图卷积的理论计算

第一步：建立节点图表示和邻接矩阵

第二步：考虑度节点后的节点聚合特征值

5.1.3 图卷积神经网络的传播规则

5.2 案例实战：Cora数据集文本分类

5.2.1 Cora数据集简介

5.2.2 Cora数据集的读取与数据处理

5.2.3 图卷积模型的设计与实现

5.2.4 图卷积模型的训练与改进

1．改进1：将数据节点信息带入计算

2．改进2：对图卷积模型进行计算

5.3 案例实战：基于图卷积的情感分类（图卷积前沿内容）

5.3.1 文本结构化处理的思路与实现

5.3.2 使用图卷积对文本进行分类实战

第一步：数据的处理

第二步：文本的结构化转换

第三步：邻接矩阵的归一化处理

第四步：图卷积模型的建立

第五步：使用图卷积模型进行文本分类训练

5.3.3 图卷积模型的改进

1．改进1：将节点信息带入图卷积模型计算

2．改进2：剔除第一个全连接层的激活函数

3．改进3：加载字-文本共现频率函数构建邻接矩阵

5.4 本章小结

第6章 实战自然语言处理——编码器

6.1 编码器理论基础

6.1.1 输入层——初始词向量层和位置编码器层

1．第一层：初始词向量层

2．第二层：位置编码

6.1.2 自注意力层

第一步：自注意力中的query、key和value

第二步：使用Query、Key和Value计算自注意力的值

第三步：自注意力计算的代码实现

6.1.3 ticks和LayerNormalization

6.1.4 多头自注意力

6.2 案例实战：简单的编码器

6.2.1 前馈层的实现

6.2.2 编码器的实现

6.3 案例实战：汉字拼音转化模型

6.3.1 汉字拼音数据集处理

第一步：数据集展示

第二步：获取字库和训练数据

第三步：根据字库生成Token数据

6.3.2 汉字拼音转化模型的确定

6.3.3 模型训练部分的编写

6.3.4 推断函数的编写

6.4 本章小结

第7章 实战BERT——中文文本分类

7.1 BERT理论基础

7.1.1 BERT基本架构与应用

1．BERT的输入

2．BERT的模型架构

7.1.2 BERT预训练任务与Fine-Tuning

1．开创性的预训练任务方案

2．任务1：MLM

3．任务2：NSP

4．BERT用于具体NLP任务（Fine-Tuning）

7.2 案例实战：中文文本分类

7.2.1 使用Hugging Face获取BERT预训练模型

第一步：安装依赖

第二步：使用Hugging Face的BERT代码编写

7.2.2 BERT实战文本分类

第一步：数据的准备

第二步：数据的处理

第三步：模型的设计

第四步：模型的训练

第五步：模型的训练（补充）

7.3 拓展：更多的预训练模型

7.4 本章小结

第8章 实战自然语言处理——多标签文本分类

8.1 多标签分类理论基础

8.1.1 多标签分类不等于多分类

8.1.2 多标签分类的激活函数——sigmoid

8.2 案例实战：多标签文本分类

8.2.1 第一步：数据的获取与处理

8.2.2 第二步：选择特征抽取模型

1．使用自定义模型构建特征抽取模块

2．使用预训练模型构建特征抽取模块

8.2.3 第三步：训练模型的建立

8.2.4 第四步：多标签文本分类的训练与预测

8.3 本章小结

第9章 实战MTCNN—人脸检测

9.1 人脸检测基础

9.1.1 LFW数据集简介

9.1.2 Dlib库简介

9.1.3 OpenCV简介

9.1.4 使用Dlib做出图像中的人脸检测

第一步：使用OpenCV读取图片

第二步：加载Dlib的检测器

第三步：使用Dlib进行人脸检测

9.1.5 使用Dlib和OpenCV建立人脸检测数据集

第一步：LFW数据集中的所有图片

9.2 案例实战：基于MTCNN模型的人脸检测

9.2.1 MTCNN模型简介

1．P-Net阶段

2．R-Net阶段

3．O-Net阶段

9.2.2 MTCNN模型的使用

9.2.3 MTCNN模型中的一些细节

1．交并比

2．非极大值抑制

3．MTCNN的训练

9.3 本章小结

第10章 实战SiameseModel—人脸识别

10.1 基于深度学习的人脸识别模型

10.1.1 人脸识别的基本模型SiameseModel

10.1.2 SiameseModel的实现

10.1.3 人脸识别数据集的准备

10.2 案例实战：基于相似度计算的人脸识别模型

10.2.1 一种新的损失函数Triplet Loss

1．Face Net模型的架构

2．替代softmax的Triplet Loss损失函数

10.2.2 基于TripletSemiHardLoss的MNIST模型

第一步：tensorflow_addons与tensorflow_datasets的使用

第二步：模型的定义

第三步：使用TripletSemiHardLoss进行模型训练

第四步：相似度衡量函数

第五步：模型的训练与预测

第六步：模型预测的可视化展示

第七步：模型训练过程中数据输入的细节问题

10.2.3 基于TripletSemiHardLoss和SENET的人脸识别模型

第一步：人脸识别数据集的输入

第二步：使用SENet修正后的人脸识别模型

10.3 本章小结

第11章 实战MFCC和CTC——语音转换

11.1 MFCC理论基础

11.1.1 MFCC

1．梅尔频率

2．倒谱分析

1．使用TensorFlow获取语音的解析

2．使用TensorFlow获取到中间语谱图变量

3．使用TensorFlow计算MFCC

11.1.2 CTC

11.2 案例实战：语音汉字转换

11.2.1 第一步：数据集THCHS-30简介

11.2.2 第二步：数据集的提取与转化

1．遍历数据集并提取对应的数据地址

2．遍历数据集建立词库列表

3．一些工具类函数的编写

4．模型的编写

5．动态输入函数的编写

6．CTC Loss函数的编写

7．模型的训练过程

8．模型的预测

11.3 本章小结