基于PyTorch Lightning的深度学习:使用Python快速构建高性能人工智能(AI)模型电子书

贡献者

译者序

前言

第一部分 开始使用PyTorch Lightning

第1章 PyTorch Lightning体验之旅

1.1 PyTorch Lightning的独特之处

1.1.1 第一个深度学习模型

1.1.2 数量众多的框架

1.1.3 PyTorch与TensorFlow的比较

1.1.4 最佳平衡：PyTorch Lightning

1.2 ＜pip install＞：PyTorch Lightning体验之旅

1.3 了解PyTorch Lightning的关键组件

1.3.1 深度学习管道

1.定义问题

2.数据准备

3.建模

4.训练

5.部署工程

1.3.2 PyTorch Lightning抽象层

1.4 使用PyTorch Lightning创建人工智能应用程序

1.图像识别模型

2.迁移学习

3.NLP Transformer模型

4.Lightning Bolts

5.LSTM时间序列模型

6.自动编码器生成式对抗网络

7.结合CNN和RNN的半监督模型

8.对比学习的自监督模型

9.部署模型和评价模型

10.规模化模型和生产力技巧

1.5 进一步阅读的资料

1.6 本章小结

第2章 深入研究第一个深度学习模型

2.1 技术需求

2.2 神经网络入门

2.2.1 为什么使用神经网络

2.2.2 关于XOR运算符

2.2.3 多层感知器体系结构

2.3 Hello World多层感知器模型

2.3.1 准备数据

2.3.2 构建模型

1.初始化模型

2.将输入映射到模型

3.配置优化器

4.设置训练参数

2.3.3 训练模型

2.3.4 加载模型

2.3.5 预测分析

2.4 构建第一个深度学习模型

2.4.1 究竟什么构成了“深度”

2.4.2 卷积神经网络体系结构

2.5 用于图像识别的卷积神经网络模型

2.5.1 加载数据

2.5.2 构建模型

1.模型初始化

2.配置优化器

3.配置训练和测试步骤

2.5.3 训练模型

2.5.4 计算模型的准确率

2.5.5 模型改进练习

2.6 本章小结

第3章 使用预训练的模型进行迁移学习

3.1 技术需求

3.2 迁移学习入门

3.3 使用预训练VGG-16体系结构的图像分类器

3.3.1 加载数据

3.3.2 构建模型

3.3.3 训练模型

3.3.4 计算模型的准确率

3.4 基于BERT transformer的文本分类

3.4.1 初始化模型

3.4.2 自定义输入层

3.4.3 准备数据

3.4.4 设置数据加载器实例

3.4.5 设置模型训练

3.4.6 设置模型测试

3.4.7 训练模型

3.4.8 测量准确率

3.5 本章小结

第4章 Bolts中的现成模型

4.1 技术需求

4.2 使用Bolts的逻辑回归

4.2.1 加载数据集

4.2.2 构建逻辑回归模型

4.2.3 训练模型

4.2.4 测试模型

4.3 使用Bolts的生成式对抗网络

4.3.1 加载数据集

4.3.2 配置生成式对抗网络模型

4.3.3 训练模型

4.3.4 加载模型

4.3.5 生成伪造图像

4.4 使用Bolts的自动编码器

4.4.1 加载数据集

1.筛选数据集

2.分批加载

4.4.2 配置自动编码器模型

4.4.3 训练模型

4.4.4 获得训练结果

4.5 本章小结

第二部分 使用PyTorch Lightning解决问题

第5章 时间序列模型

5.1 技术需求

5.2 时间序列概述

基于深度学习的时间序列预测

5.3 时间序列模型入门

5.4 基于循环神经网络的每日天气预报时间序列模型

5.4.1 加载数据

1.加载训练数据集

2.加载测试数据集

5.4.2 特征工程

5.4.3 创建自定义数据集

5.4.4 使用PyTorch Lightning配置循环神经网络模型

1.定义模型层

2.设置优化器

3.传递训练数据

4.配置训练循环

5.4.5 训练模型

5.4.6 度量训练损失

5.4.7 加载模型

5.4.8 对测试数据集进行预测

5.5 基于长短期记忆网络的时间序列模型

5.5.1 数据集分析

5.5.2 特征工程

5.5.3 创建自定义数据集

1.加载数据

2.创建特征

3.创建窗口化/系列化

4.计算数据集的长度

5.返回行数

5.5.4 使用PyTorch Lightning配置长短期记忆网络模型

1.定义模型

2.设置优化器

3.设置数据

4.配置训练循环

5.配置验证循环

5.5.5 训练模型

5.5.6 度量训练损失

5.5.7 加载模型

5.5.8 对测试数据集进行预测

5.6 本章小结

第6章 深度生成式模型

6.1 技术需求

6.2 生成式对抗网络模型入门

6.3 使用生成式对抗网络创建新的鸟类物种

6.3.1 加载数据集

6.3.2 特征工程实用函数

6.3.3 配置鉴别器模型

1.定义参数

2.构建卷积层

6.3.4 配置生成器模型

1.第一个转置卷积层

2.第二个转置卷积层

3.第三个转置卷积层

4.第四个转置卷积层

5.第五个转置卷积层（最后一层）

6.3.5 配置生成式对抗网络模型

1.定义模型

2.配置优化器和损失函数

3.配置训练循环

4.保存生成的虚假图像

6.3.6 训练生成式对抗网络模型

6.3.7 获取虚假鸟类图像的输出

6.4 本章小结

第7章 半监督学习

7.1 技术需求

7.2 半监督学习入门

7.3 CNN-RNN体系结构概览

7.4 为图像生成说明文字

7.4.1 下载数据集

1.COCO数据集

2.提取数据集

7.4.2 组装数据

1.筛选图像及其说明文字

2.按类别选择图像

3.选择说明文字

4.调整图像大小

5.构建词汇表

7.4.3 训练模型

1.数据集

2.collate函数

3.数据加载器

4.混合CNN-RNN模型

5.CNN和RNN层

6.优化器设置

7.更改为RMSprop优化器

8.训练损失

9.学习率

10.批次大小

11.启动模型训练

12.训练进度

7.4.4 生成说明文字

1.图像说明文字预测

2.中间结果

3.训练结果

7.4.5 进一步改进的方向

7.5 本章小结

第8章 自监督学习

8.1 技术需求

8.2 自监督学习入门

8.3 什么是对比学习

8.4 SimCLR体系结构

8.5 用于图像识别的SimCLR对比学习模型

8.5.1 收集数据集

8.5.2 设置数据增强

8.5.3 加载数据集

8.5.4 配置训练

1.设置超参数

2.定义损失函数

3.定义编码器

4.SimCLR管道

8.5.5 模型训练

8.5.6 评估模型的性能

8.6 进一步改进的方向

8.7 本章小结

第三部分 高级主题

第9章 部署和评分模型

9.1 技术需求

9.2 在本地部署和评分深度学习模型

9.2.1 pickle（.PKL）模型文件格式

9.2.2 部署深度学习模型

9.2.3 保存和加载模型检查点

9.2.4 使用Flask部署和评分模型

9.3 部署和评分可以移植的模型

9.3.1 ONNX的格式及其重要性

9.3.2 保存和加载ONNX模型

9.3.3 使用Flask部署和评分ONNX模型

9.4 进一步的研究方向

9.5 进一步阅读的资料

9.6 本章小结

第10章 规模化和管理训练

10.1 技术需求

10.2 管理训练

10.2.1 保存模型超参数

10.2.2 高效调试

10.2.3 使用TensorBoard监测训练损失

10.3 规模化训练

10.3.1 利用多个工作线程加速模型训练

10.3.2 GPU/TPU训练

10.3.3 混合精度训练/16位精度训练

10.4 控制训练

10.4.1 使用云计算时保存模型检查点

10.4.2 更改检查点功能的默认行为

10.4.3 从保存的检查点恢复训练

10.4.4 使用云计算时保存下载和组装的数据

10.5 进一步阅读的资料

10.6 本章小结