大语言模型通识电子书

前言

课程教学进度表

第1章 概述

1.1 人工智能基础

1.1.1 人工智能的定义

1.1.2 人工智能的实现途径

1.1.3 机器学习和深度学习

1.1.4 监督学习与无监督学习

1.2 大语言模型的定义

1.3 大语言模型形成基础

1.3.1 Blockhead思维实验

1.3.2 大模型的历史基础

1.3.3 基于Transformer模型

1.3.4 大模型的学习能力

1.3.5 大模型的世界模型问题

1.3.6 文化知识传递和语言支持

1.4 通用人工智能

1.4.1 什么是通用人工智能

1.4.2 大模型与通用人工智能

1.4.3 人工智能生成内容

【作业】

【实践与思考】了解典型的开源大语言模型

第2章 大模型基础

2.1 什么是语言模型

2.1.1 语言模型的定义

2.1.2 注意力机制

2.1.3 开源还是闭源

2.2 大模型发展三阶段

2.2.1 基础模型阶段

2.2.2 能力探索阶段

2.2.3 突破发展阶段

2.3 Transformer模型

2.3.1 Transformer过程

2.3.2 Transformer结构

2.3.3 Transformer模块

2.4 生成式预训练语言模型GPT

2.5 大模型的结构

2.5.1 LLaMA的模型结构

2.5.2 LLaMA的注意力机制

【作业】

【实践与思考】基于ChatGPT的免费工具：ChatAI小组件

第3章 大模型的架构

3.1 大模型生成原理

3.1.1 上下文学习

3.1.2 指令微调

3.1.3 零样本/少样本

3.1.4 深度学习架构

3.1.5 训练策略及优化技术

3.2 多模态语言模型

3.2.1 多模态指令微调

3.2.2 多模态上下文学习

3.2.3 多模态思维链

3.2.4 大模型辅助视觉推理

3.3 应用技术架构

3.3.1 指令工程

3.3.2 函数调用

3.3.3 检索增强生成

3.3.4 微调

3.4 OpenAI的Sora大模型

3.4.1 Sora技术报告分析

3.4.2 Sora主要技术特点

3.4.3 Sora的模型训练过程

3.5 谷歌的新款大模型频发

3.5.1 Gemini 1.0大模型

3.5.2 Gemini 1.5多模态大模型

3.5.3 Gemma开源大模型

3.5.4 Genie基础世界模型

3.5.5 什么是世界模型

【作业】

【实践与思考】熟悉阿里云大模型——通义千问

第4章 数据标注

4.1 知识与知识表示

4.1.1 知识的概念

4.1.2 知识表示方法

4.1.3 表示方法的选择

4.2 什么是数据标注

4.3 数据标注的分类

4.3.1 图像标注

4.3.2 语音标注

4.3.3 3D点云标注

4.3.4 文本标注

4.4 制定标注规则

4.5 执行数据标注

4.6 标注团队管理

【作业】

【实践与思考】熟悉百度大模型——文心一言

第5章 大模型预训练数据

5.1 数据来源

5.1.1 通用数据

5.1.2 专业数据

5.2 数据处理

5.2.1 质量过滤

5.2.2 冗余去除

5.2.3 隐私消除

5.2.4 词元切分

5.3 数据影响分析

5.3.1 数据规模

5.3.2 数据质量

5.4 典型的开源数据集

5.4.1 Pile

5.4.2 ROOTS

5.5 数据集面临的挑战

5.5.1 数据集规模和质量待提升

5.5.2 大模型与数据集相辅相成

5.5.3 数据集标准规范需健全

5.5.4 数据存储性能待提高

【作业】

【实践与思考】熟悉Globe Explorer智能搜索引擎

第6章 大模型的开发组织

6.1 大模型开发流程

6.2 大模型的数据组织

6.2.1 数据采集

6.2.2 数据清洗和预处理

6.2.3 数据标注

6.2.4 数据集划分

6.2.5 模型设计

6.2.6 模型初始化

6.2.7 模型训练

6.2.8 模型验证

6.2.9 模型保存

6.2.10 模型测试

6.2.11 模型部署

6.3 训练集、验证集、测试集的不同之处

6.3.1 目的与功能不同

6.3.2 数据交互频率不同

6.3.3 数据划分与比例不同

6.3.4 使用时机不同

6.4 训练集、验证集、测试集的相似之处

6.4.1 数据来源一致

6.4.2 相似的数据预处理

6.4.3 目标一致，各具独立性

6.4.4 保证数据质量和代表性

【作业】

【实践与思考】熟悉科大讯飞大模型——讯飞星火认知

第7章 分布式训练

7.1 分而治之

7.1.1 消息传递接口MPI

7.1.2 MapReduce

7.1.3 批处理和流处理

7.2 什么是分布式处理

7.2.1 分布式处理的特点

7.2.2 分布式处理的发展过程

7.2.3 分布式构成方式

7.2.4 分布式处理系统

7.3 分布式训练概述

7.4 分布式并行训练策略

7.4.1 数据并行性

7.4.2 模型并行性

7.4.3 流水线并行性

7.4.4 混合并行

7.5 分布式训练的集群架构

【作业】

【实践与思考】大模型背后的“芯片行业巨头”——英伟达

第8章 提示工程与微调

8.1 什么是提示工程

8.1.1 提示工程的本质

8.1.2 提示工程的原理

8.1.3 提示工程应用技术

8.1.4 提示的通用技巧

8.2 大模型为什么要微调

8.3 提示学习和语境学习

8.3.1 提示学习

8.3.2 语境学习

8.4 上下文窗口扩展

8.5 指令数据的构建

8.5.1 手动构建指令

8.5.2 自动构建指令

8.5.3 开源指令数据集

8.6 微调及其PEFT流行方案

8.6.1 微调技术路线

8.6.2 提示微调

8.6.3 前缀微调

8.6.4 LoRA

8.6.5 QLoRA

【作业】

【实践与思考】熟悉文生图大模型—Midjourney

第9章 强化学习方法

9.1 什么是强化学习

9.1.1 强化学习的定义

9.1.2 强化学习的发展历史

9.2 强化学习与监督和无监督学习的比较

9.2.1 与监督和无监督学习的不同

9.2.2 大模型环境下的强化学习

9.2.3 学习方式不同

9.2.4 先验知识与标注数据

9.3 强化学习的基础

9.3.1 基于模型与免模型环境

9.3.2 探索与利用

9.3.3 片段还是连续性任务

9.3.4 网络模型设计

9.3.5 数据依赖性

9.4 强化学习分类

9.4.1 从奖励中学习

9.4.2 被动强化学习

9.4.3 主动强化学习

9.4.4 强化学习中的泛化

9.4.5 学徒学习

【作业】

【实践与思考】熟悉文生视频大模型—Sora

第10章 基于大模型的智能体

10.1 智能体和环境

10.2 智能体的良好行为

10.2.1 性能度量

10.2.2 理性

10.2.3 全知、学习和自主

10.3 环境的本质

10.3.1 指定任务环境

10.3.2 任务环境的属性

10.4 智能体的结构

10.4.1 智能体程序

10.4.2 学习型智能体

10.4.3 智能体组件的工作

10.5 构建大模型智能体

10.5.1 基于大模型的智能体

10.5.2 观测与感知

10.5.3 记忆与检索

10.5.4 推理和规划

10.5.5 行动和执行

【作业】

【实践与思考】人形机器人创业独角兽Figure AI

第11章 大模型应用框架

11.1 大模型哲学问题

11.1.1 组成性

11.1.2 天赋论与语言习得

11.1.3 语言理解与基础

11.1.4 世界模型

11.1.5 知识传递和语言支持

11.2 大模型的构建流程

11.2.1 确定需求大小

11.2.2 数据收集

11.2.3 数据预处理

11.2.4 大模型预训练

11.2.5 任务微调

11.2.6 模型部署

11.3 大模型的应用场景

11.3.1 机器翻译、文本理解与分析

11.3.2 恶意软件分析

11.3.3 自然语言生成

11.3.4 搜索与知识提取

11.3.5 代码开发

11.3.6 检测和预防网络攻击

11.3.7 虚拟助理和客户支持

11.3.8 转录

11.3.9 市场调研

11.3.10 SEO关键词优化

11.4 案例：Magic突破Q算法

【作业】

【实践与思考】精通垃圾分类的ZenRobotics机器人

第12章 技术伦理与限制

12.1 人工智能面临的伦理挑战

12.1.1 人工智能与人类的关系

12.1.2 人与智能机器的沟通

12.2 大数据伦理问题

12.2.1 数据主权和数据权问题

12.2.2 隐私权和自主权问题

12.2.3 数据利用失衡问题

12.3 大模型的知识产权保护

12.3.1 大模型的诉讼案例

12.3.2 大模型生成内容的知识产权保护

12.3.3 尊重隐私，保障安全，促进开放

12.3.4 边缘群体的数字平等

12.4 算法歧视

12.4.1 算法透明之争

12.4.2 算法透明的实践

12.4.3 算法透明的算法说明

12.4.4 算法公平的保障措施

【作业】

【实践与思考】完全由人工智能生成的视觉艺术品无法获得版权

第13章 大模型的评估

13.1 模型评估概述

13.2 大模型评估体系

13.2.1 知识与能力

13.2.2 伦理与安全

13.2.3 垂直领域评估

13.3 大模型评估方法

13.3.1 评估指标

13.3.2 评估方法

13.4 大模型评估实践

13.4.1 基础模型评估

13.4.2 监督学习和强化学习的模型评估

【作业】

【实践与思考】开展典型大模型评估实践

第14章 大模型的健康未来

14.1 人工智能新发展

14.1.1 “人工智能+”成为新质生产力重要引擎

14.1.2 人工智能改变自动驾驶未来

14.1.3 重视人工智能治理政策

14.1.4 人工智能音乐的立法实践

14.1.5 防止人工智能误导民众

14.1.6 生成式人工智能产出的版权

14.2 数据隐私保护对策

14.2.1 构建隐私保护伦理准则

14.2.2 注重隐私保护伦理教育

14.2.3 健全道德伦理约束机制

14.3 人工智能伦理原则

14.3.1 职业伦理准则的目标

14.3.2 创新发展道德伦理宣言

14.3.3 百度四大伦理原则

14.3.4 欧盟可信赖的伦理准则

14.4 大模型的大趋势

14.5 通用人工智能涌现

【作业】

【课程学习与实践总结】

附录 作业参考答案

参考文献