大语言模型原理、微调与Agent开发电子书

前折页

书名页

版权页

目录

第1章 大语言模型基础

1.1 大语言模型概述

1.1.1 大语言模型发展历史

1.1.2 大语言模型发展现状

1.2 模型的基本架构

1.2.1 Transformer架构解析

1.2.2 编码器-解码器

1.2.3 注意力机制详解

1.3 大语言模型应用开发基础

1.3.1 与大语言模型相关的Python开发技术

1.3.2 React开发框架

1.4 大语言模型训练原理简介

1.4.1 LoRA微调技术

1.4.2 Prompt改进：P-Tuning

1.4.3 人类反馈强化学习

第2章 大语言模型应用开发基础

2.1 CUDA并行编程技术

2.1.1 CUDA编程模型与架构原理

2.1.2 基于CUDA的矩阵运算与优化实现

2.1.3 CUDA内核性能调优与工具使用

2.2 基于PyTorch的大语言模型构建方法

2.2.1 PyTorch核心模块解析：数据加载与模型定义

2.2.2 自动微分与优化器的实现原理

2.2.3 多GPU分布式训练与性能优化

2.3 Nginx web服务器开发

2.3.1 Nginx核心模块与配置解析

2.3.2 使用Nginx处理静态与动态内容

2.3.3 高并发场景下的性能调优

2.4 Hugging Face的Transformer库

2.4.1 Transformer库基础：模型加载与简单推理

2.4.2 自定义微调流程：从数据准备到模型训练

2.4.3 模型导出与量化加速推理

2.5 API开发与云端部署

2.5.1 FastAPI框架快速搭建RESTful接口

2.5.2 部署深度学习模型服务：从本地到云端

2.5.3 接口性能监控与日志管理工具开发

第3章 大语言模型微调与应用实战

3.1 基于LLaMA3模型的微调技术

3.1.1 微调场景分析：任务分类、文本生成与问答

3.1.2 微调数据准备与预处理

3.1.3 微调过程实现：冻结层优化与增量学习

3.2 基于GeMMA-7B模型的微调技术

3.2.1 GeMMA-7B模型的任务适配：多任务微调方法

3.2.2 数据增强技术在微调中的应用

3.2.3 高效微调工具链：使用Hugging Face与PEFT方法

3.3 案例实战：企业文档问答平台

3.3.1 企业文档问答任务需求分析与功能模块划分

3.3.2 构建企业文档问答系统

3.3.3 微调、部署与性能测试

第4章 模型量化、编译与推理

4.1 大语言模型量化原理

4.1.1 模型量化技术简介：从FP32到INT8的精度降低方法

4.1.2 量化算法实现：动态量化与静态量化的技术差异

4.1.3 量化对推理性能的影响分析：速度提升与硬件加速

4.2 基于LLaMA3模型的量化过程

4.2.1 模型编译

4.2.2 模型加载

4.2.3 模型量化与测试

4.2.4 通过Nginx运行量化模型

4.3 基于GeMMA-7B模型的量化过程

4.3.1 模型编译

4.3.2 模型加载

4.3.3 模型量化与测试

4.3.4 通过Nginx运行量化模型

4.4 量化模型与推理

4.4.1 INT8推理框架对比：TensorRT与ONNX Runtime的应用

4.4.2 量化模型的实时推理

第5章 服务类应用开发：电商智能客服平台

5.1 客服平台需求分析与功能规划

5.1.1 电商场景中的常见客服需求分析

5.1.2 智能客服功能模块分解：对话生成，问题匹配与用户情绪检测

5.1.3 技术架构设计：对话模型与后端服务的集成

5.2 数据收集与清洗：构建电商客服知识库

5.2.1 知识库构建的流程与数据来源分析：商品信息与用户问题整合

5.2.2 数据清洗与分类技术：停用词过滤、分词与主题标签提取

5.2.3 数据增强与扩展方法：同义词替换与多语言支持

5.3 模型选择与微调：定制化客服模型开发

5.3.1 选择合适的预训练模型：对比BERT、GPT与T5的适用场景

5.3.2 微调对话生成模型：训练FAQ匹配与上下文生成能力

5.3.3 模型评估与优化：BLEU、ROUGE等指标的使用与调优

5.4 聊天逻辑与上下文管理实现

5.4.1 多轮对话上下文管理：用户意图识别与历史对话跟踪

5.4.2 对话状态追踪与转移：Slot Filling技术的应用

5.4.3 自然对话中的中断与恢复逻辑处理

5.5 实时问答API与平台部署

5.5.1 API设计与开发：实现多轮对话与知识检索接口

5.5.2 实时部署与性能优化：负载均衡与延迟优化

第6章 生产类应用开发：编程辅助插件

6.1 编程辅助需求分析与插件架构设计

6.1.1 需求分解：语法检查、代码生成与性能优化

6.1.2 数据流、后端逻辑与UI组件分离

6.2 编程语言模型微调：从代码生成到Bug修复

6.2.1 代码生成任务微调：从小样本学习到语法生成

6.2.2 错误检测与修复模型实现：代码标注与错误模式学习

6.2.3 生成式与判别式模型结合：从补全到建议

6.3 插件开发框架：编辑器集成与插件编写

6.3.1 基于VS Code扩展API的插件基础开发

6.3.2 编写代码补全与重构功能模块：结合语言服务器协议（LSP）

6.3.3 插件与云服务交互开发：代码片段存储与共享功能

6.4 编程任务与语言支持扩展

6.4.1 多语言代码生成的实现与支持：基于CodeT5或Codex的扩展

6.4.2 AST解析与复杂度分析

第7章 RAG应用开发：复杂场景下的寻人检索数据库

7.1 RAG应用场景分析：寻人检索需求与数据库构建

7.1.1 数据库结构设计：基于向量化数据的检索架构规划

7.1.2 寻人场景数据特点与多模态信息整合

7.2 数据嵌入向量化与存储：使用Milvus构建检索索引

7.2.1 数据向量化实现：结合Sentence-BERT生成嵌入向量

7.2.2 Milvus数据库的索引构建：从HNSW到IVF

7.3 检索模块开发：从语义搜索到多模态查询

7.3.1 基于语义搜索的检索：相似度匹配优化

7.3.2 查询结果的排序与过滤

7.3.3 寻人检索系统开发

第8章 LangChain应用开发：硬件开发工程师助理

8.1 硬件工程需求分析与助手功能设计

8.1.1 常见硬件开发流程分析：设计验证与调试需求

8.1.2 助理功能模块设计：问题回答、文档解析与设计建议

8.1.3 技术架构选择：结合LangChain模块化开发的流水线设计

8.2 硬件知识库构建与预训练模型微调

8.2.1 构建面向硬件开发的高质量语料库

8.2.2 领域微调：适配硬件领域专有术语

8.2.3 知识库与语料库的动态更新

8.3 LangChain流水线开发：从知识检索到问题解答

8.3.1 基于LangChain的多步检索与问答实现

8.3.2 知识链与逻辑推理

8.3.3 动态知识图谱

8.4 硬件设计工具集成与数据生成

8.4.1 与EDA工具的接口开发与集成

8.4.2 硬件设计数据生成器

第9章 Prompt生成：提示词生成技术

9.1 提示词优化需求分析与生成技术简介

9.1.1 提示词在大语言模型性能优化中的作用

9.1.2 提示词生成的技术原理与常用方法

9.1.3 动态提示词优化与自适应调整

9.2 提示词语料库构建与分类方法

9.2.1 构建提示词库：从文本生成到翻译任务

9.2.2 提示词的聚类与分类实现：K-means与DBSCAN的使用

9.2.3 提示词的自动扩展与评价指标

9.3 生成模型微调与Prompt优化技术实现

9.3.1 使用生成模型实现提示词优化：基于T5微调的示例

9.3.2 Few-shot与Zero-shot场景下的提示词生成

9.3.3 提示词对比学习的实现：监督与自监督

第10章 智能体开发：文本文档划词翻译插件

10.1 文档翻译场景分析与划词翻译需求设计

10.1.1 文档翻译的场景需求与技术分析

10.1.2 划词翻译实现

10.1.3 翻译智能体核心架构设计

10.1.4 智能体逐模块开发

10.1.5 系统综合开发完整代码实现

10.2 翻译模型微调与多语言支持实现

10.2.1 基于大语言模型的多语言翻译

10.2.2 对比基于词典与语料的方法

10.2.3 增强翻译结果的流畅性与语义准确度

10.3 插件开发与跨平台兼容性优化

10.3.1 浏览器插件API的开发

10.3.2 文本编辑器划词翻译插件开发

10.3.3 响应速度优化与内存占用优化

10.4 翻译系统评估与用户反馈迭代

10.4.1 翻译质量的评价指标与调优

10.4.2 用户行为数据采集与反馈机制

后折页