分布式机器学习——系统、工程与实战电子书

售价：¥

纸质售价：¥109.80购买纸书

29人正在读 | 0人评论

6.8

作者：柳浩

出版社：电子工业出版社

出版时间：2023-06-01

字数：35.3万

所属分类：科技 > 计算机/网络 > 多媒体/数据通信

温馨提示：数字商品不支持退换货，不提供源文件，不支持导出打印

为你推荐

读书简介
目录
累计评论(0条)

读书简介
目录
累计评论(0条)

本书主要讲解分布式机器学习算法和源框架，读者既可以从宏观的设计上了解分布式机器学习的概念和理论，也可以深核心技术的细节设计中，对分布式机器学习形成深刻而直观的认识，做到学以致用。本书共分为5篇，第1篇是分布式基础，首先介绍了分布式机器学习的概念、基础设施，以及机器学习并行化技术、框架和软件系统，然后对集合通信和参数服务器PS-Lite行了介绍。第2篇是数据并行，以PyTorch和Horovod为主对数据并行行分析，读者可以了解在具体工程领域内实现数据并行有哪些挑战和解决方案。第3篇是流水线并行，讲解了除模型划分之外，还通过引额外的流水线来提高效率，以GPipe / PyTorch / PipeDream为例行分析。第4篇是模型并行，首先对NVIDIA Megatron行分析，讲解如何行层内分割模型并行，然后讲解PyTorch 如何支持模型并行，最后介绍分布式优化器。第5篇是TensorFlow分布式，前面几篇以PyTorch为纲，结合其他框架/库来穿插完成，本篇带领大家TensorFlow分布式领域。 【推荐语】 AI的黄金时代可能才刚刚启，各行各业的生产力革命也会相继产生。OpenAI已经占据了领先位置，下来的AI赛道会风起云涌，中国企业势必会在其中扮演极其重要的角色，也会在深度学习栈和基础设施领域奋起直追。 “弯道超车”需要建立在技术沉淀和产品实力之上，我们只有切实地扎根于现有的分布式机器学习技术体系，并对其行深耕，才能为更好的创新和发展下基础。本书是作者在分布式机器学习领域学习和应用过程中的总结和思考，能起到抛砖引玉的作用，带领大家走/熟悉分布式机器学习这个领域。 【作者】 柳浩，网名“罗西的思考”，浙江大学硕士。曾就职于多家世界500强企业，主导过多个大型项目，现就职于某新能源车企。技术栈广博，有丰富的各种大型软件发和系统架构经验，对机器学习框架、微服务框架、大数据引擎、NoSQL、消息队列、分布式追踪系统、可观测系统、可靠性设计、移动发方案和源码有着深刻的理解和认识。

目录展开