电子书
编辑推荐
本书基于C++编写，旨在带领读者动手打造出一个深度学习框架。
内容简介
本书基于C++模板元编程，带领读者动手打造一个深度学习框架。内容整体上分为两大部分。第一部分介绍元编程中常见的基础技术，包括元函数的基本概念、元数据结构与算法、容器和Policy系统。第二部分从零开始构造深度学习框架，从深度学习框架的背景知识开始开始，逐步讨论深度学习框架涉及的数据、运算设计、基本层、复合层、循环层，以及求值与优化。本书将深度学习框架与C++模板元编程有机结合，更利于读者的学习掌握。
章节目录
- 版权信息
- 版 权
- 内容提要
- 前 言
- 第1部分 元编程基础技术
- 第1章 元编程基本方法
- 1.1 元函数与type_traits
- 1.1.1 元函数简介
- 1.1.2 类型元函数
- 1.1.3 各式各样的元函数
- 1.1.4 type_traits
- 1.1.5 元函数与宏
- 1.1.6 本书中元函数的命名方式
- 1.2 模板型模板参数与容器模板
- 1.2.1 模板作为元函数的输入
- 1.2.2 模板作为元函数的输出
- 1.2.3 容器模板
- 1.3 从元函数到元对象
- 1.3.1 元对象与元数据域
- 1.3.2 元方法
- 1.4 顺序、分支与循环代码的编写
- 1.4.1 顺序执行的代码
- 1.4.2 分支执行的代码
- 1.4.3 循环执行的代码
- 1.4.4 小心：实例化爆炸与编译崩溃
- 1.4.5 分支选择与短路逻辑
- 1.5 奇特的递归模板式
- 1.6 小结
- 1.7 练习
- 第2章 元数据结构与算法
- 2.1 基本数据结构与算法
- 2.1.1 数据结构的表示方法
- 2.1.2 基本算法
- 2.1.3 算法的复杂度
- 2.2 基于包展开与折叠表达式的优化
- 2.2.1 基于包展开的优化
- 2.2.2 基于折叠表达式的优化
- 2.3 基于操作合并的优化
- 2.4 基于函数重载的索引算法
- 2.4.1 分摊复杂度
- 2.4.2 容器的重载结构映射
- 2.4.3 构造重载结构
- 2.4.4 索引元函数
- 2.4.5 允许重复键
- 2.4.6 集合与顺序表的索引操作
- 2.5 顺序表的索引算法
- 2.5.1 构造索引序列
- 2.5.2 索引顺序表的元函数
- 2.6 小结
- 2.7 练习
- 第3章 异类词典与policy模板
- 3.1 具名参数简介
- 3.2 异类词典
- 3.2.1 模块的使用方式
- 3.2.2 键的表示
- 3.2.3 异类词典的实现
- 3.2.4 VarTypeDict的性能简析
- 3.2.5 将std::tuple作为缓存
- 3.3 policy模板
- 3.3.1 policy介绍
- 3.3.2 定义policy与policy对象（模板）
- 3.3.3 使用policy
- 3.3.4 背景知识——支配与虚继承
- 3.3.5 policy对象与policy支配结构
- 3.3.6 policy选择元函数
- 3.3.7 使用宏简化policy对象的声明
- 3.3.8 特殊的policy类型
- 3.3.9 其他与policy相关的元函数
- 3.4 小结
- 3.5 练习
- 第2部分 深度学习框架
- 第4章 深度学习概述
- 4.1 深度学习简介
- 4.1.1 从机器学习到深度学习
- 4.1.2 各式各样的人工神经网络
- 4.1.3 深度学习系统的组织与训练
- 4.2 本书所实现的框架——MetaNN
- 4.2.1 从矩阵运算工具到深度学习框架
- 4.2.2 MetaNN概述
- 4.2.3 本书将要讨论的内容
- 4.3 小结
- 第5章 类型体系与基本数据类型
- 5.1 设计理念
- 5.1.1 编译期的职责划分
- 5.1.2 使用类型体系管理不同的数据类型
- 5.1.3 支持不同的计算设备与计算单元
- 5.1.4 存储空间的分配与维护
- 5.1.5 浅拷贝与写操作检测
- 5.1.6 底层接口扩展
- 5.1.7 类型转换与求值
- 5.1.8 数据接口规范
- 5.2 类型体系
- 5.2.1 类型体系概述
- 5.2.2 迭代器分类体系
- 5.2.3 将标签作为模板参数
- 5.2.4 MetaNN的类型体系
- 5.2.5 类别标签与数据类型的关联
- 5.2.6 与类型体系相关的元函数
- 5.3 Shape类与形状信息
- 5.3.1 模板定义与基本操作
- 5.3.2 索引与偏移量的变换
- 5.3.3 维度为0时的特化
- 5.3.4 Shape的模板推导
- 5.4 Tensor类模板
- 5.4.1 模板定义
- 5.4.2 底层访问接口
- 5.4.3 模板特化与类型别名
- 5.4.4 主体类型的相关元函数
- 5.5 TrivialTensor
- 5.6 MetaNN所提供的其他数据类型
- 5.7 DynamicData
- 5.7.1 基类模板DynamicBase
- 5.7.2 派生类模板DynamicWrapper
- 5.7.3 使用DynamicData封装指针行为
- 5.7.4 辅助函数与辅助元函数
- 5.7.5 DynamicData与动态类型体系
- 5.8 小结
- 5.9 练习
- 第6章 运算与表达式模板
- 6.1 表达式模板概述
- 6.2 MetaNN运算模板的设计思想
- 6.2.1 Add类模板的问题
- 6.2.2 运算模板的行为分析
- 6.3 辅助元函数与辅助类模板
- 6.3.1 IsValidOper
- 6.3.2 辅助类模板OperElementType/ OperDeviceType
- 6.3.3 辅助类模板OperCateCal
- 6.3.4 辅助类模板OperAuxParams
- 6.3.5 辅助类模板OperShapeInfo
- 6.3.6 辅助类模板OperSeq_
- 6.4 运算模板的框架
- 6.5 运算实现示例
- 6.5.1 Sigmoid运算
- 6.5.2 加法运算
- 6.5.3 点乘运算
- 6.6 其他运算
- 6.6.1 四则运算
- 6.6.2 Slice运算
- 6.6.3 Permute运算及其相关运算
- 6.6.4 ReduceSum运算
- 6.6.5 非线性变换与相应的梯度计算
- 6.7 运算的折中与局限性
- 6.7.1 运算的折中
- 6.7.2 运算的局限性
- 6.8 小结
- 6.9 练习
- 第7章 基本层
- 7.1 层的设计理念
- 7.1.1 概述
- 7.1.2 层对象的构造
- 7.1.3 参数的初始化与加载
- 7.1.4 正向传播
- 7.1.5 存储中间结果
- 7.1.6 反向传播
- 7.1.7 输出梯度的形状检测
- 7.1.8 更新参数
- 7.1.9 导出参数
- 7.1.10 层的中性检测
- 7.2 层的辅助逻辑
- 7.2.1 初始化模块
- 7.2.2 接口相关辅助逻辑
- 7.2.3 GradPolicy
- 7.2.4 MakeInferLayer与MakeTrainLayer
- 7.2.5 通用操作函数
- 7.2.6 其他辅助逻辑
- 7.3 层的具体实现
- 7.3.1 AddLayer
- 7.3.2 MultiplyLayer
- 7.3.3 ParamSourceLayer
- 7.4 小结
- 7.5 练习
- 第8章 复合层
- 8.1 复合层的接口与设计理念
- 8.1.1 基本结构
- 8.1.2 结构描述语法
- 8.1.3 policy的继承
- 8.1.4 policy的修正
- 8.1.5 输入类型映射表的推导
- 8.1.6 复合层的构造函数
- 8.1.7 一个完整的复合层构造示例
- 8.2 policy继承与修正逻辑的实现
- 8.2.1 policy继承逻辑的实现
- 8.2.2 policy修正逻辑的实现
- 8.3 ComposeTopology的实现
- 8.3.1 功能简述
- 8.3.2 拓扑排序算法概述
- 8.3.3 ComposeTopology包含的主要步骤
- 8.3.4 结构描述子句与其划分
- 8.3.5 结构合法性检查
- 8.3.6 拓扑排序的实现
- 8.3.7 子层实例化元函数
- 8.4 ComposeKernel的实现
- 8.4.1 类模板的声明
- 8.4.2 子层对象管理
- 8.4.3 参数初始化、参数获取、参数梯度收集与中性检测
- 8.4.4 正向传播
- 8.4.5 反向传播
- 8.5 复合层实现示例
- 8.6 小结
- 8.7 练习
- 第9章 循环层
- 9.1 设计理念
- 9.1.1 子层的容器接口
- 9.1.2 确定序列所在维度
- 9.1.3 正向传播与反向传播
- 9.2 循环层的实现
- 9.2.1 主体框架
- 9.2.2 （元）数据域
- 9.2.3 KernelGenerator_的实现
- 9.2.4 ShapeDictHelper
- 9.2.5 构造函数、参数初始化等接口
- 9.2.6 正向传播
- 9.2.7 反向传播
- 9.3 循环层应用示例
- 9.3.1 以AddLayer作为内核的循环层
- 9.3.2 GRU
- 9.4 小结
- 9.5 练习
- 第10章 求值与优化
- 10.1 MetaNN的求值模型
- 10.1.1 运算的层次结构
- 10.1.2 求值子系统的类划分
- 10.2 基本求值逻辑
- 10.2.1 主体类型的求值接口
- 10.2.2 非主体基本数据类型的求值
- 10.2.3 运算模板的求值
- 10.2.4 DynamicData与求值
- 10.3 求值过程的优化
- 10.3.1 避免重复计算
- 10.3.2 针对运算特性的优化
- 10.3.3 同类计算合并
- 10.3.4 多运算协同优化
- 10.4 小结
- 10.5 练习
- 后 记
展开全部
动手打造深度学习框架是2022年由人民邮电出版社出版,作者李伟。
版权说明：本电子书已获得正版授权，由出版社通过知传链发行。
得书感谢您对《动手打造深度学习框架》关注和支持，如本书内容有不良信息或侵权等情形的，请联系本网站。
