AI加速器架构设计与实现

AI加速器架构设计与实现

查阅电子书
手机扫码
  • 微信扫一扫

    关注微信公众号

因版权原因待上架

编辑推荐

图解NPU算法、架构与实现,教你从零开始设计一个能用、好用的产品级加速器。

内容简介

本书是一本讲解NPU硬件架构设计与技术实现的著作。作者将自己在CPU、GPU和NPU领域15年的软硬件工作经验融会贯通,将四代NPU架构设计经验融为一体,将端侧和云侧NPU架构合二为一,总结并提炼出本书内容。

本书主要讨论神经网络硬件层面,尤其是芯片设计层面的内容,主要包含神经网络的分析、神经网络加速器的设计以及具体实现技术。

通过阅读本书,你可以深入了解主流的神经网络结构,掌握如何从零开始设计一个能用、好用的产品级加速器。

章节目录

版权信息

前言

第1章 卷积神经网络

1.1 神经网络的结构

1.2 GCN

1.3 网络的基本块

1.4 网络的算子

1.5 网络参数量与运算量

1.6 加速器编程模型

1.7 硬件加速器架构分类

第2章 运算子系统的设计

2.1 数据流设计

2.2 算力与带宽

2.2.1 算力与输入带宽

2.2.2 算力与输出带宽

2.3 卷积乘法阵列

2.3.1 Conv算法详解

2.3.2 NVDLA的乘法阵列

2.3.3 TPU的乘法阵列

2.3.4 GPU的乘法阵列

2.3.5 华为DaVinci的乘法阵列

2.4 卷积运算顺序的选择

2.5 池化模块的设计

第3章 存储子系统的设计

3.1 存储子系统概述

3.1.1 存储子系统的组成

3.1.2 内部缓存的设计

3.2 数据格式的定义

3.2.1 特征图的格式

3.2.2 权重的格式

第4章 架构优化技术

4.1 运算精度的选择

4.1.1 dynamic fixed point类型

4.1.2 bfloat16类型

4.2 硬件资源的复用

4.2.1 FC

4.2.2 de-Conv

4.2.3 dilate Conv

4.2.4 group Conv

4.2.5 3D Conv

4.2.6 TC Conv

4.2.7 3D Pool

4.2.8 Up Sample Pooling

4.2.9 多个加速器的级联

4.3 Winograd算法和FFT算法

4.3.1 Winograd算法解析

4.3.2 FFT算法解析

4.4 除法变乘法

4.5 LUT的使用

4.6 宏块并行技术

4.7 减少软件配置时间

4.8 软件优化技术

4.9 一些激进的优化技术

第5章 安全与防护

5.1 安全技术

5.2 安全性评估

5.3 防护

第6章 神经网络加速器的实现

6.1 乘法器的设计

6.1.1 整型乘法器的设计

6.1.2 浮点运算器的设计

6.2 数字电路常见基本块的设计

6.3 时序优化

6.4 低功耗设计

第7章 盘点与展望

7.1 AI加速器盘点

7.2 Training加速器

7.3 展望

后记

AI加速器架构设计与实现是2023年由机械工业出版社出版,作者甄建勇。

得书感谢您对《AI加速器架构设计与实现》关注和支持,如本书内容有不良信息或侵权等情形的,请联系本网站。

购买这本书

你可能喜欢
Vue.js设计与实现 电子书
1.Vue.js官方团队成员霍春阳倾力打造;2.基于Vue.js3深入解析Vue.js设计细节;3.Vue.js作者尤雨溪作序推荐;4.本书提供源代码下载;5.业界大咖联袂推荐...
系统架构设计 电子书
适读人群:立志向系统架构师转型的广大开发人员本书包含作者基于自身在传统以及互联网行业多年的技术与管理工作经历展开论述,结合方法论和工程实践,具有较强的针对性和适用性,能帮助读者了解并掌握迈向架构师所需的各种知识体系和实践技巧。本书在介绍技术以及过程管理的内容时,采用“思路à方法论à工程实践”的三段式模型,不光告诉读者可以怎么做,更重要的是提供了对问题的分析以及解决思路和方法论,并辅以相应的工程实践和案例分析。本书从“向架构师转型”的角度出发,关注于转型这个特定主题给出了作者自身的一些思考和总结,从内容上填补了市场上的这一空白。
电子电路设计与实现 电子书
本书包含了电子电路设计的基本知识、基本方法和实用电子电路的设计与实现。从基础理论方法、基本器件、常用仪器工具开始,介绍了电子电路基本设计、制作、调试方法,进而详述直流电源电路、集成放大电路、振荡电路、基本数字电路、趣味电路等相关电路的制作与调试。通过实例介绍电子电路设计制作过程中的器件原理、电路设计、仿真、制作和调试等内容。本书选择了一些经典电路与一些趣味电路作为案例,二者结合易于给初学者以乐趣和
物联网方案设计与实现 电子书
物联网专业课程:系统原理、设计实现与应用掌握
智能可穿戴设备的设计与实现 电子书
本书以智能可穿戴设备开发平台为依托,并结合编者的实际开发经验编写而成,内容包括:可穿戴设备的现状、平台简介和实验说明;IAR-EWARM软件的安装和使用方法,用AndroidStudio开发软件开发可穿戴设备APP;Android入门基础知识;编程实现让APP通过蓝牙和设备进行通信;可穿戴设备模块综合设计。  本书结构清晰,讲解细致,注重学生实践能力的培养。通过学习,读者可对智能可穿戴设备的设计与