分布式对象存储——原理、架构及Go语言实现

分布式对象存储——原理、架构及Go语言实现

查阅电子书
手机扫码
  • 微信扫一扫

    关注微信公众号

编辑推荐

适读人群 :本书适合从事云存储方面工作的工程师或架构师,也适合想要学习和实现分布式对象存储的读者。

  赠送价值249元的云存储专家视频课程

  掌握云存储理论,动手搭建分布式对象存储架构

  云存储已经是大家司空见惯的一种网络服务了,比如大家常用的百度云盘、美亚S3、微软的OneDrive、苹果公司的iCloud和谷歌的Google Cloud等。云存储背后的原理是怎样的,又是如何实现的呢?

  本书完全从云存储的需求出发讲述对象存储的原理,并且带领读者使用Go语言编程,循序渐进、从无到有地建立起一个分布式对象存储的架构。也就是说,本书首先介绍为什么要这么做,然后解释怎么做。

  本书适合云存储方面的研究者、工程师或架构师阅读,也可以供对云存储技术感兴趣的读者参考。在读完本书之后,你将较为深入地理解对象存储服务,甚至能够实现自己的对象存储服务。

  本书包括以下内容:

   对象存储简介;

   分布式系统原理;

   元数据以及元数据服务;

   数据校验和去重;

   数据冗余和即时修复;

   断点续传;

   数据压缩;

   数据维护。

内容简介

本书从云存储的需求出发讲述对象存储的原理,循序渐进地建立起一个分布式对象存储的架构,并且将软件实现出来。全书共8章,分别涉及对象存储简介、可扩展分布式系统、元数据服务、数据校验和去重、数据冗余处理、断点续传、数据压缩和数据维护等。本书选择用来实现分布式对象存储软件的编程语言是当前流行的Go语言。

本书适合从事云存储方面工作的工程师或架构师,也适合想要学习和实现分布式对象存储的读者。

作者简介

  胡世杰,上海交通大学毕业,目前在七牛云任职技术专家,是私有云存储服务的负责人。他是分布式对象存储系统专家,在该领域拥有多年的架构、开发和部署经验,精通C、C、Perl、Python、Ruby、Go等多种编程语言,熟悉ElasticSearch、RabbitMQ等开源软件。除了自己写作,他还致力于技术书籍的翻译,是《JavaScript面向对象精要》《Python和HDF5大数据应用》《Python高性能编程》等图书的译者。

章节目录

第 1章 对象存储简介 1 1.1 和传统网络存储的区别 1 1.1.1 数据的管理方式 2 1.1.2 访问数据的方式 2 1.1.3 对象存储的优势 3 1.2 单机版对象存储的架构 4 1.2.1 REST接口 4 1.2.2 对象PUT流程 5 1.2.3 对象GET流程 5 1.3 Go语言实现 6 1.4 功能测试 10 1.5 小结 12 第 2章 可扩展的分布式系统 15 2.1 什么是分布式系统 15 2.2 接口和数据存储分离的架构 16 2.2.1 REST接口 17 2.2.2 RabbitMQ消息设计 18 2.2.3 对象PUT流程 19 2.2.4 对象GET流程 20 2.3 Go语言实现 21 2.3.1 数据服务 21 2.3.2 接口服务 23 2.3.3 rabbitmq包 34 2.4 功能测试 38 2.5 小结 41 第3章 元数据服务 45 3.1 什么是元数据 45 3.1.1 系统定义的元数据 45 3.1.2 用户自定义的元数据 45 3.1.3 散列值和散列函数 46 3.2 加入元数据服务的架构 47 3.2.1 REST接口 48 3.2.2 ES接口 51 3.2.3 对象PUT流程 54 3.2.4 对象GET流程 55 3.3 Go语言实现 55 3.3.1 接口服务 55 3.3.2 es包 63 3.4 功能测试 68 3.5 小结 74 第4章 数据校验和去重 77 4.1 何为去重 77 4.1.1 需要数据校验的原因 78 4.1.2 实现数据校验的方法 79 4.2 给数据服务加入缓存功能 79 4.2.1 数据服务的REST 接口 80 4.2.2 对象PUT流程 80 4.3 Go语言实现 82 4.3.1 接口服务 82 4.3.2 数据服务 87 4.4 功能测试 98 4.5 去重导致的性能问题 101 4.6 小结 102 第5章 数据冗余和即时修复 105 5.1 数据冗余的概念 105 5.1.1 数据丢失和数据 不可用 105 5.1.2 数据冗余 106 5.1.3 对象存储系统的数据 冗余策略 107 5.2 数据冗余的实现 108 5.2.1 REST接口 108 5.2.2 对象PUT流程 108 5.2.3 对象GET流程 109 5.3 Go语言实现 111 5.3.1 接口服务 111 5.3.2 数据服务 126 5.4 功能测试 131 5.5 小结 135 第6章 断点续传 139 6.1 为什么对象存储需要支持 断点续传 139 6.1.1 断点下载流程 139 6.1.2 断点上传流程 140 6.1.3 接口服务的REST 接口 142 6.1.4 数据服务的REST 接口 144 6.2 Go语言实现 145 6.2.1 接口服务 145 6.2.2 数据服务 158 6.3 功能测试 160 6.4 小结 165 第7章 数据压缩 169 7.1 用gzip实现对象存储和下载时的数据压缩 170 7.1.1 存储时的数据压缩 170 7.1.2 下载时的数据压缩 171 7.1.3 接口服务的REST 接口 172 7.2 Go语言实现 172 7.2.1 接口服务 172 7.2.2 数据服务 174 7.3 功能测试 176 7.4 小结 180 第8章 数据维护 183 8.1 对象存储系统的数据维护 工作 183 8.1.1 对象版本留存 183 8.1.2 数据定期检查和 修复 184 8.1.3 数据服务的REST 接口 185 8.2 Go语言实现 185 8.2.1 删除过期元数据 185 8.2.2 删除没有元数据引用的 对象数据 188 8.2.3 对象数据的检查和 修复 191 8.3 功能测试 193 8.4 小结 202

分布式对象存储——原理、架构及Go语言实现是2018年由人民邮电出版社出版,作者胡世杰。

得书感谢您对《分布式对象存储——原理、架构及Go语言实现》关注和支持,如本书内容有不良信息或侵权等情形的,请联系本网站。

你可能喜欢
分布式架构原理与实践 电子书
本书从软件结构的发展历史入手,描述了分布式架构的特性和存在的问题,并围绕这些问题展开了分析和实践。
编程竞赛宝典:C++语言和算法入门 电子书
信息学奥赛金牌教练精心之作,算法竞赛宝典。
用Go语言自制解释器 电子书
从零开始,用GO语言创造出另一门语言,体验从无到有实现类C语言的乐趣。
微服务分布式构架开发实战 电子书
本书语言简洁,内容丰富,适合具备初级Java后端开发能力的开发人员,大中专相关专业师生,网站培训班学员,以前拥有单工程开发经验并且想尝试分布式微服务架构的人员。 · Java工程师 · 初级架构师 · 大中专院校相关专业师生 · Java培训班学员 · 独立开发者与自学读者
微服务架构实战——基于Spring Boot、Spring Cloud、Docker 电子书
1.通过Spring Boot、Spring Cloud、Docker等技术构建微服务体系。 2.精简而完整的案例分析展示实现微服务架构的完整蓝图。 3.结合业务场景,通过全面案例给出工具在构建微服务架构中的工程实战。 4.作者有近10年软件行业从业经验,主持和参与过多个大型企业级应用和移动互联网系统的开发和管理工作,北风网特邀讲师,讲授系统架构与技术管理相关课程。