大数据技能竞赛知识点解析与实践

大数据技能竞赛知识点解析与实践

查阅电子书
手机扫码
  • 微信扫一扫

    关注微信公众号

因版权原因待上架

编辑推荐

全面系统讲述大数据技术。

内容简介

本书以大学生大数据技能竞赛、“智警杯”大数据技能竞赛为背景,全面系统地讲述了大数据技术的基本原理和应用。

本书共5章,主要介绍了Linux操作系统的常用命令和服务的使用;MySQL数据库操作与管理、非关系型数据库NoSQL;围绕大数据框架讲述了Hadoop技术、Hive数据仓库等大数据组件架构的应用;数据采集与分析;数据挖掘与数据可视化、业务分析报告撰写等内容。

本书内容循序渐进,条理性强,全部内容基于项目需求进行设计,同时对所需的系统环境、软件版本、数据等信息进行详细说明,有助于读者本地环境的复现和练习。

本书既可作为大数据技能竞赛的参赛辅导书,也可作为高等院校本、专科数据科学与大数据技术以及其他计算机相关专业大数据技术综合实训教材。

章节目录

版权信息

前言

实验环境配置说明

第1章 Linux操作系统

1.1 主机名配置

1.1.1 设置主机名

1.1.2 Hosts映射

1.2 防火墙配置与管理

1.2.1 防火墙操作命令

1.2.2 配置防火墙规则

1.3 时间同步

1.3.1 同步网络时间

1.3.2 同步服务器时间

1.4 定时任务管理

1.5 SSH远程访问

1.5.1 SSH协议

1.5.2 SSH连接工具

1.6 软件包管理

1.6.1 软件配置

1.6.2 下载安装软件

思考与练习

第2章 数据库技术

2.1 MySQL数据库

2.1.1 MySQL的安装

2.1.2 数据库操作管理

2.1.3 数据表操作管理

2.1.4 数据操作管理

2.1.5 视图

2.1.6 权限管理

2.1.7 备份与还原

2.1.8 SQL优化

2.2 非关系型数据库NoSQL

2.2.1 HBase列式数据库

2.2.2 Redis数据库

2.2.3 MongoDB文件数据库

思考与练习

第3章 大数据平台技术

3.1 Hadoop分布式大数据框架

3.1.1 搭建Hadoop伪分布式集群

3.1.2 搭建Hadoop完全分布式集群

3.1.3 命令行方式管理HDFS

3.1.4 使用开发工具连接Hadoop集群

3.1.5 Java API操作HDFS

3.1.6 分布式计算框架之MapReduce

3.1.7 编写MapReduce方法

3.1.8 配置Hadoop集群高可用(HA)

3.2 Hive数据仓库

3.2.1 本地模式安装Hive数据仓库

3.2.2 Hive数据仓库的常见属性

3.2.3 Hive DDL操作

3.2.4 Hive DML操作

3.2.5 Hive中的数据查询

3.2.6 Hive中的窗口函数

3.2.7 案例:国内主要城市房屋出租情况统计分析

3.3 HBase数据库

3.3.1 搭建HBase伪分布式集群

3.3.2 HBase的Shell操作

3.3.3 HBase的Java API操作

3.3.4 使用HBase的过滤器

3.3.5 HBase与MapReduce的集成

3.3.6 HBase与Hive的集成

3.3.7 HBase与Sqoop的集成

3.4 Spark技术框架

3.4.1 集群安装部署

3.4.2 Spark Shell

3.4.3 Spark SQL

3.4.4 Spark Streaming

3.4.5 Spark MLlib

3.4.6 Structured Streaming实时计算

3.5 大数据平台运维与管理

3.5.1 故障排查

3.5.2 性能调优

3.6 大数据框架应用

3.6.1 协调框架:ZooKeeper

3.6.2 数据收集:Flume

3.6.3 数据传输:Sqoop

3.6.4 任务调度工具:Azkaban

思考与练习

第4章 数据采集与分析

4.1 报表数据处理

4.1.1 数据预处理

4.1.2 数据分析

4.2 网络信息获取技术

4.2.1 HTTP基本原理

4.2.2 网页组成

4.2.3 网络请求

4.2.4 正则表达式

4.2.5 XPath解析

4.2.6 Beautiful Soup

4.2.7 数据存储

4.3 数据统计分析

4.3.1 描述性分析

4.3.2 探索性分析

4.3.3 缺失值分析

4.3.4 方差分析

4.3.5 T检验

4.3.6 卡方检验

思考与练习

第5章 数据挖掘与数据可视化

5.1 数据挖掘

5.1.1 线性回归

5.1.2 逻辑回归

5.1.3 支持向量机

5.1.4 朴素贝叶斯

5.1.5 决策树

5.1.6 时间序列分析

5.1.7 关联分析

5.1.8 K-Means聚类

5.1.9 主成分分析

5.2 数据可视化

5.2.1 报表可视化

5.2.2 Matplotlib可视化

5.2.3 Seaborn可视化

5.2.4 ECharts实现数据可视化

5.2.5 D3实现数据可视化

5.2.6 FineBI实现数据可视化

5.2.7 Tableau实现数据可视化

5.3 业务分析报告撰写

5.3.1 明确背景与目的

5.3.2 寻找合适数据

5.3.3 数据分析与图表

5.3.4 报告结论与建议

5.3.5 逻辑结构清晰

思考与练习

大数据技能竞赛知识点解析与实践是2023年由机械工业出版社出版,作者张莹 主编。

得书感谢您对《大数据技能竞赛知识点解析与实践》关注和支持,如本书内容有不良信息或侵权等情形的,请联系本网站。

购买这本书

你可能喜欢
临床医学实践技能 电子书
1.规范化诊断学基本技能:人文素养、问诊、病例分析、体格检查、病历书写;2.规范化外科基本技能操作:无菌术、清创术、体表肿物切除术、脓肿切开引流术、换药、拆线;规范化腔镜技术;3.规范化临床常用诊疗技能操作:四大穿刺、吸氧、吸痰、插胃管、三腔两囊止血、导尿、动静脉穿刺、静脉输液、药物过敏试验、隔离技术;4.规范化辅助检查:心电图、影像学、实验室检查;5.麻醉药品、精神药品处方规范化书写。温馨提示:
数据结构习题解析与实验指导 电子书
本书主要内容包括上下两篇,上篇为习题及习题解析,下篇为实验指导。每篇又分为几章内容,分别为:第1章 绪论、第2章 线性表、第3章栈和队列、第4章串、数组和广义表、第5章 树和二叉树、第6章图、第7章查找、第8章 排序。
数据结构习题解析与实验指导 电子书
本书分为两篇:第一篇与主教材的章节顺序一致,共8章,每章分别给出了相应的知识提要和习题解答,主要内容为主教材各章的知识导图和学习目标、主教材习题解答和典型习题解析;第二篇为课程实验与课程设计指导,根据数据结构课程的教学重点和难点,给出8个课程实验题目和2个综合性的课程设计题目,每个题目都有明确的要求。
MySQL数据库基础与实践 电子书
本书从实用的角度出发,全面讲解MySQL数据库技术。
大数据理论与工程实践 电子书
本书主要面向架构师,或者是有具体大数据问题需要解决的工程师;也适合从零开始搭建大数据结构,或者需要将现有的非大数据的需求修改成大数据方案的读者。你将从书中学到以下方面的知识:◎数据存储◎计算资源◎计算模型◎大数据应用◎数据治理◎大数据与人工智能