Hadoop 大数据技术 学习网站

以教材《Hadoop大数据处理实战》的 10 章为主线:Hadoop 基础 → 集群搭建 → Eclipse 开发环境 → HDFS → I/O → MapReduce → Hive → HBase → Spark → 天气数据实战。每章给出知识点卡片、可复制的命令与代码、思考与练习,并配套零基础起步与命令速查。

教材 10 章16 周 · 64 学时5 个实战案例零基础起步纯静态 · 免联网
章10
周16
学时64
知识点103

学习路径 按教材章序推进,每章都有实操与练习

十章 · 知识轨

第1章 Hadoop基础知识

第1周 · 4 学时 · 概念、生态

Hadoop 是什么、为什么能处理海量数据、生态里都有谁,以及它和 Spark 的分工。

第2章 搭建Hadoop分布式集群

第2–3周 · 8 学时 · 虚拟机、CentOS

从安装 VMware、装 CentOS 7 开始,一步步配出 3 节点高可用集群(ZooKeeper + HDFS HA

第3章 搭建Eclipse开发环境

第4周 · 4 学时 · 伪分布式、Eclipse

在 Windows 上用 Eclipse 写 MapReduce:伪分布式环境 + Hadoop 插件 + 跑通官方 W

第4章 Hadoop分布式文件系统

第5–6周 · 8 学时 · HDFS、副本

HDFS 为什么这么设计、数据怎么保证不丢、一次读和一次写各自经历了什么。

第5章 Hadoop的I/O操作

第7周 · 4 学时 · 数据完整性、序列化

数据在磁盘与网络之间怎么保证不坏、怎么变紧凑、怎么打包成合适的容器格式。

第6章 MapReduce基础与编程

第8–9周 · 8 学时 · 计算模型、Shuffle

MapReduce 怎么把一个大任务拆成很多小任务、Shuffle 到底做了什么、两个案例代码怎么落地。

第7章 Hive实战

第10–11周 · 8 学时 · 数据仓库、HiveQL

把 SQL 能力搬到 Hadoop 上:Hive 的存储格式、数据类型、HiveQL、自定义函数与 Sqoop 数据迁移

第8章 HBase实战

第12–13周 · 8 学时 · 列式存储、Shell

当需求从"批量分析"变成"随机实时读写"时,HBase 补上了 HDFS 的短板。

第9章 Spark实战

第14–15周 · 8 学时 · 内存计算、RDD

内存计算框架:RDD 是什么、算子怎么选、一个 WordCount 怎么用 Spark 写得比 MapReduce 短十

第10章 天气数据分析实战

第16周 · 4 学时 · 综合项目、全流程

把前面九章串成一个项目:采集天气数据 → Sqoop 入库 → 清洗去重分区 → 三类分析。

速查与工具

教材与课程信息

教材

《Hadoop大数据处理实战》(双色·含微课),康开锋、赵克宝、刘斌 主编,上海交通大学出版社,2025 年 4 月,ISBN 978-7-313-22423-1

学时/周次

64 学时(理论 32 + 实践 32),16 周,每周 4 学时

先导课程

Linux 操作系统、Java 程序设计、数据库原理

后续课程

Hive 数据仓库工具、数据可视化、Spark 大数据技术

软件环境

CentOS 7 / Rocky Linux 8、JDK 8、Hadoop 3.x、ZooKeeper 3.x、MySQL 8、Hive 4.x、HBase 2.x、Spark 3.x、Eclipse 或 IDEA

实验条件

建议内存 16G、空闲磁盘 60G,3 台虚拟机(hadoop1/2/3)

怎么用这个网站① 每张知识点卡片右上角可勾选“已掌握”,进度存在本机浏览器;② 按 Ctrl+K 全站搜索;③ 每章底部有“思考与练习”,先自己做再点开答案;④ 每页底部可上一章/下一章连续阅读。