Hadoop 大数据技术 学习网站
以教材《Hadoop大数据处理实战》的 10 章为主线:Hadoop 基础 → 集群搭建 → Eclipse 开发环境 → HDFS → I/O → MapReduce → Hive → HBase → Spark → 天气数据实战。每章给出知识点卡片、可复制的命令与代码、思考与练习,并配套零基础起步与命令速查。
学习路径 按教材章序推进,每章都有实操与练习
十章 · 知识轨
第1章 Hadoop基础知识
Hadoop 是什么、为什么能处理海量数据、生态里都有谁,以及它和 Spark 的分工。
第2章 搭建Hadoop分布式集群
从安装 VMware、装 CentOS 7 开始,一步步配出 3 节点高可用集群(ZooKeeper + HDFS HA
第3章 搭建Eclipse开发环境
在 Windows 上用 Eclipse 写 MapReduce:伪分布式环境 + Hadoop 插件 + 跑通官方 W
第4章 Hadoop分布式文件系统
HDFS 为什么这么设计、数据怎么保证不丢、一次读和一次写各自经历了什么。
第5章 Hadoop的I/O操作
数据在磁盘与网络之间怎么保证不坏、怎么变紧凑、怎么打包成合适的容器格式。
第6章 MapReduce基础与编程
MapReduce 怎么把一个大任务拆成很多小任务、Shuffle 到底做了什么、两个案例代码怎么落地。
第7章 Hive实战
把 SQL 能力搬到 Hadoop 上:Hive 的存储格式、数据类型、HiveQL、自定义函数与 Sqoop 数据迁移
第8章 HBase实战
当需求从"批量分析"变成"随机实时读写"时,HBase 补上了 HDFS 的短板。
第9章 Spark实战
内存计算框架:RDD 是什么、算子怎么选、一个 WordCount 怎么用 Spark 写得比 MapReduce 短十
第10章 天气数据分析实战
把前面九章串成一个项目:采集天气数据 → Sqoop 入库 → 清洗去重分区 → 三类分析。
速查与工具
教材与课程信息
《Hadoop大数据处理实战》(双色·含微课),康开锋、赵克宝、刘斌 主编,上海交通大学出版社,2025 年 4 月,ISBN 978-7-313-22423-1
64 学时(理论 32 + 实践 32),16 周,每周 4 学时
Linux 操作系统、Java 程序设计、数据库原理
Hive 数据仓库工具、数据可视化、Spark 大数据技术
CentOS 7 / Rocky Linux 8、JDK 8、Hadoop 3.x、ZooKeeper 3.x、MySQL 8、Hive 4.x、HBase 2.x、Spark 3.x、Eclipse 或 IDEA
建议内存 16G、空闲磁盘 60G,3 台虚拟机(hadoop1/2/3)