《动态网页数据采集与预处理》学习网站

七个项目一条链路:采集 → 解析 → 框架化 → 日志通道 → 预处理 → 综合实训。讲义、代码与表格沿用原有内容,版式与导航已与另外四门课统一,并补上了零基础引导、练习、速查与教学流程。

7 个项目14 个任务82 段代码105 张表格16 周 · 64 学时
7项目
14任务
82段代码
16周
64学时
49术语条目

学习路径 · 五个阶段

01

概念与环境

搞清楚数据从哪来、采集与预处理各做什么,把 PyCharm 环境搭起来

02

采集与解析

urllib / requests 抓页面,XPath / BeautifulSoup 抽字段——爬虫的两条腿

03

框架化采集

用 Scrapy 把采集、解析、存储组织成工程,能跑起来、能落库

04

日志数据通道

Flume 采集访问日志、Kafka 做消息缓冲——流式数据的第一段链路

05

预处理与综合实训

pandas 清洗与统计、Pig 做批量处理,最后完成校园新闻采集分析系统

七个项目 · 知识轨

速查与工具箱

怎么用① 每个知识点卡片右上角可勾选“已掌握”,进度存浏览器本地;② Ctrl+K 全站搜索(可搜任务名、库名、命令);③ 代码块一键复制;④ 左侧栏顶部有“课程总入口”,可回到五门课的总览页。