教学流程 · 16 周 64 学时

在原站 7 个项目的基础上补齐教学安排:每周讲哪段、上机练什么、学时与考核怎么分。节奏与《Hive数据仓库工具》《Python 程序设计》一致(16 周 / 64 学时 / 每周 2+2)。

16 周14 个任务16 次实训1 个综合系统

一、学时分配 建议方案

项目学时说明
理论讲授32每周 2 学时,覆盖 7 个项目 14 个任务
上机实践32每周 2 学时,16 次实训,边讲边练
合计644 学分

二、16 周教学进度

理论 2 学时 + 实践 2 学时
周次进度教学内容上机实训 / 作业学时
第1周项目一数据来源、采集与预处理流程、常用工具全景实训1:装 PyCharm 与依赖库,跑通第一个脚本2+2
第2周任务 1-1 / 1-2大数据采集概念;PyCharm 环境与快捷键实训2:整理一份“数据从哪来”的调研表2+2
第3周任务 2-1urllib.request / error / parse 三模块实训3:抓取新闻列表页并保存 HTML2+2
第4周任务 2-2requests 的参数、请求头、超时与编码实训4:抓“浪潮云说”并按行业分类存文件2+2
第5周任务 3-1XPath 语法:层级、属性、位置、文本提取实训5:用 XPath 抽取新闻标题与链接2+2
第6周任务 3-2BeautifulSoup 的 find / select / 遍历实训6:用 BS4 抽取时间、来源、正文2+2
第7周任务 4-1(上)Scrapy 结构、创建项目、Spider 编写实训7:新建 Scrapy 项目并抓一页数据2+2
第8周任务 4-1(下)Item、Pipeline、settings 配置与落库实训8:把抓到的数据写入 CSV2+2
第9周任务 5-1Flume 的 Source/Channel/Sink 与配置实训9:采集本机访问日志到 HDFS2+2
第10周任务 5-2Kafka 的 topic、生产者、消费者与 API实训10:用 Kafka 消费 Flume 写入的日志2+2
第11周任务 6-1(上)pandas 数据结构、读写、切选实训11:读 CSV 并做基础探查2+2
第12周任务 6-1(下)缺失值、重复值、分组与统计实训12:清洗新闻数据并统计来源分布2+2
第13周任务 6-2Pig 简介、配置与 Pig Latin 基础实训13:用 Pig 做一次批量过滤统计2+2
第14周项目七(上)综合实训:需求、架构、字段设计实训14:完成采集与解析两段2+2
第15周项目七(中)清洗与统计:pandas 分组、缺失值处理实训15:产出统计结果表2+2
第16周项目七(下)整合成 main.py、自检与答辩实训16:交付代码 + 结果 + 现场演示2+2

三、项目与周次对照

项目标题核心技术周次代码段
初识动态网页数据采集与预处理概念PyCharm · 概念与工具全景第1-2周6
动态网页数据采集采集urllib · requests · HTTP第3-4周10
动态网页数据解析解析lxml · XPath · BeautifulSoup第5-6周11
基于框架实现动态网页数据采集与存储框架Scrapy · Item · Pipeline第7-8周10
动态网页访问日志数据采集日志Flume · Kafka第9-10周14
动态网页数据预处理预处理pandas · Pig第11-13周25
综合实训:校园新闻动态采集与分析系统项目requests + BS4 + pandas第14-16周6

四、考核与成绩构成 建议方案

类别组成部分占比
平时成绩出勤与课堂表现10%
平时成绩实训作业(16 次)30%
期末成绩综合实训系统(代码 + 结果 + 答辩)40%
期末成绩上机机试(限时抓取与解析)20%
说明本课原站未提供课程标准,学时(64 学时 / 4 学分)与考核比例为按同类课程节奏给出的建议值;若院系已有要求,以正式文件为准。

五、与其他课程的节奏对照

五门课处于同一量级,便于同一批学生适应
课程章/项目讲/任务学时周次每周节奏
Hive数据仓库工具8 单元按任务拆分6416 周2 理论 + 2 实验
数据库原理与应用5 章25 讲材料未标注—每讲一个知识点
Java 程序设计11 章773 页课件材料未标注—每章 4-8 个知识点
Python 程序设计10 章28 讲6416 周2 理论 + 2 实验
动态网页数据采集与预处理(本课)7 项目14 个任务6416 周2 理论 + 2 实验