HDFS

本项目搭建Hadoop分布式存储环境，搭配Spark框架实现离线文本词频统计。原始文本文件上传至HDFS分布式文件系统，使用PySpark编写业务逻辑，完成文本分割、单词提取、分组聚合，最终输出词频排序结果，并将统计结果回写保存至分布式存储。项目完整复现“分布式存储+离线计算”经典大数据架构。在实操

项目背景：基于淘宝公开订单数据集（99,457行×9列、39个月）从零搭建离线数仓，为报表与自助分析提供统一口径销售指标|▪分层建模与ETL：ODS→DWD→DWM→DWS→DM五层+dim；针对尾逗号、日期混乱、浮点噪声（16%行受影响）等脏数据，DWD八步清洗（去重、缺失值、异常过滤、round