HDFS

1.Kubernetes集群搭建：使用kubeadm初始化单节点Kubernetes集群，配置APIServer、Pod网络地址段及基础集群参数。2.容器运行时管理：安装和配置containerd，完成容器镜像查询、镜像管理及容器运行环境验证。3.Pod网络配置：部署FlannelCNI网络插件，实

本项目搭建Hadoop分布式存储环境，搭配Spark框架实现离线文本词频统计。原始文本文件上传至HDFS分布式文件系统，使用PySpark编写业务逻辑，完成文本分割、单词提取、分组聚合，最终输出词频排序结果，并将统计结果回写保存至分布式存储。项目完整复现“分布式存储+离线计算”经典大数据架构。在实操

项目背景：基于淘宝公开订单数据集（99,457行×9列、39个月）从零搭建离线数仓，为报表与自助分析提供统一口径销售指标|▪分层建模与ETL：ODS→DWD→DWM→DWS→DM五层+dim；针对尾逗号、日期混乱、浮点噪声（16%行受影响）等脏数据，DWD八步清洗（去重、缺失值、异常过滤、round

该项目建设分为四大平台：数据治理服务平台、数据挖掘分析平台、算法模型平台、实战应用平台。数据治理服务平台提供了数据集成、数据预处理、数据质量检测等功能；数据挖掘分析平台提供了分布式存储、流式计算、图计算等功能；算法模型平台提供了伴随分析、碰撞分析、套牌分析等算法模型；上层应用平台提供了知识图谱、智能

项目名称：项目三：基于头条巨量引擎，百度营销和阿里汇川爬虫软件架构：python3，cv2(open-cv)，muggle-ocr，pyppeteer项目描述：主要运用多进程和多协程通过opencv和muggle-ocr绕过滑动验证码以及复杂图片的验证，实现自动化入库投放渠道信息，通过spark和p

项目名称：项目一：开发大数据平台，基于大数据平台做用户画像软件架构：flink,hadoop,spark,presto,java,python3,mapreduce,shell,kafka,sklearn,doplinscheduler项目描述：每天从百度上百亿数据刻画用户画像来提高用户续费率。责任