大数据平台

项目架构: 前端(html+css+js+vue)/vue + JavaWeb/SpringBoot + Spark/Flink + Mysql + Hive + Es + HBase + Echarts
项目描述:
平台功能项 : 任务调度功能、各领域数据指标展示面板、数据质量监测、小工具项
项目职责:
1.平台前后端搭建
2.任务调度 : 支持spark/shell/api方式，存储及展示任务执行详情(执行日志、执行时间、任务执行状态、spark任务日志分析)
3.数据展示 : 根据指标更新时间，会周期调度统计任务，并且将结果存储到mysql，展示只需从mysql拿到指标结果，通过Echarts展示
4.数据质量 : 支持通用监测及sql监测，可定时监测数据质量（字段空值率、ads/ods数据占比、敏感数据占比、正文格式定期校验排查等）
5.小工具项 : 数据删除、后端菜单节点更新、缩小hive分区等功能界面化操作