个人介绍
大数据运维 · 核心生产集群优化
背景:核心生产集群面临性能瓶颈与成本压力,需要在不影响业务的前提下提升资源效能。
行动:深入分析集群资源(CPU/内存/磁盘IO/网络),主导数据节点规划变更及 Hadoop 生态组件参数调优;完善 Prometheus + Grafana 监控体系,扩展 Flink、Doris 等指标采集;设计数据均衡与健康检查自动化脚本。
成果:集群整体资源利用率提升 25%+,通过节点优化与调度实现硬件降配,年度节省硬件成本显著;参与自建PB级 HDP 集群平滑上云(零故障),并持续维护云上 MRS 集群。
1. 大数据交付运维工程师
2. 主要负责公司依托大数据为底座的数据中台产品的交付工作
3. 产品介绍:
4. 公司自研(离线,实时,资产,资产,数据管理等)
5. 中间件(MySQL redis nginx elk dns……)
6. 大数据(haoopd 生态圈及周边组件spark hive flink kafka zookeeper hbase…)
7. 管理平台docker部署
8. Trino 接入hive 等catalog
9. 包含需求沟通、集群规划、部署、升级、售后,日常支持等工作
工作经历
2024-07-19 -2026-04-03某建筑公司高级大数据运维工程师
独立负责保障 PB级 Ambari+HDP 大数据生产集群 的高可用、稳定性及处理效能,支撑核心数据业务。 主导设计全栈监控告警体系:整合 Prometheus + Exporter + JMX + 原生Metrics,实现对 HDFS、YARN、Hive、Kafka、Elasticsearch、MySQL、MINIO、ClickHouse、HBase、Flink、Spark、Doris、Redis 等组件细粒度指标采集与可视化,显著提升问题定位效率。 完成 容器化部署Flink 以支持安全网关产品的私有化交付,保障业务快速上线。 通过资源调优与节点规划,提升集群整体 CPU资源利用率,实现可量化的成本节约。 为数据开发、分析师团队提供高效技术支撑,保障数据任务稳定运行,参与自建 HDP集群迁移上云(全过程零故障),并负责云上 MRS 集群日常维护。
教育经历
2024-03-01 - 2026-07-01湖北大学工商管理本科
非统招


