史建安
1天前在线
全职 · 800/日  ·  17400/月
工作时间: 工作日00:00-24:00、周末00:00-24:00工作地点: 远程
服务企业: 0家累计提交: 0工时
聊一聊

APP聊一聊

个人介绍

大数据运维 · 核心生产集群优化

背景:核心生产集群面临性能瓶颈与成本压力,需要在不影响业务的前提下提升资源效能。

行动:深入分析集群资源(CPU/内存/磁盘IO/网络),主导数据节点规划变更及 Hadoop 生态组件参数调优;完善 Prometheus + Grafana 监控体系,扩展 Flink、Doris 等指标采集;设计数据均衡与健康检查自动化脚本。

成果:集群整体资源利用率提升 25%+,通过节点优化与调度实现硬件降配,年度节省硬件成本显著;参与自建PB级 HDP 集群平滑上云(零故障),并持续维护云上 MRS 集群。


1. 大数据交付运维工程师

2. 主要负责公司依托大数据为底座的数据中台产品的交付工作

3. 产品介绍:

4. 公司自研(离线,实时,资产,资产,数据管理等)

5. 中间件(MySQL redis nginx elk dns……)

6. 大数据(haoopd 生态圈及周边组件spark hive flink kafka zookeeper hbase…)

7. 管理平台docker部署

8. Trino 接入hive 等catalog

9. 包含需求沟通、集群规划、部署、升级、售后,日常支持等工作

工作经历

  • 2024-07-19 -2026-04-03某建筑公司高级大数据运维工程师

    独立负责保障 PB级 Ambari+HDP 大数据生产集群 的高可用、稳定性及处理效能,支撑核心数据业务。 主导设计全栈监控告警体系:整合 Prometheus + Exporter + JMX + 原生Metrics,实现对 HDFS、YARN、Hive、Kafka、Elasticsearch、MySQL、MINIO、ClickHouse、HBase、Flink、Spark、Doris、Redis 等组件细粒度指标采集与可视化,显著提升问题定位效率。 完成 容器化部署Flink 以支持安全网关产品的私有化交付,保障业务快速上线。 通过资源调优与节点规划,提升集群整体 CPU资源利用率,实现可量化的成本节约。 为数据开发、分析师团队提供高效技术支撑,保障数据任务稳定运行,参与自建 HDP集群迁移上云(全过程零故障),并负责云上 MRS 集群日常维护。

教育经历

  • 2024-03-01 - 2026-07-01湖北大学工商管理本科

    非统招

语言

中文母语水平
0
1
2
3
4
5

技能

Kafka掌握
Docker掌握
MySQL掌握
Linux熟练
Shell熟练
Nginx熟练
Hadoop熟练
Zookeeper熟练
HDFS熟练
0
1
2
3
4
5
0
1
2
3
4
5
更新于: 1天前 浏览: 1