个人介绍
我是程序员客栈的 数据阿宝,一名从业8年的数据工作者; 我毕业于 东北林业大学,担任过滴灌通科技的高级大数据开发工程师; 负责过【企业级全投资生命周期数据仓库从0到1建设】,【投资实时大屏】的开发;
掌握技能如下:
1、数仓架构与建模:具备企业级数据仓库从0到1的完整搭建经验,精通数据仓库分层架构设计(ODS/DWD/DWS/ADS)及数据集市理论,成功主导并落地多个企业级数仓项目。
2、大数据平台生态:具备独立部署与运维CDH大数据集群的能力,熟练管理HDFS、Hive、HBase、Spark、Flink、MapReduce、Sqoop等核心组件;深度使用阿里云DataWorks进行大数据开发与数据治理。
3、离线与实时计算:精通Spark、Hive等主流离线计算框架,具备复杂业务场景下的性能调优经验;熟练掌握Flink、Spark Streaming等流式计算引擎,能够高效完成实时数据链路的开发与优化。
4、OLAP与关系型数据库:熟悉ClickHouse、StarRocks等新一代OLAP数据库的底层架构及适用场景;精通MySQL、PostgreSQL等常规关系型数据库的日常使用、SQL编写及深度性能调优。
5、数据采集与传输:熟练使用Flume进行日志采集及集群部署;深入理解Kafka工作机制,能高效实现Kafka与Spark/Flink的流式对接;精通DataX、Sqoop等数据同步工具,熟练完成关系型与非关系型数据库间的异构数据交互。
6、编程语言与基础:具备扎实的Java编程功底,熟练掌握复杂SQL编写;熟悉Linux操作系统及Shell脚本编程;持有CET-4证书,具备流畅的英文技术文档阅读与开源社区交流能力。
7、数据可视化:熟练使用FineBI,QuickBI,DataEase,superset等主流BI工具进行可视化报表制作
工作经历
2022-06-13 -至今滴灌通科技有限公司高级大数据开发工程师
科技金融科技公司,开创性地践行收入分成模式,通过数字化的方式链接全球资本与现金权资产。 负责数仓的搭建,团队的建设
教育经历
2014-09-01 - 2018-06-26东北林业大学软件工程本科


