大数据涛涛_18090755163
13天前在线
全职 · 1000/日  ·  21750/月
工作时间: 工作日09:00-23:00、周末9:00-23:00工作地点: 远程
服务企业: 28家累计提交: 5工时
联系方式:
********
********
********
聊一聊

使用APP扫码聊一聊

个人介绍

1、 熟悉Hadoop大数据平台架构体系与集群的管理,有丰富的CDH集群搭建和维护经验。


2、 熟悉Hive数据仓库架构模型建设,并能熟练掌握HiveQL,熟悉对海量数据的ETL开发流程与处理。 


3、 对基于大数据平台的数据仓库建设、数仓架构设计、数仓建模有丰富的经验。


4、 熟悉Spark计算框架,掌握Spark Core、Spark SQL、Spark Streaming 等大数据处理技术。


5、 能熟练编写实时计算任务,将spark streaming 封装sql进行实时流任务处理。


6、 熟悉clickhouse 实时分析系统集群,能构建基于clickhouse的实时数仓系统,并优化实时查询sql。


7、 熟悉 doris、StarRocks 等实时MPP实时分析型数据库,并基于此构建实时数仓、数据湖治理体系。


8、 熟悉Linux环境,掌握Java、Python、shell等编程语言,了解spring boot,熟练使用MySQl数据库技术与SQL。 


9、 熟悉Hbase、kafka、Flume、elasticsearch、docker、dolphinScheduler、azkaban等大数据体系圈周边技术。


10、能设计、建设、优化整个大数据处理架构,包括数据接入、存储、集成等整体流程,并编写相关技术文档。


11、善于分析业务需求和逻辑,为各种数据场景快速制定技术方案和开发支撑,有丰富的数据治理体系建设经验。


12、有丰富的团队管理和部门管理经验,目前承担20人左右的研发团队管理以及多个项目管理,能从需求调研、 需求沟通、架构方案设计、技术落地实现、研发进度把控、项目交付、项目跟踪维护等各个环节全程把控。

工作经历

  • 2020-07-13 -至今北京赛思信安技术股份有限公司成都分公司部门经理/项目经理/大数据组长

    1、 负责军工与政企行业数据中心仓库设计搭建、维护、开发。 2、 分析各种业务需求并制定相应的数据开发流程,完成开发任务。 3、 搭建和维护大数据集群,并设计整体数据处理方案,包括数据采集、数据治理、数据中台的建设。 4、 对接用户,分析用户需求,设计产品主体架构,并设计征集技术实现方案,推进项目开发和落地,完成产品交付。 5、 部门负责人,管理20人左右的研发团队,编撰和制定相关项目文档、技术文档、产品报告等。

  • 2018-04-01 -2020-07-04成都乐趣多互娱科技有限公司大数据数仓架构师

    1、 负责游戏中心数据仓库设计搭建、维护、开发。 2、 分析各种业务需求制定相应的数据开发流程,完成开发任务。 3、 搭建和维护clickhouse 实时数仓,优化查询sql,开发数据查询的接口提供数据服务。 4、 负责开发spark streaming 程序实施读取游戏日志数据写入实时数仓,维护实时任务。 5、 承接业务部门的数据需求,提供数据提取支持。

  • 2017-03-20 -2018-03-31成都天象互动科技有限公司大数据架构师

    1、 负责CDH集群环境搭建与维护,大数据平台各个组件安装维护。 2、 建设游戏数据仓库,设计并建立各个游戏日志数据的数仓模型。 3、 游戏日志数据采集,从各个服务器上采集数据大数据集群中,并载入数据仓库。 4、 游戏数据的ETL,构建spark一站式数据开发架构,数据处理程序调度维护。 5、 项目需求分析与开发,并设计数据仓库对应的数据开发模型和项目的展示页面表结构。

  • 2015-02-10 -2017-03-10重庆猪八戒网络有限公司大数据开发工程师

    1、 负责公司数据仓库底层建设与维护,各个业务模块库指标完善与多维度模型建设。 2、 承接公司各个业务部门数据项目,提供全公司数据支撑与数据服务,并进行相应的数据开发与ETL流程。 3、 管理数据平台所有的数据加工程序,以及负责对外开放的数据平台的使用监控。 4、 承接业务部门的数据需求,提供数据提取支持。 5、 集群维护,排查问题和优化任务处理逻辑。

教育经历

  • 2014-12-21 - 2017-07-01成都电视广播大学计算机大专

    这个是成教大专学历,学的计算机应用管理。

技能

linux shell
CDH
SQL
ClickHouse
spark sql
Hadoop
MySQL
Spark
架构
0
1
2
3
4
5
0
1
2
3
4
5
更新于: 02-28 浏览: 793