CoderDM
1月前来过
全职 · 900/日  ·  19575/月
工作时间: 工作日20:30-22:00、周末08:30-22:00工作地点: 远程
服务企业: 0家累计提交: 0工时
联系方式:
********
********
********
聊一聊

使用APP扫码聊一聊

个人介绍

1. 熟练使⽤SSM框架,Spring Boot等常⽤的Java Web 框架并了解其基本原理。

2. 熟悉Spring Cloud⽣态,了解Nacos、Gateway、Zookeeper、SSO、Sentinel、等主流微服务框 架,并有项⽬实战经验。

3. 熟悉JVM、JMM、J.U.C,熟悉常⽤的GC算法、垃圾收集器,具有JVM线上调优实战经验。

4. 熟悉开源的ETL⼯具。包括Kettle、Datax、⾃研实时ETL Mriya、Flink CDC。能够重写并扩展 Datax的reader和writer。

5. 熟悉Hadoop⽣态,熟练使⽤HDFS、Hive、Spark、Hbase、Kylin、Flink等组件。了解⼤数据计算 的算⼦、RDD、Window、Watermark、Trigger、Aggregate。

6. 熟悉基于OLAP分析引擎的分析技术,熟悉星型模型、雪花模型、E-R数据建模,熟悉数据仓库建模 规范以及数据分层。

7. 熟悉Lambda架构的流式以及批流⼀体架构。了解End-To-End数据开发流程。

8. 熟悉Docker容器,了解Docker命令,熟练编写Docker File以及docker-compose配置⽂件。

9. 熟练使⽤Linux操作系统,了解常⽤命令。熟悉项⽬发布、项⽬监控、项⽬问题排查。

10. 精通爬⾍以及防爬技术,熟练使⽤爬⾍框架Scrapy、Requests、Selenium、Beautifulsoup、 Xpath等。有分布式爬⾍经验。

11. 熟悉敏捷开发,了解敏捷宣⾔、敏捷原则,以及连接敏捷中的各种⻆⾊以及职能(Scrum、Scrum Master、Product Owner、Dev Team)。

工作经历

  • 2022-04-01 -至今上海德拓高级开发

    主要服务底层ETL引擎的架构: 替换DataX引擎,开发基于Flink的数据同步和数据计算引擎。 负责实时数据同步的基础架构。

  • 2019-04-01 -2021-04-01南京金斯瑞数据开发

    主要开发⾦斯瑞订单全流程跟踪系统 前期主要是为订单的项⽬经理开发的⼀个系统,订单的项⽬经理可以在该系 统中查看从⽤户下单-订单确认-订单分单-订单开发-订单发货-订单确认收货-订单评价全流程。订单 的全⽣命周期分布在不同的⼦系统中,tracking系统需要把各个系统数据同步到ES中,然后查询ES显 示。

  • 2017-04-01 -2019-04-01华招易联java工程师

    主要食药监项目 负责项目搭建 爬虫 项目开发维护 。。。。。。。。。。。。。。。。。。。。。。。 。。。。。。。。。。。。。。。。。。。。。。。

教育经历

  • 2016-01-01 - 2021-01-01南京邮电大学软件工程本科

    南京邮电大学-软件工程专业 计算机基础、软件设计基础

资质认证

技能

爬虫
数据仓库
系统架构
0
1
2
3
4
5
0
1
2
3
4
5
作品
低代码计算引擎

Argos⼤数据服务:接收后端提交的数据开发的配置JSON,使⽤拓扑排序将DAG转成List,并在 YARN上执⾏任务。Argos中基于Spark封装了多种数据源、SQL节点、以及多种数据源的Sink。同 时集成了GeoMesa、GeoTools空间计算函数,⽤来做时空数据分析。

0
2023-04-26 01:01
城市实验室UrbanLabs(数据集成与开发平台)

城市实验室 UrbanLabs 以欣⽹⾃研时空⼤数据引擎 Argos 为基座,以数据为核⼼,集成数据处理的全 流程,打造了⼀个快速响应业务需求的⼀站式低代码数据集成与开发平台。⽬前该产品已成功在江苏、 北京等地运营商内部部署使⽤。经过前期部署与测试,⽬前平台已实现稳定运⾏。该平台主要⾯向专业 的数据开发⼈员、产品和运营⼈员。该平台提供专业的数据集成能⼒、数据开发能⼒、数据运维能⼒、 数据服务能⼒。

0
2023-04-26 01:03
Mriya数据实时同步

1. 基于binlog的近实时同步ETL 2. 支持自动化表创建,自动化DDL变更同步 3. 使用nacos注册中心同步,变更配置不需要重启 4. 后续添加支持多目标源

0
2023-04-26 01:04
更新于: 2022-07-01 浏览: 101