天正智能研发部数据中台产品面向的是客户(上海银行/浦发银行/兴业银行/东方航空等)数据洞察与数据治理部门,提供业务源系统数据到数据湖流转的智能化管理和研发平台。
职责:产品架构设计与实施 面向客户(东方航空/上海银行等)定制化需求设计数仓架构并实施
应用模块主要包含:
1. 实时数仓:canal/flinkCDC/flume/flink + zk + kafka /hadoop(hdfs) + hudi/hbase(OLAP:Clickhouse)/Springboot Scheduler)
2. 离线数仓: flume + zk + hadoop/hive/impala + DolphinScheduler
3. 需求任务主体流程: 数据研发任务开发测试、准生产测试、打包投产、数据治理、元数据管理、数据资产目录管理 数据资产管理 Springcloud 微服务架构:Consul/Openfeign/hystrix/Sleuth/Stream/Gateway/LXN/Oauth)
4. 统一调度: 作业相关与重调(DolphinScheduler) 对接大数据平台 Hadoop Impala等
5. 统一运维: Docker + Harbor + K8s + Kuboard(V2/V3)
6. 监控:zipkin (全链路流量) + Prometheus (集群) + kuboar(K8s)
点击空白处退出提示












评论