数据中台项目,主要负责大数据批量离线任务的创建管理,定时调度和执行,基于hadoop大数据底座的能力,实现业务数据的管理和计算,并为其他系统提供数据
点击空白处退出提示
数据中台项目,主要负责大数据批量离线任务的创建管理,定时调度和执行,基于hadoop大数据底座的能力,实现业务数据的管理和计算,并为其他系统提供数据
- 管理平台:用户研发平台,负责数据作业的增删改查、作业手动执行操作、作业运行状态和运行日志查看,涉及到oracle数据库、
- 血缘:计算作业的依赖关系
- 调度器:主要是定时任务:生成作业运行实例、DAG依赖检查、ready检查,还提供一个拉取接口
- 执行器:拉取作业,解析作业配置,生成作业执行的命令、**mysql数据库、各类执行组件**
- 底层hadoop集群:命令真正的执行
我主要负责项目的测试:
管理平台:功能测试、安全测试, 自动化以ui为主,各种类型的作业的创建、修改流程
血缘:功能测试,业务逻辑简单,数据复杂,我们列举了上百种sql的写法作为回归案例,比如直接select,间接血缘join、union、where、with temp as,group by 等;另外关注性能,一个表被几百层几万个作业依赖,拉取血缘列表做比对
调度器:定时任务的功能测试、性能测试、接口的性能
执行器:功能、性能、安全,各类执行命令,执行参数的执行的准确性
底层hadoop:开源,如果有团队自定义的工具,测试工具本身



评论