数据中台项目测试产品系统

我要开发同款
proginn08553168412026年10月21日
5阅读

技术信息

作品详情

行业场景

数据中台项目,主要负责大数据批量离线任务的创建管理,定时调度和执行,基于hadoop大数据底座的能力,实现业务数据的管理和计算,并为其他系统提供数据

功能介绍

- 管理平台:用户研发平台,负责数据作业的增删改查、作业手动执行操作、作业运行状态和运行日志查看,涉及到oracle数据库、
- 血缘:计算作业的依赖关系
- 调度器:主要是定时任务:生成作业运行实例、DAG依赖检查、ready检查,还提供一个拉取接口
- 执行器:拉取作业,解析作业配置,生成作业执行的命令、**mysql数据库、各类执行组件**
- 底层hadoop集群:命令真正的执行

项目实现

我主要负责项目的测试:
管理平台:功能测试、安全测试, 自动化以ui为主,各种类型的作业的创建、修改流程
​血缘:功能测试,业务逻辑简单,数据复杂,我们列举了上百种sql的写法作为回归案例,比如直接select,间接血缘join、union、where、with temp as,group by 等;另外关注性能,一个表被几百层几万个作业依赖,拉取血缘列表做比对
​调度器:定时任务的功能测试、性能测试、接口的性能
​执行器:功能、性能、安全,各类执行命令,执行参数的执行的准确性
​底层hadoop:开源,如果有团队自定义的工具,测试工具本身

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论