本产品是基于开源Kettle自研的Kettle核心接口调用基础组件,其实早在5年前就想搞了,构思了很久,拖到现在,不过还行,现在也不晚吧
最初的想法是启蒙于当年给烟草做过的一个数据交换平台的项目,数据的抽取是基于Kettle 5.x版本, 使用kettle的spoon客户端做的数据抽取
为企业解决了棘手并且重要的ETL问题,因此Kettle是一款非常优秀的开源数据抽取工具。
同时,kettle自身也有很多的问题,比如,
- 只能使用客户端配置作业、转换
- 跨平台移植困难
- 数据安全性较差,系统一旦崩溃,文件库的内容容易丢失
- 客户端非常耗内存、CPU,只适合配置,不适合做业务
- Web界面极其简单、丑陋,生产环境无法投入使用
- 支持多种场景下的ETL抽取
- 效率极高
基于上述几个企业痛点,我才决定工作之余,每天借用一点休息时间,慢慢积累,坚持不懈,才有了今天Smart Kettle调度平台的出世,也希望能切实
帮助到企业解决数据抽取、调度、监控的问题。
它是一款超轻量级的kettle web端调度监控平台
支持作业、转换的自定义模板设置
支持作业、转换的多任务模板复制
支持作业、转换的GUI端配置同步到web端
支持作业、转换的日志自定路径配置
支持作业、转换的日志文件下载管理
支持文件库资源库配置
支持数据库资源库配置
支持SFTP/FTP/FTPS的远程资源库配置
支持资源库目录树查看
支持作业、转换的集群调度(远程子服务器调用)
支持作业、转换的GUI端配置同步到web端
支持作业、转换的调度配置
支持作业、转换的监控管理
支持作业、转换的本地执行
支持作业、转换的远程执行
支持作业、转换的定时配置
支持作业、转换的实时监控
支持kettle的web端资源库管理
支持自定义线程池设置、任务的并行处理
支持kettle 任务的告警监控、日志管理
提供丰富的业务库、字典库自定义设置
提供完整的、实时的大盘调度监控
提供系统的用户、角色、权限管理
提供Druid数据库查询脚本的实时监控能力
支持 Kettle 7.0.1+以上 版本
当前Kettle版本为9.0.0.0.0-179(注意:需要配置kettle-password-encoder-plugins,本系统已经集成进来,不需要再配置)
2. 它的平台实现充分基于"前后端分离"思想
后端架构基于 Springboot实现
服务端可发布 REST 服务
前端架构基于 VUE,数据组件更加丰富、易于维护
客户端通过 AJAX 获取服务端数据并进行界面渲染
3. 它的后端实现基于互联网最流行的微服务技术
后端架构采用自己搭建的x-common-base框架
后端封装了基于kettle的强大接口插件x-kettle-core
后端框架基于springboot+Mybatis实现
后端框架易于迁移、二次开发、方便维护
它的平台实现充分基于"前后端分离"思想
后端架构基于 Springboot实现
服务端可发布 REST 服务
前端架构基于 VUE,数据组件更加丰富、易于维护
客户端通过 AJAX 获取服务端数据并进行界面渲染
3. 它的后端实现基于互联网最流行的微服务技术
后端架构采用自己搭建的x-common-base框架
后端封装了基于kettle的强大接口插件x-kettle-core
后端框架基于springboot+Mybatis实现
后端框架易于迁移、二次开发、方便维护
4. 它的前端实现基于互联网最流行的渐进式VUE框架
功能组件化,易于二次开发维护
新手容易上手,短时间内入门
界面更加美观、组件更加丰富
技术栈:
- 前端使用nginx 作为前端服务器
- 前端使用vue作为展现框架
- 数据库端使用mysql作为基础数据库
- 数据库监控使用Druid作为基础监控
- 定时调度使用Quartz作为基础插件
- 后端框架使用Springboot+Mybatis作为组合
演示环境:
- 域名访问 :
https://www.yuenbin.com.cn/kettle-admin
用户名:superadmin或admin,密码为:1
- ip访问:
https://111.229.247.101/kettle-admin/index.html
用户名:superadmin或admin 密码为:1
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!

下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论