智能配置驱动数据治理体系产品系统

我要开发同款
lucas82026年11月14日
5阅读

技术信息

语言技术
C#、Java、Python、Shell、Kafka
系统类型
Web、MacOS、Linux
行业分类
低代码、机器深度学习

作品详情

行业场景

数据治理和数据中台
中台为体,配置为驱,AI 为基础设施。
实时 ETL 1 发 N 多路并行;业务逻辑与元数据 AI 生成;基于AI的需求递归拆解回填;AI全栈代码装配; 智能化异常分析; 智能化任务配置。【这实际形成了企业业务RAG,再加上生成内容审批过程产生的内容审批和评价数据,就能为构建sft数据集提供数据原料】。

本产品支持各种主流关系数据库、数据库集群,支持paimon和iceberg湖仓。用可配置化的轻量化ETL和任务管理与调度体系有效降低单位能力的资源占用量,而能用低代价动态扩容方式轻松面对大规模数据的etl任务,能有效应对积压和反压的手段就是分片扩容。【重型etl技术,扩容太贵】

本产品内生agent采用数据库顺序存储驱动的非阻塞流水线式Agent 架构【人在回路的审批可以离线、批量、跨团队】。可配置化切换各种大模型接口、MCP服务、A2A服务。

本产品方案中的通用基础设施访问器能避开高可用场景中haproxy方案中的脑裂问题。
在高可用场景中,大家通常采用haproxy方案,这会把本可以水平分散的网络路径收敛到haproxy进程上,而haproxy导致的网络路径的收敛会带来网路流量集中到haproxy进程上,在大流量时段这会直接引发瓶颈。
同时haproxy方案中的keepalived因VRRP 缺少共识而存在无法根除的脑裂问题。

本产品把数据项目管理和需求、设计、编码的质量评审、数据项目的离线和实时任务的管理和调度、元数据、血缘数据的采集和管理, 以及ai智能治理能力都纳入到了本数据治理体系产品的能力中。用ai智能化配置解决了高可配置化系统经常被吐槽的配置问题。

功能介绍

本产品把数据项目管理和需求、设计、编码的质量评审、数据项目的离线和实时任务的管理和调度、元数据、血缘数据的采集和管理, 以及ai智能治理能力都纳入到了本数据治理体系产品的能力中。用ai智能化配置解决了高可配置化系统经常被吐槽的配置问题。

项目实现

独立自研|多模态AI智能配置驱动数据治理体系产品 全栈架构负责人 整体架构规划、四大内核引擎研发、XXL-Job 改造、插件化数据接入、实时分发并行架构落地,产品可私有化商用。

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论