扬政源数据治理平台产品系统Vibe Coding

我要开发同款
瑾熙2026年10月19日
6阅读

技术信息

语言技术
Java、Vue、Node.js、MySQL
系统类型
Web、Linux
行业分类
政务

作品详情

行业场景

本平台聚焦政务公共数据领域,定位为扬州市一体化数字资源底座「扬政源」的数据质量管控枢纽。核心场景包括:依据《公共数据管理规范》对企业、人口、许可、监管等公共数据开展六大维度(完整、准确、唯一、一致、有效、及时)规则检测与五级质量定级;对人口库、法人库等基础主题库进行多源汇聚、去重择优与血缘追溯;跨部门异构数据的标准化清洗与问题数据闭环治理;数据供需的申请、委托与进展跟踪;以及多部门接口的合并发布与统一对外服务。可直接适配数字政府、政务大数据、城市治理等公共数据共享应用场景。

功能介绍

一、数据质量检测。支持六大维度(完整性、准确性、唯一性、一致性、有效性、及时性)与十类规则(非空、组合必填、唯一、格式、长度、枚举、数值范围、及时性、逻辑一致性、自定义条件),可为数据集编排检测方案、设定维度与规则权重,自动执行并按五级标准(优秀/良好/一般/较差/差)评定质量分数,一键生成可导出 Word 的质量报告。

二、数据治理清洗。以字段映射与清洗规则将异构来源数据标准化写入目标表,支持全量、时间字段、自增字段等多种增量方式,兼容 MySQL、Oracle、PostgreSQL、SQL Server、DM8,并对不合格问题数据留痕、支持回流闭环治理。

三、跨源校验与接口补录。支持多来源数据回填比对、外部接口单次同步与字段映射落库。

四、数据供需对接与接口合并发布。打通数据申请、委托与进展跟踪流程,并将多个外部接口编排为一个统一接口对外发布,含鉴权与调用日志。

项目实现

本平台基于 RuoYi-Vue-Plus 6.0.0 框架构建,后端采用 Spring Boot 4.1.0 + Java 21,持久层使用 MyBatis-Plus,鉴权由 Sa-Token 实现;前端采用 Vue 3.5 + Element Plus + TypeScript + Vite。业务主库选用国产达梦 DM8,同时兼容 MySQL,被检测库支持 MySQL、Oracle、PostgreSQL、SQL Server、DM8 五种方言。系统按 Maven 多模块解耦,核心业务划分为数据质量(ruoyi-dq)、数据治理清洗(ruoyi-dataclean)、跨源校验(ruoyi-crosscheck)、接口合并发布(ruoyi-apimerge)、接口补录(ruoyi-apifill)与数据供需对接(ruoyi-supplydemand)六个模块。

质量检测遵循"规则库只维护规则逻辑、校验字段在任务中绑定"的设计:检测方案先勾选维度并配置权重,再于维度区块内绑定规则与校验字段。执行引擎按抽样数(默认 1000 条,上限 100 万)下推校验,逐规则统计合格数与检查总数,按"规则得分→维度得分→数据集总分"三级加权计算,并输出五级评定与可导出 Word 的质量报告。为规避方言差异,统计聚合一律使用 MyBatis-Plus Wrappers 结合 Java 侧分组,不写原生 SQL。

清洗模块以字段映射与规则变换将异构数据标准化写入目标表,增量方式支持全量、时间字段、自增字段及"首次全量后续增量",水位比较统一走 BigDecimal 以避免字典序误判;写入采用 UPSERT 两阶段(先 UPDATE、未命中再 INSERT),并通过开启 rewriteBatchedStatements 将批量性能提升约两个数量级。

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论