使用Flink优化报表系统性能产品系统

我要开发同款
proginn14583052272025年09月19日
9阅读

技术信息

语言技术
KafkaSpringMybatisDubboRabbitMQ
系统类型
LinuxWeb
行业分类
金融企业服务

作品详情

行业场景

解决几十个微服务系统的数据实时和离线同步到数仓系统的适配,并快速高性能生成事实宽表和维度宽表,供金融行业客户使用。

功能介绍

1、不同技术栈的微服务系统数据实时和离线同步到数仓,涉及数据转换、清洗并最终抽象存入统一贴源层的模型表中。
2、数仓使用flink处理实时贴源层数据,并高性能、快速生成事实宽表和维度表供金融报表系统高性能查询使用。

项目实现

1、公司老项目,不同技术栈数据到达报表数据能延时几分钟,做活动时能延时10几分钟,TOB 客户们纷纷表示无非接受,要求换乙方。
2、本人系统的学习了大数据平台理论和大厂的实践,看了几本书和一些业界代码实现。 然后进行了系统设计和落地。
3、对几十个业务系统的数据按照DDD进行域切分, 确认出事实表想关域,剩余的归入维度表域。
4、对于一些维度表达到几十万条级别的,内存成本考虑,选择在数据层结合批量主键方式进行组合关联,而不是选用flink的算子。

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论