中国邮储银行用户流水实时分析监控系统

我要开发同款
从小傻乎乎2023年08月27日
181阅读
开发技术java
所属分类oracle、mysql、guassdb、flink

作品详情

项目:中国邮储银行用户流水实时分析监控系统时间:2021年10月--2022年3月技术选型: FlinkCDC+Flink+Kafka+GuassDB+Nginx+Hadoop+Hive+Spark+Zookeeper+Promethus语言构成:java/flinkSql项目描述: 应邮储总行对于业务的要求,对邮储银行现有用户消费流水数据和业务模型进行整合,改造现有数据库,并加入flink组件的实时分析功能,增强用户画像和用户流水的分析功能责任描述: 1. 撰写项目设计文档和实施文档,在项目实施的过程中,针对双流join中的数据延迟、Sink中保证exactly-once语义,保证数据库写入性能、kafka数据积压监控、被压处理和Flink任务重启保证等的技术处理提前做出对应策略。 2. 使用kafka producer对接邮储银行自有数据系统CDC,resource数据质量考核系统,对数据做分类处理。 3. 使用 Flink消费kafka实时传入数据,按照要求将消费的json格式数据解析过滤后及计算,对接不同需求,得出最终分析结果,并将结果写入openguass做使用。 4. 整合数据质量,过滤无效字段和无效数据,对接业务给出数据分层模型逻辑。合理建表后将json数据写入kafka,使用FlinkSql直接映射kafka形成table做数据需求的处理。5.使用GuassDB应用映射kafka数据源形成实时数仓,最后导入数据,做前端展示.
查看全文
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论