解决几十个微服务系统的数据实时和离线同步到数仓系统的适配,并快速高性能生成事实宽表和维度宽表,供金融行业客户使用。
点击空白处退出提示
解决几十个微服务系统的数据实时和离线同步到数仓系统的适配,并快速高性能生成事实宽表和维度宽表,供金融行业客户使用。
1、不同技术栈的微服务系统数据实时和离线同步到数仓,涉及数据转换、清洗并最终抽象存入统一贴源层的模型表中。
2、数仓使用flink处理实时贴源层数据,并高性能、快速生成事实宽表和维度表供金融报表系统高性能查询使用。
1、公司老项目,不同技术栈数据到达报表数据能延时几分钟,做活动时能延时10几分钟,TOB 客户们纷纷表示无非接受,要求换乙方。
2、本人系统的学习了大数据平台理论和大厂的实践,看了几本书和一些业界代码实现。 然后进行了系统设计和落地。
3、对几十个业务系统的数据按照DDD进行域切分, 确认出事实表想关域,剩余的归入维度表域。
4、对于一些维度表达到几十万条级别的,内存成本考虑,选择在数据层结合批量主键方式进行组合关联,而不是选用flink的算子。
评论