游戏埋点自助分析平台

我要开发同款
大数据开发Timi2023年12月03日
79阅读

作品详情

本项目是一个自助数据分析平台,用户可通过在前端配置自己需要的埋点字段,然后会下发一条埋点规则数据至消息队列,数据端通过采集规则数据与埋点数据进行匹配后,对数据进行落库,实现用户自定义分析的目的。1、项目主要分为3大模块(1)主要看板模块,包含每款游戏最重要的运营数据,如付费、日(周、月)活、用户留存、LTV、ROI、内置广告变现、玩法、用户画像等基础数据(2)分析模块,此即为平台使用用户可自定义分析的模块,包含事件分析、留存分析、漏斗分析、间隔分析、分布分析、路径分析、属性分析等(3)用户模块,如用户标签、用户分群、用户行为细查等2、负责任务:我在其中的工作主要是数据端的工作,对前端的埋点规则进行解析后,合并正常的埋点数据写入至Clickhouse中,由于某些APP数据很大,某些APP数据量很小,因此就涉及到性能优化。涉及到的技术栈主要包括Flink、HDFS、Clickhouse、Kafka、MaxCompute、Java等3、难点解决:(1)由于需要把Hbase当成Dim维表来使用,且开源的Flink-Connector-Hbase只提供了单条异步访问的使用方式,而Hbase不管是写入还是查询,都要求攒批才能达到最佳的性能,因此这边修改了Flink-Connector-Hbase的源码,让其支持批量异步访问的方式,大大的提高了吞吐性能
查看全文
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论