Chaperone Kafka 审计系统开源项目

我要开发同款
匿名用户2017年01月06日
19阅读
开发技术JavaScala
所属分类系统监控、管理和监控
授权协议Apache

作品详情

作为Kafka审计系统,Chaperone监控数据流的完整性和延迟。审计指标持久存储在数据库中,供Kafka用户量化其主题的损失。

Chaperone的目标是在数据流经数据管道的每个阶段,能够抓住每个消息,统计一定时间段内的数据量,并尽早准确地检测出数据的丢失、延迟和重复情况。

Chaperone由几个部分组成:

ChaperoneClient是一个库,可以像Kafka生产者或消费者一样审计邮件。审计统计被发送到专用的Kafka主题,例如'chaperone-audit'。

ChaperoneCollector使用'chaperone-audit'的审计统计信息,并将其保存到数据库中。

ChaperoneService审计保存在Kafka中的消息。由于它是基于uReplicator构建的,它由两个子系统组成:ChaperoneServiceController,用于自动检测Kafka中的主题,并将主题分区分配给工作人员进行审计;ChaperoneServiceWorker从指定的主题分区审核消息。特别地,ChaperoneService和ChaperoneCollector一起确保每个消息被审核一次。

查看全文
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论