Kafka演进的四个阶段分别是什么-创新互联

这篇文章将为大家详细讲解有关Kafka演进的四个阶段分别是什么，文章内容质量较高，因此小编分享给大家做个参考，希望大家阅读完这篇文章后对相关知识有一定的了解。

Kafka是当下热门的消息队列中间件，它可以实时地处理海量数据，具备高吞吐、低延时等特性及可靠的消息异步传递机制，可以很好地解决不同系统间数据的交流和传递问题。

Kafka演进之路的四个阶段

早期大数据平台之所以引入Kafka作为业务日志的收集处理系统，主要是考虑到它高吞吐低延迟、多重订阅、数据回溯等特点，可以更好地满足大数据场景的需求。但随着业务量的迅速增加，以及在业务使用和系统维护中遇到的问题，例如注册机制、监控机制等的不完善，导致出现问题无法快速定位，以及一些线上实时任务发生故障后没有快速恢复导致消息积压等,使Kafka集群的稳定性和可用性得受到挑战，经历了几次严重的故障。

解决以上问题对我们来说迫切而棘手。针对大数据平台在使用Kafka上存在的一些痛点，我们从集群使用到应用层扩展做了一系列的实践，整体来说包括四个阶段：

第一阶段：版本升级。围绕平台数据生产和消费方面存在的一些瓶颈和问题，我们针对目前的Kafka版本进行技术选型，最终确定使用1.1.1版本。

第二阶段：资源隔离。为了支持业务的快速发展，我们完善了多集群建设以及集群内Topic间的资源隔离。

第三阶段：权限控制和监控告警。

首先在安全方面，早期的Kafka集群处于裸跑状态。由于多产品线共用Kafka，很容易由于误读其他业务的Topic导致数据安全问题。因此我们基于SASL/SCRAM+ACL增加了鉴权的功能。

在监控告警方面，Kafka目前已然成为实时计算中输入数据源的标配，那么其中Lag积压情况、吞吐情况就成为实时任务是否健康的重要指标。因此，大数据平台构建了统一的Kafka监控告警平台并命名「雷达」，多维度监控Kafka集群及使用方情况。

第四阶段：应用扩展。早期Kafka在对公司各业务线开放的过程中，由于缺乏统一的使用规范，导致了一些业务方的不正确使用。为解决该痛点，我们构建了实时订阅平台，通过应用服务的形式赋能给业务方，实现数据生产和消费申请、平台的用户授权、使用方监控告警等众多环节流程化自动化，打造从需求方使用到资源全方位管控的整体闭环。

关于Kafka演进的四个阶段分别是什么就分享到这里了，希望以上内容可以对大家有一定的帮助，可以学到更多知识。如果觉得文章不错，可以把它分享出去让更多的人看到。