一站式Kafka平台解决方案——KafkaCenter

海鸥~

墨衍会员 · AI 创作全网分发码龄7年

关注

VIP免费原创最新推荐文章于 2025-12-10 01:51:15 发布 4.9k 阅读 AI 写同款· GEO 优化 ›

本文为博客 VIP 文章，开通 VIP 后可阅读全文

开通 VIP

实时流式计算

KafkaCenter是什么

KafkaCenter是一个针对Kafka的一站式，解决方案。用于Kafka集群的维护与管理，生产者和消费者的监控，以及Kafka部分生态组件的使用。

对于Kafka的平台化，一直缺少一个成熟的解决方案，之前比较流行的kafka监控方案，如kafka-manager提供了集群管理与topic管理等等功能。但是对于生产者、消费者的监控，以及Kafka的新生态，如Connect，KSQL还缺少响应的支持。Confluent Control Center功能要完整一些，但却是非开源收费的。

对于Kafka的使用，一直都是一个让人头疼的问题，由于实时系统的强运维特性，我们不得不投入大量的时间用于集群的维护，kafka的运维，比如：

人工创建topic，特别费力
相关kafka运维，监控孤岛化
现有消费监控工具监控不准确
无法拿到Kafka 集群的summay信息
无法快速知晓集群健康状态
无法知晓业务对team kafka使用情况
kafka管理，监控工具稀少，没有一个好的工具我们直接可以使用
无法快速查询topic消息

在这里插入图片描述

功能模块介绍

Home-> 查看平台管理的Kafka Cluster集群信息及监控信息
Topic-> 用户可以在此模块查看自己的Topic，发起申请新建Topic，同时可以对Topic进行生产消费测试。
Monitor-> 用户可以在此模块中可以查看Topic的生产以及消费情况，同时可以针对消费延迟情况设置预警信息。
Connect-> 实现用户快速创建自己的Connect Job，并对自己的Connect进行维护。
KSQL-> 实现用户快速创建自己的KSQL Job，并对自己的Job进行维护。
Approve-> 此模块主要用于当普通用户申请创建Topic，管理员进行审批操作。
Setting-> 此模块主要功能为管理员维护User、Team以及kafka cluster信息
Kafka Manager-> 此模块用于管理员对集群的正常维护操作。

系统截图

在这里插入图片描述

安装与入门

安装需要依赖 mysql es email server

组件	是否必须	功能
mysql	必须	配置信息存在mysql
elasticsearch(7.0+)	可选	各种监控信息的存储
email server	可选	Apply, approval, warning e-mail alert

初始化
在MySQL中执行sql建表

-- Dumping database structure for kafka_center
CREATE DATABASE IF NOT EXISTS `kafka_center` /*!40100 DEFAULT CHARACTER SET utf8 COLLATE utf8_bin */;
USE `kafka_center`;


-- Dumping structure for table kafka_center.alert_group
CREATE TABLE IF NOT EXISTS `alert_group` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `cluster_id` int(11) NOT NULL,
  `topic_name` varchar(255) COLLATE utf8_bin NOT NULL DEFAULT '',
  `consummer_group` varchar(255) COLLATE utf8_bin NOT NULL DEFAULT '',
  `consummer_api` varchar(255) COLLATE utf8_bin NOT NULL DEFAULT '',
  `threshold` int(11) DEFAULT NULL,
  `dispause` int(11) DEFAULT NULL,
  `mail_to` varchar(1000) COLLATE utf8_bin NOT NULL DEFAULT '',
  `webhook` varchar(1000) COLLATE utf8_bin NOT NULL DEFAULT '',
  `create_date` datetime DEFAULT NULL,
  `owner_id` int(11) DEFAULT NULL,
  `team_id` int(11) DEFAULT NU