打印
[信息发布]

Kafka 是什么

[复制链接]
12954|10
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
xu@xupt|  楼主 | 2024-5-14 12:15 | 只看该作者 |只看大图 回帖奖励 |倒序浏览 |阅读模式
Apache Kafka是一个分布式流处理平台,由LinkedIn开发并于2011年贡献给Apache软件基金会。它主要用于处理实时数据流,具有高吞吐量、可扩展性强、容错能力好等特点。Kafka广泛应用于大数据实时处理、日志聚合、事件源、操作消息队列等多种场景。
核心特性
1. 高吞吐量:Kafka可以在非常低的延迟下处理数百万条消息。
2. 可扩展性:Kafka集群可以横向扩展,通过增加更多的服务器来处理更多的数据。
3. 持久化:Kafka使用磁盘存储和复制消息数据,确保数据不会因服务器故障而丢失。
4. 容错性:消息在集群中的多个节点之间进行复制,可以保证即使在部分节点失败的情况下也能保证系统的稳定性和数据的完整性。
5. 实时性:Kafka能够即时处理数据流,非常适合需要低延迟处理的应用场景。
核心组件
Producer:生产者,负责发布消息到Kafka的一个或多个topic。
Consumer:消费者,从topic读取消息。
Broker:Kafka服务器,消息存储的节点。
Topic:消息的类别,在Kafka中数据是以topic为单位进行分类的。
Partition:为了实现可扩展性和并行处理,topic可以细分为多个partition,每个partition是一个有序的消息队列。
应用场景
1. 事件驱动的应用:Kafka可以作为微服务之间通信的中间件,支持事件驱动架构。
2. 日志收集:Kafka常用于收集来自不同应用和系统的日志数据,然后统一处理和分析。
3. 实时分析:与Spark、Flink等其他大数据技术结合,Kafka可以用于实时数据分析和决策支持。
4. 数据集成:Kafka常用作不同数据源和应用之间的数据集成平台,如实时数据仓库的构建。
Kafka的设计理念和强大功能使其成为现代数据架构中不可或缺的组件,特别是在需要高性能、可靠性和实时处理的场景中。



Apache Kafka在一个典型的数据流处理场景中的架构和组件。
1. Producers(生产者):
   生产者是发布消息到Kafka系统的应用程序或数据库。在此图中,生产者可以是多个独立的应用,它们向Kafka集群发送数据。
2. Kafka Cluster(Kafka集群):
   Kafka集群由多个broker组成,负责数据的接收、存储和处理。它是系统的核心,负责处理来自生产者的输入和向消费者输出数据。
3. Consumers(消费者):
   消费者从Kafka集群订阅并接收数据。这些应用程序根据需要处理或存储从Kafka接收的数据。
4. Stream Processors(流处理器):
   流处理器在接收数据流后进行实时数据处理。这些应用程序可以直接与Kafka集**互,执行如数据过滤、聚合或其他复杂的转换操作。
5. Connectors(连接器):
   Kafka Connect是用于连接数据库和Kafka集群的接口,允许数据从数据库自动流向Kafka集群,或反向从Kafka集群流向数据库。
数据流解释
数据流入:来自各个生产者的数据首先被发送到Kafka集群。同时,Kafka连接器可以从数据库拉取数据到集群中。
数据处理:Kafka集群中的数据可以被流处理器实时处理。
数据流出:处理后的数据流向消费者,消费者应用可以根据具体业务逻辑进一步处理或存储这些数据。

590576642e5133dc81.png (124.1 KB )

590576642e5133dc81.png

使用特权

评论回复
评论
forgot 2024-5-16 17:43 回复TA
高吞吐量是重点吧 
沙发
tpgf| | 2024-6-3 15:37 | 只看该作者
我们如何利用这个平台来进行单片机的开发呢

使用特权

评论回复
板凳
木木guainv| | 2024-6-3 16:16 | 只看该作者
在什么应用场景下可以使用这个平台呢

使用特权

评论回复
地板
晓伍| | 2024-6-3 17:34 | 只看该作者
这个处理平台是可以免费使用的吗

使用特权

评论回复
5
磨砂| | 2024-6-3 19:16 | 只看该作者
如果想要运行在单片机上的话对单片机的最低要求是什么

使用特权

评论回复
6
caigang13| | 2024-6-3 19:26 | 只看该作者
这个在视频监控应用中很流行

使用特权

评论回复
7
xiaoqizi| | 2024-6-3 20:18 | 只看该作者
这种平台是不是只能在上位机上运行使用呢

使用特权

评论回复
8
wowu| | 2024-6-3 20:49 | 只看该作者
分布式 流  处理平台的数据吞吐量是不是很大

使用特权

评论回复
9
chenjun89| | 2024-6-4 08:08 | 只看该作者
kafka现在很流行啊,在视频监控应用中应用很广

使用特权

评论回复
10
AProgrammer| | 2024-6-7 08:52 | 只看该作者
木木guainv 发表于 2024-6-3 16:16
在什么应用场景下可以使用这个平台呢

抢票?

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

90

主题

629

帖子

2

粉丝