Kafka读书笔记:基本概念

什么是Kafka(基本概念)

Kafka起初是一个LinkedIn公司采用Scala语言开发的一个多分区、多副本且基于ZooKeeper协调的分布式消息系统。

特点:

  1. 高吞吐;
  2. 可持久化;
  3. 可水平扩展;
  4. 支持流数据处理。

Kafka扮演的角色

  1. 消息系统:(Kafka提供了大多数消息系统难以实现的消息顺序性保障及回溯消费的功能)

  2. 存储系统

    ​ Kafka把消息持久化到磁盘,相比于其他基于内存存储的系统而言,有效地降低了数据丢失的风险,也正是得益于Kafka的消息持久化功能和多副本机制。我们可以把Kfaka作为长期的数据存储系统来使用,只需要把对应的数据保留策略设置为”永久“或者启用主题的日志压缩功能即可。

  3. 流式处理平台:提供了完善的流式处理类库。

主题和分区

主题(Topic)和分区(Partition)是Kafka中很重要的两个概念。

  • 消息根据主题归类,生产者负责将消息发送到特定的主题,消费者订阅主题并进行消费
  • 主题是逻辑概念,可以细分为多个分区。一个分区只属于单个主题,分区又称为主题-分区Topic-Partition)。
  • 分区在存储层面可以看做一个可追加的日志(Log)文件,消息在被追加到分区后都会分配一个特定的偏移量(offset)。offset是分区内的唯一标识,用于保证分区的顺序性
  • 一个主题可以横跨多个broker(一个主题的分区可以在不同的broker内),以此来提供比单个broker更强大的性能,因为单机I/O不会成为这个主题的性能瓶颈
  • 支持主题创建完成后去修改分区数量,通过增加分区数量实现水平扩展。

分区

多副本(Replica)机制

Kafka为分区引入了多副本机制,通过增加副本数量可以提升。

  • 统一分区的多个不同副本保存的是相同的消息(在某一时刻,因为同步进度,副本之前并非完全一致,follower副本可能滞后于leader副本。)
  • 副本之间是“一主多从”的关系,其中leader副本负责处理读写请求follower只负责leader的副本的消息同步。不同副本处于不同的broker中,当leader副本所在的broker失效时,实现故障转移,由ZooKeeper进行leader选举,保证服务可用。

AR & ISR& OSR

​ 名词解释:分区中所有的副本统称为AR,

ISR(In-Sync-Replicas):

​ 所有与leader副本保持一定程度的副本(包含leader副本在内)组成ISR,ISR集合是AR集合的一个子集。这里滞后的程度可以通过参数配置进行量化。同时,ISR中的副本是leader副本的候选副本

OSR(Out-of-Sync-Replicas):

​ 前文提到follower副本和leader副本存在一定程度的滞后。当follower落后leader太多或者失效时,leader副本会把它从ISR集合中剔除进入到OSR集合。如果OSR集合中有follower副本奋起直追,追上了leader副本,那么leader副本会把它从OSR集合转移到ISR集合

他们啥关系呢?

AR = ISR + OSR(OSR可能为空)

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,445评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,889评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,047评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,760评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,745评论 5 367
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,638评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,011评论 3 398
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,669评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,923评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,655评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,740评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,406评论 4 320
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,995评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,961评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,197评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,023评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,483评论 2 342

推荐阅读更多精彩内容