Flink 限流

原视频链接:https://www.bilibili.com/video/BV124411P7V9?from=search&seid=9418346389470156429

image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png
image.png

写出到Storage,kafka 有限流机制,但在整个ES端,它的Socket都发生得太慢了,可能ES内部没有很好的限流机制,没有办法把反压传播回来,而是比较暴力地整个socket都无法连接了,可能是它内部负载非常高,瞬间给它非常高的压力,它没有把这个压力通过反压机制给传回来。

怎么处理?
即使有动态反压,但为了防止storage在大的数据量下崩溃,可以在Source端做静态的限流。假设我们知道整个系统的负载,可以尝试在Source端做一些调优,在source端做一些限流的措施。

flink 1.8里 kafka的Source 是可以支持限流的。可以set kafka 的 consumer 我的每秒钟不能超过多少的一个消费(setRate 方法。在提交作业前,这个rate就静态写死了。SparkStreaming 里面也有类似的机制去配置)。这样和反压结合在一起就可以达到一个很好的作用。静态限流和动态反压不是相互替代的关系,也不是说有了动态反压,静态限流就完全没有作用了。

Q & A:

  1. 假定说集群反压,task manager 假死了,没有反应了,有没有好的解决办法?
    A:什么样的情况会导致 task manager 假死呢?

  2. 假定 task A显示的是反压状态on high,A的两个下游节点反压状态都显示是ok 的,此时应该调大B 的并行度还是C的并行度?
    A:这个情况很明显是说A的发送速度太快了,很明显要调整一下A了,或者把下游B和C的并行度调高,因为可能下游支撑不住了。调高之后再观察一下,下游的B和C有没有反压的情况。首先它俩都是ok的,那么很可能反压是他俩来导致的。

  3. 上游如果停止发送,下游消费完后,是如何通知上游继续发送的?
    A:和TCP类似,也是有一个探测机制的。

  4. 背压主要出现在哪些节点,如何解决?主要通过增大资源并发吗?
    A:其实不一定。通常我们遇到的场景都是Storage撑不住了导致的背压。比如整个流处理完后,是要往Kafka去写的,那么在Kafka 这个topic 的时候都是有做一些限流的措施的,这个时候,Storage撑不住了,就会导致反压给到Sink,Sink给到整个流里面来,这个时候,仅仅去增加并发其实是没有用的,我们真正的瓶颈是在Storage这一层,所以我们产生反压后要去看,不是说一定要去增大并发,而是我们要去调查一下,到底是什么原因导致的反压,可以看下反压的源头是在哪里:
    如果说反压源头不是在Sink这一级,比如在FlatMap这一级的话,那我们可以尝试增大FlatMap的并发;
    但如果我们发现是最后一个task,在sink这一级出现了一个反压,那我们就要怀疑一下是不是下游的Storage撑不住了导致的反压。

5.taskManager 内部导致的生产与消费不匹配的情况:
A:这个也是有可能的,比如在同一个operator chain内部的话,会有多个operator都在同时去执行,其实每个operator执行的速度也是不一样的。同一个taskManager内部是通过内部的channel去传输的(在同一个线程里面),不是走的network buffer,如果下游的消费太慢了,上游的写应该速度会被降下来,它内部应该不会出现假死的情况。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 196,264评论 5 462
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,549评论 2 373
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 143,389评论 0 325
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,616评论 1 267
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,461评论 5 358
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,351评论 1 273
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,776评论 3 387
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,414评论 0 255
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,722评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,760评论 2 314
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,537评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,381评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,787评论 3 300
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,030评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,304评论 1 252
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,734评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,943评论 2 336

推荐阅读更多精彩内容