一、背景 这个方案的实现思路，跟大家解析一下：其实关键之处在于，将发生数据倾斜的key，单独拉出来，放到一个RDD中去；就用这个原本会倾斜的ke...
投稿
收录了7篇文章 · 2人关注
-
Spark（四十一）数据倾斜解决方案之sample采样倾斜key进行两次join -
Spark数据倾斜解决方案四：使用随机Key进行双重聚合在使用reduceByKey，groupByKey算子时，都是针对PairRDD进行操作，那么，我们就可以PairRDD的每个元素的Key加上一...
-
Spark Streaming优雅的关闭策略优化
前面文章介绍了不少有关Spark Streaming的offset的管理以及如何优雅的关闭Spark Streaming的流程序。到目前为止还有...
-
spark stream冷启动处理kafka中积压的数据
因为首次启动JOB的时候，由于冷启动会造成内存使用太大，为了防止这种情况出现，限制首次处理的数据量 for example: 使用SparkSt...
-
Netty OutOfDirectMemoryError捉臭虫（bug）之旅背景 最近在做实时推荐项目，上线运行几天后发现部分服务器不可用，经过对日志分析发现一个关于Netty的堆外内存错误日志： 因为项目中有一个定时任...
-
Kafka+Spark Streaming管理offset的两种方法Kafka配合Spark Streaming是大数据领域常见的黄金搭档之一，主要是用于数据实时入库或分析。 为了应对可能出现的引起Streami...
-
『 Spark 』5. 这些年，你不能错过的 spark 学习资源
原文链接：『 Spark 』5. 这些年，你不能错过的 spark 学习资源 写在前面 本系列是综合了自己在学习spark过程中的理解记录 ＋ ...
专题公告
spark学习资料汇总
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/353582/android.graphics.Bitmap_736a35b.jpeg', '推荐专题《spark由浅入深》（ 分享自 @简书 ）','https://wsa.jianshu.io/c/cd5ed0c2cb88?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','页面编码gb2312|utf-8默认gb2312'));){kind=link}