2021-01(完成事项)

1.1
学习spark join机制 √
简书spark 概况 √
梳理项目业务SQL,并补充到博客中,把项目机器学习的部分重新看一遍 ×(未完成)
https://www.jianshu.com/p/25cc15436f85

1.2
把博客中spark优化部分复述一下,并画图帮助理解 √
hbase部分rowkey设计案例
titan 61课 用户活跃主题spark实现 √
交互主题
思考:数据分析中一对多 一对一 多对多 多对多使用,SQL中一对多??
java设计模式中的适配器模式
咆哮位图java代码实现..... √
一条SQL是如何执行的? -- 过往记忆
并行和串行GC
向量化执行引擎--hive √

1.3-1.4
一条SQL的执行 √
java设计模式-适配器模式 (1.4) ×
数仓项目中的交互主题 √
学习阿里大数据之路 (学习二章) 1.5(早上学习)
项目中机器学习部分要掌握大概的流程 √
强调最后一遍默写建表语法和开窗语法 √

1.5
kylin中bitmap的实践(bitmap的解决方案)
bitmap(按人来划分 或者按照天数来划分)
bitmap的误判率的公式

1.6
自定义漏斗的实现 √
kylin中的bitmap √
学习堆和堆排序
hbase中rowkey的设计的示例 √

1.7
学习java设计模式: -- 桥接模式 √
完善项目: √
堆的学习 (改天在学)

1.8
复习rdd算子底层shuffleRDD 和mappartitionRDD √
spark on yarn 的执行流程 √
spark commit的初始化的分析 √
Flume 自定义拦截器

1.9
计划做一个spark复习纲要 √
学习kafka √
sparkstreaming 博客二 √

1.10
信息企业cdh的搭建
spark 执行流程简单分析回顾
sparkstreaming 脑图的复述 √
复习Linux中yum的命令

1.11
flink学习 √
spark执行流程分析 √

1.12 1.13
sparkstreaming的hbase部分未写完(补充一下)
Redis的学习(学习Redis的事务)
sparkstreaming知识的整理,以及偏移量源码的回顾
画图分析spark执行流程分析 √
美团技术博客中hive join的执行流程 √
json的学习 √

数据倾斜的答题步骤:
对于0/null的情况,提前使用hive etl来避免
对于原始数据的解决方案:过滤出key值数据少的分组数据
shuffle中的方法方案:
使用map join 来代替reduce join
sample的随机采样
分拆join,分俩个部分来执行

1.14
在寝室的学习效果不行啊???
学习flink昨天的内容 √

1.15
完了?在教室学习效果也不行了,问题是有心事,要想方法解决一下

1.16
把flink中的sink学习一下
1.17
把窗口函数学习一下

1.18
学习flink中水位线
join相关

1.19

1.20
1.21
讲几个你工作中常用的spark 或者hive 的参数,以及这些参数做什么用的
spark 程序里面的count distinct 具体是如何执行的

1.22
心不静

1.23
反思一下,我已经浪费了不少时间了
我得重新梳理一下我的事项了

1.26
把flink的内容重新学习一下,我裂开了
还有我要把项目给复习一下了...好像快忘了

1.27
陷入困境,无法冷静 自如的学习

1.28
flink的学习
水位线的学习(补充)

1.29
ttl
flink的实时数据采集架构

1.30
93,把flink实现sink精确一次性给重新看一遍

1.31
学习完flink的shuffle原理(补充笔记内容)

bitmap的压缩算法
正则表达式的学习
美团技术博客中的hive 执行流程分析

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,053评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,527评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,779评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,685评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,699评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,609评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,989评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,654评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,890评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,634评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,716评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,394评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,976评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,950评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,191评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,849评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,458评论 2 342

推荐阅读更多精彩内容