在YARN源码解析(5)-MapReduce中,在数据本地节点分配Task是如何做到的?中,我们介绍了MapReduce如何在block所在的H...
这本书中,主要介绍了黑天鹅事件的产生,以及它的原理. 其实黑天鹅事件,并不是每件会改变历史进程的大事,才叫黑天鹅事件.而是,每件我们个人没有预测...
今日在家无聊,翻了一遍《如何阅读一本书》. 这本书早就购来了,但是一直没有动过.最近从某个博客上看到了此书中的只言片语,感觉实在是醍醐灌顶,于是...
前几天,在看Hadoop User Email List的时候,发现了一个关于HDFS Centrailzed Cache的问题。刚好我又不熟悉...
在我们编写Scala代码的时候,由于ListBuffer方便的特性,所以经常会使用ListBuffer。过去也一直没有什么问题。 但是呢,最近在...
在这篇文章中,我们来探究一下Scala HashMap.put(k, v)以及Java HashMap.put(k, v)的性能。 具体代码没看...
在上一篇文章Spark内存模型初探(1)-Storage/Execution Memory的使用中,我们初步解析了一下Storage/Execu...
过去,我翻译了几篇关于Spark内存模型的文章。翻译完以后,我觉得我对Spark内存模型已经够理解了,可是,纸上得来终觉浅,实际跑Spark任务...
笔者最近在测试Spark的内存模型,测到ExecutionMemory的使用时,老是没发现分配任何ExecutionMemory。怀疑由于是在同...