DataX Vs Sqoop

DataX

https://github.com/alibaba/DataX/wiki/DataX-all-data-channels
支持的数据源:

  • 更侧重于业务数据库之间的数迁移
  • 目前还只看到是 standalone 模式
  • 使用方便,迁移任务的定义也比较灵活,但是目前只有一种数据源到另一种数据源的迁移。
  • 对于大数据 hdfs 的支持不是很好。明显没有利用到 hdfs 的 locality 特性读写数据。
  • 但是 reader 和 writer 接口定义非常灵活,也可以自己扩展
  • transformation 好像还没有实现
  • 支持分库分表的数据库

源码解读:

  • 入口:Engine
    关键:JobContainer 和 TaskGroupContainer
  • 如何调度:
  • Reader的任务切分:
    RangeSplit:会根据参数job.setting.speed.channel来最终确定每个表改分成几个task。简单的说,假如 channel 设置的是4,你的分库分表的总 table 为2,则每张表会获得2个 splittask。
  • Writer 的任务切分:跟 reader 保持一致。

Sqoop2

值得借鉴的:

  • commandline客户端入口 shell->SqoopShell: 用的是groovysh
  • API Client入口:实际上是 web api (json 格式)
  • 调度和执行引擎:
  • Repository:底层如何适应多种db的设计
  • partition:
    • 数字类型:Range
    • 日期类型:本质上也是 Range
    • 字符类型:利用 java unicode 将任意字符转换成对应的 codepoint, 变成BigDecimal 比较大小, 非常巧妙的设计

基础:

字符串:
hash:TODO

  • 编码:任何一种语言,内存之间数据都不要考虑编码,当与外界发生交换和读取时,需要考虑外界文件的编码,再解码并成 unicode。
    java,python 内存里面都是 unicode 编码,只有当需要存储或传输时则需要不同的编码,甚至包括压缩的(为了时空考虑)。所以内存大小和保持成文本大小通常肯定是不一样的。
    http://www.ruanyifeng.com/blog/2007/10/ascii_unicode_and_utf-8.html

  • 大端小端问题:跟编码无关,主要是 cpu不同型号,主要影响大于 byte 的任意数据的操作,cpu 从内存中取出数据后,是该先读高端还是低端或者从其他地方读取数据后,放入内存高端还是低端地址。
    主要需要注意的是是不同操作系统之家不同语言的数据传输。
    对于 java 不用处理。网络传输时大端的,java 也是大端。
    对于下面这种情况,A 端 C 则需要出来。
    操作系统 A(小端)C<->网络传输(大端)->操作系统 B(大端)java
    http://blog.chinaunix.net/uid-12707183-id-2919249.html
    网络层协议规定了网络层是大端的,所以小端方在发送前或接受后都需要做相应的转换。
    http://www.cnblogs.com/fuchongjundream/p/3914770.html

Spark JDBC

目前只支持 Long partition

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,132评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,802评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,566评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,858评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,867评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,695评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,064评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,705评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,915评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,677评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,796评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,432评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,041评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,992评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,223评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,185评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,535评论 2 343

推荐阅读更多精彩内容

  • 1. Java基础部分 基础部分的顺序:基本语法,类相关的语法,内部类的语法,继承相关的语法,异常的语法,线程的语...
    子非鱼_t_阅读 31,577评论 18 399
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,598评论 18 139
  • 从三月份找实习到现在,面了一些公司,挂了不少,但最终还是拿到小米、百度、阿里、京东、新浪、CVTE、乐视家的研发岗...
    时芥蓝阅读 42,183评论 11 349
  • 随意瞥了一眼时间竟然都快十一点半了,而后猛然想起今天的简书还没有更新呢,头脑划过“要不今天就算了吧”的念头,瞬间...
    羲子阅读 215评论 0 0
  • 我理解的AngularJS: 就是对JS的一个封装,是我们更好的去处理数据、验证等相关的东西,说白了和iOS中的第...
    聆听者JYZ阅读 251评论 0 0