物联网学习(9)——数据存储

12 物联网中的数据存储

物联网设备连接上云平台之后,会源源不断的将数据发送到云平台。云平台要怎样存储这些原始数据,以及进一步存储经过初步处理过的数据?

我们在日常的程序开发中,最头痛的是数据库的升级。因为在目前的程序开发中,通常应用都是无状态的,应用的升级和替换有了很多成熟的方案。而数据是有状态的,并且数据是公司重要的数字资产,不能轻易丢弃。因此数据库的升级和替换,每一次都是伤筋动骨。

从最开始的数据库选型开始,我就必须慎之又慎。数据库选型的基本原则,就是根据数据的类型和业务使用的方式来选择。

数据大体上可以分为3类:

  1. 结构化数据 (Structured Data)
  2. 半结构化数据 (Semi-Structured Data)
  3. 非结构化数据 (Unstructured Data)

针对这些数据的特性,以及使用的业务场景,我们可以选择不同类型的数据库。

12.1 关系型数据库

我们会采用关系型数据库来保存结构化数据。关系型数据库可以很容易的实现数据的CRUD,很容易的实现关联插叙。同时可以支持事务管理,保证数据操作的ACID特性。

但是传统的单机型关系型数据库很难支撑物联网所产生的海量数据,因此需要新的方案来解决。最初的方案是对数据库进行分库分表,然后使用例如MyCat这样的数据库中间件实现数据库操作。随着这方面需求越来越多,出现了分布式关系型数据库,也就是NewSQL数据库。NewSQL数据库可以选择开源的TiDB,CockroachDB,也有商业化的OceanBase等等。

12.2 时序数据库

物联网中的一些数据具有很强的时间顺序特性,例如传感器上报的温度信息等。这些数据在读写、存储和分析处理方面有下面的这些特点:

  1. 持续不断的写入,写入频率基本固定。数据基本不做更新。
  2. 在业务中读取的频率很低,通常是进行数据分析时进行读取。
  3. 时效性强,新数据价值高,就数据会迅速失去价值。
  4. 旧数据被查询的概率不高,并且一般是按照时间范围的粗颗粒度的读取分析。

针对这种特性,业界推出了时序数据库。时序数据库最开始应该是出现在工业应用中,但是随着物联网的兴起,在物联网中应用的也越来越广泛。时序数据库也有很多开源实现,比如InfluxDB,KairousDB,OpenTSDB等。

12.3 非关系型数据库

对于半结构化数据,我们通常会采用非关系型数据库,也就是NoSQL来存储。通常非关系型数据库都是采用键值对来存储,以记录的主键作为key,value则是各种各样的。例如MongoDB中的value是类似JSON结构的数据,Redis中的value可以有各种不同的类型。

通常,非关系数据库不强调数据的一致性,不支持事务操作,也不关注关联表查询。并且对数据格式没有固定的要求,便于扩展。

在不同的应用场景中,可以使用不同的NoSQL数据库。例如CouchDB,Redis,Cassandra,MongoDB等等。

12.4 分布式文件系统

对于非结构化数据,典型的就是例如图片、音频、视频等数据。这些数据完全不能按照结构化的方法来描述,也无法预定义数据模型。对这类数据的大规模存储,我们只能使用分布式文件系统。

分布式文件系统最出名的就是HDFS,其他的还有FastDFS和Ceph等等。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,013评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,205评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,370评论 0 342
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,168评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,153评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,954评论 1 283
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,271评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,916评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,382评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,877评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,989评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,624评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,209评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,199评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,418评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,401评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,700评论 2 345

推荐阅读更多精彩内容