直接点击这里获取PPT
IoT 概念最早在 1985 年由 Peter T. Lewis 提出,至今已经 30 余年。近年来伴随着人工智能技术、5G 的快速发展,IoT 技术的应用再次成为了业内关注的焦点。
Kyligence 在帮助企业建设大数据平台的过程中,也见证了 AIoT 技术从概念到实践的演变,亲历了诸多前沿应用。今天就 AIoT 技术,我们邀请了资深售前为大家带来一线的解读,在这篇文章中您将了解到:
1)AIoT 有哪些最新应用?
2)AIoT 项目的建设为什么需要大数据平台?
3)AIoT 大数据平台的通用架构是什么?
AIoT=AI(Artificial Intelligence 人工智能)+IoT(Internet of Things 物联网),是人工智能技术与物联网在实际应用中的落地融合。
AIoT将成未来20年全球最重要科技
自 2016 年以来,随着 IoT技 术(传感器、移动网络,通讯标准、技术平台)和 AI(芯片、算法)的发展,智能设备越来越普及,例如手机的智能化应用功能越来越多(语音助手、拍照、智慧识图等),同时也催生了智能设备(教育机器人、智能音箱、智能摄像头)和可穿戴设备(智能手环、智能手表)等新兴产品市场。
这些面向消费市场的智能化产品近年来呈现出井喷式的增长,代表智能设备的智能手机,全球 2019 年 Q1 就出货 3 亿部。
AIoT 技术也在深刻改变着传统企业,如传统家电行业在 AIoT 的支持下,增加了更多智能功能,现在智能化电视已经成为各厂商的主打产品,在冰箱、洗衣机、空调这些家电领域,智能互联成为新的增值点。而传统的汽车和重工机械采用 VoT(车联网)技术,大大提高了车辆/装备的信息透明度和控制水平(如安吉星远程诊断和远程启停),同时支持业务创新 ,如汽车行业的基于驾驶行为的 UBI 保险业务和重型装备的以租代售业务等。
工业 4.0 和国家的智能制造 2025 计划,核心都是通过利用 AIoT 技术提高生产水平、创新业务方式,从而提升整体制造能力。我们可以看到,装备企业越来越多地引入新型传感器和机器人,在传统生产线上增加如 PLC、FCS,以期提高设备和生产线的智能化水平,配合大数据和 AI 技术,可在生产线动态运维、生产工艺优化、产品质量提升等方面提高管理水平。
因此一个新的行业共识:AIoT 将成为未来二十年全球最重要的科技,并成为工业机器人、无人机、无人驾驶、智能陪伴、智慧建筑及智慧城市等新兴产业的重要基础。
大数据平台是AIoT重要组成部分
智能设备管理系统一般分为三大部分:边缘平台、大数据平台和业务管理平台。
边缘平台直接联接设备或网关,主要实现设备管理、规则处理(如紧急停机、联动报警)和实时控制功能,同时将采集过来的数据进行解析和分发(分发到业务系统以实现实时监控、分发到大数据平台进行进一步数据分析)。
大数据平台接收物联网产生的海量数据,进行海量数据存储,并对设备过来的数据结合内外部其他数据进行业务分析、数据价值挖掘,为设备改进、用户服务和业务创新提供支持。通过大数据分析,甚至可以提供更强的人工智能为业务管理和业务创新提供服务。
业务管理平台对各项业务进行处理如研发、制造、内容运营、客户服务等,这些系统很多业务依赖于大数据平台提供的数据和模型支持。
大数据平台需要具备的能力包括海量数据的实时接入(如 Kafaka)、海量数据的低成本存储和高性能分析能力,目前实时/实时+批量的分析需求也越来越多,如实时预测设备故障、实时预测制造品质等。
基于大数据平台的能力要求,传统数据平台如基于 RDBMS 的技术体系基本不可能满足,因此目前 AIoT 体系配套的大数据平台,几乎全为 Hadoop 技术体系搭建。
(注:一般情况下,大数据平台不做设备实时监控,这个工作由边缘平台结合专用的设备监控平台来完成。在算法模型方面,大数据平台应具有算法库和训练数据区,利用历史数据训练好的算法模型可进行实时计算以实时预警和预测,目前的趋势是训练好的算法模型移植到边缘平台。)
可以说,物联网、大数据、及人工智能三者是相互协同,缺一不可的关系,事实上,很多物联网、人工智能项目必然需要配套大数据平台的建设,如汽车企业,就是因为增加了智能互联汽车,传统数据平台无法满足海量数据的采集、存储和分析利用的需要,所以必须配套大数据平台的建设。
大数据平台承担的作用包括:
1)接收存储设备传来的高流量数据
2)海量数据存储(长时间历史)
3)为AI算法提供数据原料和训练场所
4)支持业务运营和业务创新
AIoT大数据平台通用架构
如下图所示,AIoT 大数据平台分为数据来源层、数据采集层、计算存储层、数据服务层。
事实上,AIoT 大数据平台除采集来源于传感器的 IoT 数据外,亦会采集企业内部、外部和第三方数据,以对全域数据进行整合以全面洞察业务,如移动设备(手机)企业,除采集设备本身元器件数据、功能和应用日志数据外,亦会结合用户的商城访问、购买、咨询和售后数据,全面了解用户的需求,以提供个性化的产品服务。在 IoT 生态链打造过程中,融合不同来源的数据,已经成为业务分析的必要条件。
基于不同的数据来源和数据类型,计算和存储功能是大数据平台的重点建设内容,在这一层需要进行多类型数据的接入、存储、处理,因此低成本存储和高性能计算(包括批量和流式计算)是平台建设的核心,因此如何规划设计数据流、数据处理方式,如何采用高性能技术组件,需要认真选型。
大致来说,AIoT 大数据平台需要考虑实时数据处理、非结构化(如文本、图像、音频等)数据处理和结构化数据处理三种类型,这三种数据处理可能采用不同的技术方法,处理后的如何数据连接、整合,可能不同的企业会采用不同的方式。
在数据服务层,大致可分为针对内部用户、外部用户和 IT 用户三类,目前利用数据科学深度挖掘 AIoT 价值属于数据应用的热点,如进行手机换机预测、设备检修时机预测、组合推荐营销等。除内部用户分析数据用于产品品质改善、推荐营销、个性化服务外,鉴于 IoT 的数据拥有巨大的价值,许多企业在探索开发数据产品实现增值服务,如对车主的充电桩、停车场、购物场所的引导等。在国外,基于车主驾驶行为的个性化保险(UBI)亦是数据价值变现的典型案例。0
Kyligence 在 AIoT 大数据平台的定位和作用
Hadoop 技术体系构建的 AIoT 大数据平台具有低成本、可扩展(Scale-Out)、高性能数据存储和处理的显著特点,在数据服务层面,根据不同的应用场景会利用不同的技术组件来实现业务需求。在数据聚合分析领域,基于 Apache Kylin 的 Kyligence 被很多 AIoT 大数据平台使用。
Kyligence 是 Hadoop上 的 OLAP 组件,利用 Kyligence,用户可在图形化界面上构造业务分析模型,Kyligence 根据模型,利用 Hadoop 高性能计算引擎(Mapreduce/Spark)对模型进行预计算,并提供标准的 ODBC/JDBC 接口提供业务统计分析、明细查询功能。同时提供 API 接口,可更好与业务系统对接,实现数据分析直接服务于业务操作闭环流程中。
需要指出的是,Kyligence 支持 kafka 作为数据源实现实时数据分析,可帮助企业更细致分析相关业务,如一天内每小时的业务量,或者用户在一整天的行为等。
综合来说,在 Kyligence 的支持下,AIoT 大数据平台可在产品研发与品质改善、工艺改进与产线维护、业务运营与业务创新等方面支持业务。
如某手机厂商 AIoT 大数据平台,将 IoT 数据应用于手机研发、OS 开发、云服务运营等领域,取得了良好的收益。
在这些场景中,Kyligence 产品得到了广泛应用,如通过统计分析手机元器件的性能和功耗,寻找最优元器件组合,以实现更好的产品品质;根据用户对元器件功能使用,基于场景定制型号等。
Kyligence 支持用户自助从多个角度进行业务分析,业务人员可通过数据分析对业务进行改进和创新,如某用户通过数据分析发现手机标配的耳机插口转换器使用的用户比例情况,发现大多数用户并不会经常使用该配件,于是改变默认搭配的方式,在新的产品配置中,删除标准配置,并在商城进行单独销售,此项改进为企业带来了数千万的收益。
在某汽车主机厂,将车联网数据和生产 IoT 数据除用于内部的营销服务、产品改进和供应制造外,更积极在 UBI 保险、二手车评估、后市场合作服务领域运营数据,以实现数据增值。
如通过采集试验样车的测试车联网数据,针对故障进行分析,了解故障产生的场景、环境工况等,以更有针对性改进设计,提高产品竞争力。
总结
AIoT 以数据量大、数据增长迅猛,以及业务运营精细化的特点,对大数据平台提出了挑战,而 Kyligence 作为 Hadoop 平台原生技术组件,可对海量数据进行高性能分析,并通过 Scale-out 能力,应对数据量和用户数的指数性增长,帮助企业从研发、制造到服务运营各个领域充分利用 IoT 的数据,实现业务改善和业务创新。