11

YoungFish · 2020年06月10日

边缘智能综述(edge intelligence)

Reviewed by : @甜草莓 @微调 @边缘计算社区
前置知识:入门级的“云计算”与“深度学习”,再加上一点点的好奇心和耐心
原文:https://zhuanlan.zhihu.com/p/145439319

前言[1]

随着万物互联时代的到来,网络边缘设备产生的数据量快速增加,带来了更高的数据传输带宽需求,同时,新型应用也对数据处理的实时性提出了更高要求,传统云计算模型已经无法有效应对,因此,边缘计算应运而生。

边缘计算的基本理念是将计算任务在接近数据源的计算资源上运行,可以有效减小计算系统的延迟,减少数据传输带宽,缓解云计算中心压力,提高可用性,并能够保护数据安全和隐私。得益于这些优势,边缘计算从2012年以来迅速发展。

近年来,随着万物互联时代的快速到来和无线网络的普及,网络边缘的设备数量和产生的数据都快速增长。根据IDC预测,到2020年,全球数据总量将大于20泽字节(ZB),而物联网产生数据的15%都将在网络边缘处理。在这种情形下,以云计算模型为核心的集中式处理模式将无法高效处理边缘设备产生的数据。集中式处理模型将所有数据通过网络传输到云计算中心,利用云计算中心超强的计算能力来集中式解决计算和存储问题,这使得云服务能够创造出较高的经济效益。

1.jpg

(2019年)每分钟会产生多少数据? (来源:DOMO)

但是在万物互联的背景下,传统云计算有几个不足:

  1. 实时性不够

万物互联场景下应用对于实时性的要求极高。传统云计算模型下,应用将数据传送到云计算中心,再请求数据处理结果,增大了系统延迟。以无人驾驶汽车应用为例,高速行驶的汽车需要毫秒级的反应时间,一旦由于网络问题而加大系统延迟,将会造成严重后果。

2. 带宽不足
边缘设备实时产生大量数据,将全部数据传输至云端造成了网络带宽的很大压力。例如,波音787每秒产生的数据超过5GB,但飞机与卫星之间的带宽不足以支持实时传输。

3. 能耗较大
数据中心消耗了极多的能源,根据Sverdlik的研究,到2020年美国所有数据中心能耗将增长4%,达到730亿千瓦时,我国数据中心所消耗的电能也已经超过了匈牙利和希腊两国用电总和。随着用户应用程序越来越多,处理的数据量越来越大,能耗将会成为限制云计算中心发展的瓶颈。

4. 不利于数据安全和隐私
万物互联中的数据与用户生活联系极为紧密,例如,许多家庭安装室内智能网络摄像头,视频数据传输到云端,会增加泄露用户隐私的风险。随着欧盟“通用数据保护条例”(GDPR)的生效,数据安全和隐私问题对于云计算公司来说变得更加重要。

为了解决以上问题,面向边缘设备所产生海量数据计算的边缘计算模型应运而生。边缘计算是在网络边缘执行计算的一种新型计算模型,边缘计算操作的对象包括来自于云服务的下行数据和来自于万物互联服务的上行数据,而边缘计算的边缘是指从数据源到云计算中心路径之间的任意计算和网络资源,是一个连续统(continuum)

边缘计算模型和云计算模型并不是取代的关系,而是相辅相成的关系,边缘计算需要云计算中心强大的计算能力和海量存储的支持,而云计算中心也需要边缘计算中边缘设备对海量数据及隐私数据的处理。

边缘计算模型具有3个明显的优点:

  1. 在网络边缘处理大量临时数据,不再全部上传云端,这极大地减轻了网络带宽和数据中心功耗的压力;
  2. 在靠近数据生产者处做数据处理,不需要通过网络请求云计算中心的响应,大大减少了系统延迟,增强了服务响应能力;
  3. 边缘计算将用户隐私数据不再上传,而是存储在网络边缘设备上,减少了网络数据泄露的风险,保护了用户数据安全和隐私。

得益于这些优势,边缘计算近年来得到了迅速发展。


边缘计算发展历程[1]

以"edge computing"为关键词在谷歌学术上搜索论文,以年度为横坐标,论文数为纵坐标,可以看到该热度曲线可明显分为三个部分,则可将边缘计算分为三个阶段:

技术储备期、快速增长期和稳定发展期

此外,在这三个阶段中,分别有如下代表性事件(粗体为中国相关事件)
其中最值得注意的事件有:

1998年,Akamai公司提出内容分发网络(content delivery network,CDN)。边缘计算的功能缓存(function cache)的雏形。

2013年,美国太平洋西北国家实验室的 Ryan LaMothes 提出"edge computing"一词。

2015年,欧洲电信标准化协会(ETSI)发表关于移动边缘计算的白皮书。并在2017年3月将移动边缘计算行业规范工作组正式更名为多接入边缘计算(multi-access edge computing, MEC)。

2016年,ACM 和 IEEE 联合举办边缘计算顶级会议(ACM/IEEE Symposium on Edge Computing, SEC)[2]

2016年,11月,华为技术有限公司、中国科学院沈阳自动化研究所、中国信息通信研究所、英特尔、ARM等在北京成立了边缘计算产业联盟(edge computing consortium, ECC)。

2017年,5月,首届中国边缘计算技术研讨会在合肥开幕,同年8月中国自动化学会边缘计算专委会成立。


边缘计算定义

在说边缘计算定义前,不妨看下这个图:

边缘计算章鱼说(来源:《一本书读懂边缘计算》)

这是一个章鱼,章鱼跟普通动物有一个很大的区别是作为无脊椎动物,章鱼拥有巨量的神经元,但60%分布在章鱼的八条腿(腕足)上,脑部仅有40%。章鱼在捕猎时异常灵巧迅速,腕足之间配合极好,从不会缠绕打结。

这得益于它们类似分布式计算的“多个小脑+一个大脑”。

边缘计算也属于一种分布式计算:

在网络边缘侧的智能网关上就近处理采集到的数据,而不需要将大量数据上传到远端的核心管理平台。

那么回到边缘计算的定义,边缘计算目前没有唯一的定义,以下三种可供参考:

[3]
1. 边缘计算是指在网络边缘执行计算的一种新型计算模型,其边缘是指从数据源到云计算中心路径之间的任意资源和网络资源。

即,边缘计算是一个连续统(continuum),除“云”之外皆是“边缘”

2. 边缘计算更多地聚集在边缘设备本身,而雾计算则更多关注基础设施,从作用范围角度讲,边缘计算包含雾计算,即雾计算是边缘计算的一部分;

3. 边缘计算的基本原理是将计算任务迁移到产生源数据的边缘设备上。

[4]
边缘计算是在靠近物或数据源头的网络边缘侧,融合网络、计算、存储、应用核心能力的开放平台,就近提供边缘智能服务,满足行业数字在敏捷联接、实时业务、 数据优化、应用智能、安全与隐私保护等方面的关键需求。

[5]
边缘计算、雾计算、云计算具有差异性。雾计算将云计算无缝扩展到边缘,实现安全控制和管理域内特定硬件、软件、标准计算、存储和网络功能,并确保安全、丰富的跨域数据处理应用能力。


边缘计算主要使用场景[6][7]

注:由于5G与边缘计算相关应用场景重合性比较大,故此处对二者都进行了介绍。

目前边缘计算研究热点应用领域包括内容缓存、场景感知、负载均衡、云基础设施架构等,对延迟敏感、实时性要求比较高的场景

比如:云基础设施 2.0、5G、VR/AR、CDN、车联网、工业 4.0、物联网等,通过智能化部署边缘节点来满足应用,提供不同服务质量的可靠服务,提升服务质量。

5G 能力、5G 共性业务与 5G 应用的关系(来源:中国移动研究院 )

WechatIMG3395.jpeg

十大行业应用对5G网络能力的依赖程度(来源:中国移动研究院 )

5G重点应用行业及细分应用领域(来源:中国移动研究院 )

边缘计算落地场景分类

正如边缘计算定义不唯一,不同企业和机构对于边缘计算应用场景的分类也是不唯一的。

边缘计算场景分析(来源:华信咨询《走进边缘计算产业》)

根据不同评价维度,有多种分类方法:

开放数据中心标准促进委员会[8]根据技术特性匹配度划分七大技术应用场景(5G、物联网、人工智能、工业互联网、车联网、内容分发网络和AR/VR)和十五大业务应用场景(医疗、交通、金融、工业、教育、物流、城市、电力、安防、家居、楼宇、娱乐、餐饮、会展与农业);

工业互联网产业联盟[9]根据细分价值市场的维度分为电信运营商边缘计算、企业与物联网边缘计算和工业边缘计算;根据业务形态分为物联网、工业、智慧家庭、广域接入网络、边缘云和多接入边缘计算MEC;

阿里和电子技术标准化研究院[10]根据覆盖范围分为全网覆盖类和本地覆盖。

5G总体愿景(来源:5G愿景与需求白皮书 )

image.png

边缘计算分类与主要业务形态(来源:边缘计算与云计算协同白皮书(2018))
image.png

边云协同的主要场景(来源:边缘计算与云计算协同白皮书(2018))

边缘计算落地应用垂直行业

在众多垂直行业新兴业务中,对边缘计算的需求主要体现在时延、带宽和安全三个方面。中国移动[11]分析,目前智能制造、智慧城市、直播游戏和车联网4个垂直领域对边缘计算的需求最为明确。

边缘计算业务场景和需求(来源:中国移动边缘计算白皮书)

智能制造

在智能制造领域,工厂利用边缘计算智能网关进行本地数据采集,并进行数据过滤、清洗等实时处理。同时边缘计算还可以提供跨层协议转换的能力,实现碎片化工业网络的统一接入。一些工厂还在尝试利用虚拟化技术软件实现工业控制器,对产线机械臂进行集中协同控制,这是一种类似于通信领域软件定义网络中实现转控分离的机制,通过软件定义机械的方式实现了机控分离。

智慧城市

智慧城市,主要包括智慧楼宇、物流和视频监控等多个方面。边缘计算可以实现对城市中运行参数进行采集分析。例如,在城市路面检测中,在道路两侧路灯上安装传感器收集城市路面信息,检测空气质量、光照强度、噪音水平等环境数据,当路灯发生故障时能够及时反馈至维护人员。边缘计算还可以利用本地部署的GPU服务器,实现毫秒级的人脸识别、物体识别等智能图像分析。

直播游戏

在直播游戏领域,边缘计算可以为CDN提供丰富的存储资源,并在更加靠近用户的位置提供音视频的渲染能力,让云桌面,云游戏等新型业务模式成为可能。特别在AR/VR场景中,边缘计算的引入可以大幅降低AR/VR终端设备的复杂度,从而降低成本,促进整体产业的高速发展。

车联网

车联网业务对时延的需求非常苛刻,边缘计算可以为防碰撞、编队等自动/辅助驾驶业务提供毫秒级的时延保证,同时可以在基站本地提供算力,支撑高精度地图的相关数据处理和分析,更好地支持视线盲区的预警业务。

除了上述垂直行业的应用场景之外,边缘计算还存在一种较为特殊的需求——本地专网。很多企业用户都希望运营商在园区本地可以提供分流能力,将企业自营业务的流量直接分流至企业本地的数据中心进行相应的业务处理。比如在校园实现内网本地通信和课件共享,在企业园区分流至私有云实现本地 ERP 业务,在公共服务/政务园区提供医疗、图书馆等数据业务。在这一类应用场景中,运营商为客户的本地边缘计算业务提供了专线服务。

边缘计算具体应用实例[12]

边缘计算落地应用实例众多。2020年初,受新冠疫情影响,在校学生不能及时返回学校上课,使得“远程授课和在线课堂”成为热点,又因互动课堂的业务需求与边缘计算擅长的领域相吻合,顾以互动课堂场景为例进行介绍:

阿里云互动课堂场景

在线互动课堂场景具有大带宽、长链路传输、广覆盖的业务特点,同时因为教学的实时性和互动性,对于网络的低延时和抗抖动能力也有较高的要求。

假设一个位于上海的老师在给遍布全国各地的学生讲课,一旦中间网络发生抖动,就会出现卡顿、音画不同步、互动延迟等问题,学生提的问题老师没有及时回答,学生的积极性也会下降,授课效果必然会大打折扣。

在线互动课堂的技术挑战

第一,网络延时是互动课堂的核心影响因素之一,该业务场景对网络丢包敏感,网络丢包可能直接导致用户掉线、视频卡顿、推流失败等。

第二,学生遍布各地,基于就近接入原则,平台需要在全国各主要城市部署接入服务器,理论上城市覆盖数越多,接入效果越好,用户体验提升越明显,但是这会面临高昂的成本。

第三,在暑期等业务高峰期,流量大幅增长,而传统IDC机房建设周期为3-6个月,无法及时响应平台在服务器资源、带宽资源以及专线资源方面的快速扩容需求,同时大量的资源建设在业务高峰度过之后会面临闲置,急需利用云的弹性能力来解决难题。

边缘计算为在线互动课堂带来的价值

大带宽、广覆盖、强互动、低延时,在线互动课堂与边缘计算的应用场景天然契合。

首先,边缘计算可以在更靠近终端的网络边缘上提供服务,全域覆盖的节点资源,仿佛打造了一张覆盖全国的高质量、低成本的实时视频转发网络。在K12在线辅导业务场景中,空间距离的缩短可以减少复杂的长链路传输网络中,各种路由转发和网络设备处理的延时和传输时间,同时可以更好的避免网络抖动带来的掉线和卡顿问题,在互动课堂业务场景中整体低时延、强互动体验提升明显。

同时,视频类大流量业务的处理放到边缘完成,在大型公开课、名师讲堂直播等场景下会产生高并发访问,通过分布式的架构分散中心处理的压力,也能够有效避免网络拥塞,同时降低将数据传回源站的带宽成本。

之前假设的上海老师给全国学生授课的场景中,上海的老师授课媒体流会推到就近的边缘节点,在边缘节点直接进行转码,转码后的媒体流会分发到CDN边缘节点,当有用户访问时直接就近返回内容。

对于常见的跨国授课来说,阿里云边缘计算也能通过国际高速通道将海外的授课媒体流转发回国内的云中心,再通过边缘云智能选路系统以及遍布全国的边缘转发网络,将授课内容实时、高质量的呈现在学生面前。

边缘计算助力跨国互动授课示意图(来源:阿里云)


移动边缘计算(MEC)架构

“移动边缘计算”或者“多接入边缘计算”是边缘计算比较热门的子领域。

移动边缘计算 与 移动云计算的区别

移动边缘计算与移动云计算有什么区别呢?上表中以8个维度进行了阐述。

移动边缘计算架构

移动边缘计算(MEC)两个简单实例

上图是移动边缘计算的两个简单实例。左侧是人脸识别应用,我们可以将图像的获取放在智能终端上,然后将数字图像传入边缘计算服务设备,然后在边缘端进行算力需求较高的运算(人脸检测、数据预处理、特征提取、等等)。

移动边缘计算(MEC)计算与通信建模

移动边缘计算(MEC)模型总结与未来研究方向

Summary of MEC models 来源:《A Survey on Mobile Edge Computing: The Communication Perspective 》


边缘智能[13][14][15][16][17]:人工智能(深度学习)与边缘计算的结合

边缘计算的雏形是CDN(内容分发网络),它与 CDN 的最大区别是强调可以在边缘上进行智能运算。

当下人工智能(特别是深度学习)算法的计算需求增加,但受限于智能终端设备本身体积、能耗等因素,很多大型算法不能在终端上直接运行。

image.png

那么这个时候一方面我们可以探索模型压缩方法减少所需运算量,另一方面我们可以运用边缘计算的方法将算力在终端、边缘与云之间进行合理的分配与卸载。

边缘智能则是人工智能(深度学习)与边缘计算的一个交叉领域。

image.png

来源:Convergence of Edge Computing and Deep Learning A Comprehensive Survey

来源:Convergence of Edge Computing and Deep Learning A Comprehensive Survey

上图描述深度学习与边缘计算的几类关系,为深度学习设计的边缘计算,在边缘上训练的深度学习模型,在边缘上进行推断的深度学习模型,部署在边缘上的深度学习模型。

来源:Convergence of Edge Computing and Deep Learning A Comprehensive Survey

来源:Convergence of Edge Computing and Deep Learning A Comprehensive Survey

主流深度学习计算框架对于边缘计算的支持

如果要考虑在移动设备或者边缘上运行深度学习,首先可以考虑主流的深度学习框架,是否支持对应的设备平台。使用现成的深度学习框架建模可以大大节约时间和精力。

image.png
主流(轻量级)深度学习框架对移动端设备的支持

深度学习模型部署到计算边缘(训练与推断)

深度学习模型需要首先输入训练数据进行模型的训练,然后部署到设备上,最后进行模型的推断。针对这三个过程,考虑到边缘端,也有不同的处理方式。
image.png

使用边缘计算进行深度学习训练

image.png

使用边缘计算进行深度学习推断

边缘计算未来趋势

Gartner公司[18]于2019年发布报告,认为边缘计算能够解决数字业务场景下云计算的延迟、带宽、自主性和隐私需求问题,其具体应用将由人、设备和业务之间的数字业务交互来定义,在未来拥有十分广阔的发展前景,超过90%的企业都将开启自身在边缘计算的独特应用,并将在未来发展成为一个颇具规模的行业。

学界亦有类似的趋势。

参考

  1. ^ab施巍松 等 《边缘计算:现状与展望》
  2. ^SEC 2019
  3. ^施魏松,2017《边缘计算》
  4. ^边缘计算产业联盟 ECC
  5. ^OpenFog 联盟
  6. ^《边缘计算技术研究报告》
  7. ^中国移动研究院《5G典型应用案例集锦》
  8. ^开放数据中心标准促进委员会(ODCC)《边缘数据中心应用场景白皮书(2018)》
  9. ^边缘计算产业联盟(ECC)、工业互联网产业联盟(AII)《边缘计算与云计算协同白皮书(2018)》
  10. ^阿里云、中国电子技术标准化研究院等《边缘云计算技术及标准化白皮书(2018)》
  11. ^中国移动边缘计算开放实验室《中国移动边缘计算技术白皮书》
  12. ^阿里云边缘计算:樰篱《如何利用边缘计算,实现低延时、高质量的互动课堂体验》
  13. ^ Khaled B.Letaief,《A Survey on Mobile Edge Computing: The Communication Perspective》 arXiv:1701.01090v4
  14. ^Jiasi Chen, Xukan Ran,《Deep Learning With Edge Computing: A Review》
  15. ^Victor C.M. Leung, Dusit Niyato, Xueqiang Yan, Xu Chen, 《Convergence of Edge Computing and Deep Learning A Comprehensive Survey》 arXiv:1907.08349v1
  16. ^Xu Chen,《Edge AI: On-Demand Accelerating Deep Neural Network Inference via Edge Computing》
  17. ^Xu Chen, Junshan Zhang, 《Edge Intelligence: Paving the Last Mile of Articial Intelligence with Edge Computing》 arXiv:1905.10083v1
  18. ^赛博研究院[译],Gartner《边缘计算的12个前沿应用》
11 阅读 1.4k
推荐阅读
1 条评论
关注数
6
内容数
2
边缘计算与AI+相关技术干货
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
Arm中国学堂公众号
关注Arm中国学堂
实时获取免费 Arm 教学资源信息
Arm中国招聘公众号
关注Arm中国招聘
实时获取 Arm 中国职位信息