司空见惯的人脸识别算法与智能摄像头,无时无刻不被调用的智能语音与推荐算法,各行各业都开始探讨如何使用AI……然而当我们继续深入到AI开发的产业深处,会发现还存在着许多待解的难题:AI技术与企业的业务场景怎样结合?投入能效比是否达到规模化应用的预期?怎样从AI技术上重新建构竞争壁垒?
8月10日举办的华为HAI 2020大会上,华为昇腾计算业务总裁许映童一句话,揭示了华为接下来将使能AI的方向——“极简易用,让AI计算无处不在;极致性能,让AI计算触手可及”。
在AI即将进入各行各业的当下,或许值得一次凝视。
(华为昇腾计算业务总裁许映童在HAI 2020)
大隐于世:昇腾生态的“极限挑战”
在HAI 2020上,我们看到了不少基于华为Atlas及全栈全场景AI能力所建构的垂直技术体系。
比如大会直播时采用的讯飞听见即时翻译系统,工商银行基于Atlas的硬件和基础软件平台打造的“工银智慧大脑”;华为与第四范式联合打造的软硬一体全栈AI平台等等。
以一种“润物细无声”的方式隐于产业身后,是我从华为Atlas与ISV伙伴等的默契与协作之中,感受到的独特选择。
举个例子,第四范式是一家人工智能技术与服务提供商,为银行、政务、能源、智能制造、医疗、证券等领域的企业客户提供AI创新技术。
而华为与第四范式的合作,就在软硬件一体的基础上,基于Atlas服务器,华为CANN 3.0完成了软硬件的深度优化,结合范式自研的RTiDB在线实时数据库,可以让第四范式上的数据训练、推理算法、模型应用等整个AI流程,都能够在极致算力的底座上高效跑起来。
更关键的是,彻底摆脱了在底层软硬件层面对国外技术的依赖,让重视安全的行业能够放心地使用AI。
同样,支持万亿维特征、毫秒级推理响应、大规模图计算、高密度的工银智慧大脑,正是基于Atlas的硬件和基础软件平台所打造的。
这些合作伙伴的计算能力向各行各业输出的时刻,都可以触摸到昇腾计算生态的温度。
开往春天的列车:AI产业化需要“三大护法”
我们知道,更多的开发者投身AI、更多的企业需要AI、更多的数据和训练需求被激活,AI开发者在当下也需要“三大护法”护航,来让AI行业应用落地“事半功倍”:
1.减轻算力成本,保障AI效能。5G、IoT等的逐步推进,带来了空前大的数据井喷,背后的算力成本、开发时间、系统交互等限制如果持续放大。
2.全流程工具加持,护航高效开发。在实际开发中,工程师们需要从解决方案到建模验证等跨越整个设计流程的工具链,帮助他们将AI模型与洞见、工程相结合。
3.深度差异化落地,加速产业升级。许多不具备AI人才储备的传统或实体企业,也希望以低门槛的方式差异化地应用AI。
这三大护法,可以将其看做是AI走向产业应用落地的限制,也可以将其看做是龙跃于渊、时不我待的机遇。这也是为什么华为华为要将自己隐于ISV服务商和开发者身后,在HAI 2020重点打出了“软件牌”。
AI全栈“软实力”:华为送给开发者与时代的三重礼物
从某种意义上来说,AI本质上还是以AI算法驱动的软件工程。所以在构建昇腾AI基础硬件设施构筑最强AI算力平台的同时,华为也同时发布了CANN等一系列AI开发软件并不断更新,我们不妨一一拆开华为送给开发者与时代的大礼包。
第一份礼物,是异构计算架构CANN 3.0。
今天的开发者有多难?开源的AI框架就有好几种,TensorFlow、、PyTorch、Caffe等都有各自的拥趸;面对的操作系统也不少,iOS和安卓以及各种Linux系统都需要适配;智能手机、桌面电脑以及各种终端设备形态都需要兼容。
为了让开发者不需要重新制造“轮子”,2018年首次发布的CANN在HAI 2020上迎来了全新的“3.0”版本。
其特点总结起来就是三个字:
一是“全”。CANN 3.0 “端边云”全场景协同的计算底座,只需要一套应用代码,即可兼容10+种设备形态、14+操作系统以及多种AI框架;
二是“简”。AscendCL(昇腾统一编程接口)支持开发者可以在现有的算法、框架基础上,开发和修改自定义算子,同时可以后向兼容和演进,适应不同的算力和内存的变化,底层硬件的更换无需修改代码,开发过程更“简单”;
三是“升”。通过深度图优化、自动图拆分与融合、数据Pipeline智能优化等技术,实现了高度的软硬件适配,最大化释放AI硬件的澎湃性能,实现训练和推理性能的全面提升。
第二份礼物,是全流程开发工具链MindStudio。
在AI产业应用落地的工程化环节,开发者需要完成算子开发、模型训练、模型推理、应用开发、应用部署等一系列工作,如果每一个环节都需要重新开发或适应大量的工具,那渴盼AI的企业与个人可能要等到天荒地老。
因此,华为打造的全流程开发工具链MindStudio 2.0,就对所有的工具链进行整合,形成一套完整的工具链体系,开发者可以实现端到端开发的全流程“拎包入住”,直接降低了AI开发门槛与周期。
同时,借助插件化设计,开发者可以利用标准的插件化接口,开发自己的工具插入到工具链体系中去,进一步提升工作效率与灵活性。
在AI最核心的训练与推理场景,MindStudio还加入了独有的工具,通过Less BN(智能识别网络中不必要的BN算子)和随机冻结算法提升模型训练效率,利用智能算法实现模型压缩,加速推理进程。
此外,便捷安装、一键式代码补全、自动智能化适配开发环境、性能可视化精准粉细等等功能的设计,从各个细枝末节来共同提升开发者的生产力。
这些动作以一种堪称重构的整合思维,完成了开发全流程的升级和进化。
第三份礼物,是昇腾应用使能MindX。
如果无法从算子开发、模型训练开始尝试,是不是就无缘AI了?
在本次HAI大会的MindX 1.0,就在尝试用“2+1+X”的方式助力AI更简单易用地融入社会最小单位。
如果你是ISV(独立软件)服务商,希望向垂直领域提供更具细腻度的AI能力,那么华为的两大平台——深度学习平台MindX DL、智能边缘平台MindX Edge,前者通过数据中心设备与计算资源统一管理与调度,可以在计算集群上快速搭建起商用深度学习系统;后者则支持一键式部署多样设备的边云协同推理,就能帮助ISV服务商建构起跨软硬件、跨终端的AI服务能力。
基础模型也不需要自己训练了,优选模型库ModelZoo已经涵盖了20多个按场景和框架分类好的高性能模型(下半年会增加到50以上)。
还想让开发过程更简单?使能各行业SDK了解一下。“自己造的降落伞自己先跳”是华为的一贯作风,所以华为工厂80多条产线也成为规模应用AI的领头人。
举个例子,华为松山湖就通过AI算法,让标签缺陷检测、螺钉缺失等实现“秒级检测”,质检人员效率提升3倍。而这些从华为自身实践中被反复打磨优化好的高性能视觉算法,就被整合到了制造AI应⽤开发套件mxManufacture中,可以被制造产业伙伴轻松部署和调用。
拆完这三个礼物,不难看到华为在全栈AI软件上下的功夫,与性能突出的全栈AI硬件相适配,交织成了一块强有力的磁铁,将AI与开发者、ISV服务商、各行业开发需求紧紧地吸附在一起。
“把简单留给别人,把复杂留给自己”,托举起千行万业的AI渴盼。这是昇腾生态的“极限挑战”,也在催生AI的千种想象、万种可能。