申耀的科技观察 · 2021年06月30日

加速自动驾驶落地,华为OceanStor Pacific有何“独门秘籍”?

自2018年开始,整个中国汽车市场“疲态”初显,并迎来了28年来的首次市场负增长,这也成为了整个中国汽车行业加速转型的关键节点。基于此,以电动化、智能化、互联化、共享化为特征的“新四化”,成为中国汽车行业技术创新和商业模式进化的新方向和新未来。

其中,以ADAS(高级驾驶辅助系统)为代表的智能化更成为目前业内外关注的新焦点。去年3月,工信部官网公示了《汽车驾驶自动化分级》推荐性国家标准报批稿,并于今年1月1日开始正式实施,未来会成为“中国版自动驾驶分级标准”。可以预期的是,越来越多的整车厂今后都将会“标配”L3级以上的自动驾驶功能,中国汽车行业也有望率先进入自动驾驶的新时代。

但也要看到,自动驾驶的研发是个相当复杂的过程,很难“一蹴而就”。比如,整个自动驾驶研发流程中涉及多个环节,数据前后关联且访问协议不同;同时,不同环节的性能模型差异很大,处理效率又要求很高;此外,原始数据处理完成后还需要长久保存,这又带来了海量数据存储的难题。

从这个角度来说,自动驾驶的新时代是美好的,但挑战也是巨大的。因此,采用何种技术战略和产品方案来化解自动驾驶研发过程中带来的海量非结构化数据的压力,并打造出整车厂的全新竞争力不仅是大势所趋,更是迫在眉睫。

自动驾驶背后三重挑战

我们知道,业界将自动驾驶分为L1—L5五个等级,可以说自动驾驶的出现是汽车产业与高性能计算(HPC)、人工智能、物联网、5G等新一代信息技术深度融合的产物,其本质是汽车产业的迭代和升级,这也意味着整个产业进入到了软件定义汽车的时代。

可以看到,这一革命性技术正在中国乃至全球范围内“发酵”。数据显示,目前汽车的车内代码行数已从上世纪80年代的5万行,发展到2010年代的约1200万行,再到2018年的约1.5亿行,而2025年则可能会跃升到15亿行,如此庞大的代码量,对整个行业开发人员的能力将形成巨大挑战,尤其是因为完善算法而收集和产生的数据量将会激增。

换句话说,要训练出满足L3级别以上的自动驾驶能力,整车厂商不但需要大量的算法,更需要海量的数据支撑,而这个过程始终围绕着数据展开,并由数据来驱动的,这种海量非结构化数据如何“存储、管理、利用和归档备份管理”的难度可想而知,可以从几个维度来做观察:

一是,从数据量看,随着自动驾驶汽车的不断发展,车辆相关的数据量将日益增大。保守估计,当前一辆配备三颗摄像头、一颗32线激光雷达以及组合惯导系统等传感器的自动驾驶测试车,每小时约产生20GB数据,后续随着L3或L4级别的车辆的量产落地,其传感器和计算模块的数量必然会大幅度增加,汽车每天所产生的数据量也将成倍甚至几十倍的增加,这些并行的工作负载需要底层存储提供极高的吞吐性能,同时也需要更高的扩展性以及更低TCO。

二是,从工作负载看,自动驾驶的研发过程中,不仅需要采集海量的真实数据,同时也需要配合虚拟仿真引擎来测试和验证在罕见场景中各种算法的可靠性。这就会出现各种小文件、大文件、顺序IO、随机IO、混合读写等不同的工作负载;同时,自动驾驶中的一些典型的工作场景,也需要持续运行数天甚至数周的时间,如深度学习中对模型算法的训练,软件在环(SiL)的仿真模拟中对感知决策算法的反复回归优化等。因此,这也需要底层存储基础设施能够支撑多种工作负载,且能够提供企业级的高可用,以保障自动研发长周期工作任务的持续运行而不中断。

三是,从数据流转看,自动驾驶的研发流程也十分的复杂,包括数据上传、数据预处理、深度学习、模拟仿真、大数据分析、归档备份等等。此外,自动驾驶汽车测试上路之后,大量自动驾驶数据会在用户端、汽车端、云端等多场景下实现交互,这也让数据的流动性大大增加,因此如何确保这些交互数据的流动性和安全性,对整车厂商是一个巨大的难题。

由此可见,自动驾驶的研发不是一个“慢工出细活”的行当,更是一个涉及到高性能数据分析(HPDA)的过程,因此整车厂找到更经济、更可靠的存储,有效地处理各种负载,同时降低数据的管理和运维成本,把更多的资源投入到自动驾驶的研发中去,就变得至关重要。

从ESG测评看华为实力

那么,在此过程中,汽车整车厂该如何在自动驾驶领域实现突围呢?——近期ESG技术测评了华为OceanStor Pacific高性能数据分析(HPDA)存储的实战性能和功能测试结果,无疑就给出了一个全新的答案。

ESG的技术评测结果显示,华为OceanStor Pacific高性能数据分析(HPDA)存储,无论是在高密设计和总体拥有成本(TCO)、混合负载测试、多协议支持方面,都取得了令人满意的数据,具体来看:

首先,在高密设计和TCO方面,ESG对部署横向扩展NAS系统和华为OceanStor Pacific 9550高密系统时的预估存储成本进行了建模和比较,并假设某公司需要为其高可用、混合协议的HPDA生产环境提供16.5PB的可用容量。

ESG分析表明,华为OceanStor Pacific的五年TCO比高密横向扩展NAS系统低61%,同时提高了可用性并减少了运营工作量。由于华为OceanStor Pacific提供极高密度的平台,所以最大的节省(64%)来自托管成本。此外,资本支出(CapEx)也节省了62%,同时供电和冷却也有32%的优势。

其次,在混合负载测试方面,ESG基于华为分布式并行客户端(DPC)测试了华为OceanStor Pacific并行文件系统的性能。与传统NFS客户端不同的是,DPC可以让单个客户端并发访问多个存储节点,消除了单客户端和单流的性能瓶颈。与此同时,DPC支持MPI-IO和RDMA网络,从而更好地适应应用生态并降低响应时间。此外,DPC还能实现I/O级负载均衡,可以充分利用了存储集群能力。

测试显示,写带宽负载时,华为OceanStor Pacific存储单个客户端在单流情况下可以实现7044MB/秒,在8流情况下可以实现8258MB/秒。11台主机能够实现50680MB/秒的写吞吐量;而读带宽负载情况下,华为OceanStor Pacific存储单个客户端在单流情况下可以实现10192MB/秒,在8流情况下可以实现10683MB/秒,11台主机能够实现82355Mb/秒的读吞吐量。

最后,在多协议支持方面,HPDA场景中的数据流程的不同阶段,通常会使用到文件、对象和大数据(HDFS)服务。基于此,ESG在多协议测试环境中分析了华为OceanStor Pacific,并验证了语义完整性、存储性能和高级功能,如快照、配额、QoS、对象存储多版本和对象多版本。

在技术测试中,ESG首先对文件进行访问并下载到每个客户端,然后根据源系统中记录的MD5哈希值对这些文件的MD5哈希值进行了检查,确认了文件的一致性。之后,4个客户端分别使用匹配各自协议的前缀在共享目录中创建更多的文件。搜索查询能够快速找到不同协议创建的全部文件。此外,ESG还关注了若干高级特性,包括快照、配额、QoS、数据加密、S3桶策略控制和对象多版本控制。这些特性在不同协议的测试中,都表现出优秀的工作性能。

值得一提的是,ESG还评估了华为OceanStor Pacific原生多协议性能。在测试中,配置多台主机使用NFS、S3和HDFS协议访问系统。每个客户端通过4GB文件和顺序I/O生成读写负载。在多个客户端访问相同的命名空间并使用相同的数据时,华为OceanStor Pacific存储实现了大于10GB/秒的写入。此外,这些客户端也均能支持近11GB/秒的读带宽。在ESG看来,华为OceanStor Pacific平台可以实现跨文件和对象协议的持续无损高性能。

从ESG的评测报告中,不难发现华为OceanStor Pacific存储可以很好的化解诸如自动驾驶这类HPDA应用中所需要的高性能和可扩展,支持各种混合负载,并能更好的支撑数据流转等难题,因此ESG也专门提出建议,如果企业希望在提高容量和性能的同时降低存储TCO,那么可以使用专为HPDA设计的下一代系统,而华为OceanStor Pacific平台正是企业化解HPDA业务的“理想之选”。

进入自动驾驶“朋友圈”

毫无疑问,受“新基建”、5G以及自动驾驶分级标准落地等因素的影响,今年大量的自动驾驶势必会加速进入到产品落地的新阶段,整个自动驾驶领域也会迎来新一轮的爆发期。

而工信部最新发布的《新能源汽车产业发展规划(2021-2035年)》中就明确提到,到2025年,智能网联汽车新车销量占比达到30%、高度自动驾驶(L4)智能网联汽车实现限定区域和特定场景的商业化应用,可以说自动驾驶已成为当下汽车领域最热门的“风口”。

在此过程中,华为OceanStor Pacific高性能数据分析(HPDA)存储,也凭借出色的技术能力赢得了车企的信任,进入了自动驾驶领域的“朋友圈”。例如,华为OceanStor海量存储就加速了沃尔沃汽车的高级辅助驾驶系统的研发。

沃尔沃认为,华为OceanStor海量存储超大规模横向扩展能力,充分适应沃尔沃汽车研发中心ADAS开发训练平台整个研发周期内的容量规划,加上单节点带宽高达2.8GB/s,同时满足高并发、大带宽的性能需求,有效提升仿真验证效率。此外,华为OceanStor海量存储系统的远程复制功能,可实现跨数据中心灾备能力保障数据安全,保证了开发训练平台数据的高可用和开发平台稳定运行。

由此可见,车企在迈向自动驾驶的“新征程”中,华为OceanStor Pacific存储不仅为自动驾驶提供了更为强大的技术能力,更为加速自动驾驶的落地真正打牢了基础。

事实上,这也与ESG的技术评测形成了相互的“印证”。比如,ESG技术测试就表明,华为OceanStor Pacific存储新一代并行文件系统,能以极低的延迟对业务关键型及任务关键型负载与海量数据集进行整合,这就充分满足了自动驾驶对于混合负载的要求;此外,ESG测试的环境还处理了多种负载,并使用多种协议访问相同的数据,而这也正是华为OceanStor Pacific存储所独有的“多协议互通”的优势,在提供NFS/CIFS/HDF/S3多协议支持的同时,也能通过原生接口,让语义与性能无损,由此最大化提升自动驾驶的研发效率。

与此同时,ESG在技术评测中也提出,根据不同的业务场景,华为 OceanStor Pacific 存储还能够提供两种高密度硬件架构:一是高密性能型的华为OceanStor Pacific 9950,每机箱可提供高达160GB/s带宽和200万IOPS的极速数据访问;二是高密容量型的华为OceanStor Pacific 9550,支持在每个5U机箱中集成2个存储节点,每机箱最多支持120个3.5英寸SATA盘,能够在5U空间内可提供超过1.6PB的裸容量,这就使得自动驾驶的研发团队能够利用不同存储带来的性能,解决大规模数据存储的高性能和可扩展方面的难题。

总的来说,客户的选择以及第三方的评测报告,都肯定了华为OceanStor Pacific高性能数据分析(HPDA)存储的能力和实力,相信未来通过华为在下一代HPDA存储领域中的不断技术创新和突破,无疑会帮助汽车行业客户寻找出更多新模式、新业态和新未来,这是华为在中国自动驾驶领域能够不断赋能的关键所在,更是之于整个中国汽车行业今后转型升级的价值所在。

推荐阅读
关注数
2383
内容数
377
专注产业互联网、企业数字化、渠道生态以及汽车科技的 观察和思考。
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息