算力时代，视频云需要怎样的CPU？

在数据爆发式增长及算法日益精进的大背景下，属于「算力」的时代俨然到来。随着视频成为互联网流量的主角，日趋饱和的音视频场景渗透率、人类对“感官之限”的追求与突破、更多元化的场景探索及技术需求，为视频编码能力和底层算力及硬件支持带来更大的挑战。

“视频云作为音视频行业的基础设施，能极大地简化视频从采集、处理、编码、传输到分发的全链路流程。”正如阿里云视频云技术负责人在《芯事》访谈中所提到的，阿里云视频云与倚天710一起，正在踏上视频普惠千行百业的新征程。

点击链接查看视频：https://www.eefocus.com/video...

视频云与倚天710的结合

2022年北京冬奥会，阿里云承接了一项重要的任务，那就是支撑冬奥全面上云。为此，阿里云视频云推出了全新的云上创新解决方案——阿里云聚“Alibaba Cloud ME”，这也是全球第一次在奥运会上实现异地全息会面，是一次打破时空之距的革命性创新。在感叹云上沉浸之旅的精妙之余，我们不禁要问，阿里云视频云上路即狂奔的硬实力是什么？除了使命必达的奋斗精神和强大的软件、算法支撑能力以外，阿里云视频云技术负责人致凡还提到了倚天710。

当我们将目光投射到倚天710上，会发现它诞生于2021年，是一款由平头哥自研的云芯片，经过一年多时间的硬件部署和业务验证，倚天710实例已成功应用到阿里巴巴集团的核心业务中，并服务多家知名互联网及科技公司。正是基于前期优良的表现，倚天710已在阿里云数据中心部署，未来部署规模将继续扩大。

当然，没有一款芯片生来就如此强大，视频云技术负责人谈到：“视频云和倚天710的结合是一段美好的旅程，但中间还是经历了非常多的事情。”

回忆起这段旅程：“由于视频业务的增长速度是非常快的，研制一颗芯片的周期也非常长，不论是芯片研发、还是芯片落地后适配视频云业务成长，都是极具挑战的，但我们一起做好了正视挑战、突破壁垒的准备。当第一版芯片流片回来后，芯片基本性能表现稳定，且由于Arm架构带来的原生优势，再加上阿里云和平头哥的同学双方坐在一起，在了解芯片内部构成的基础上去做了很多算法调优后，能够让代码在芯片上跑得更快。

同时，倚天710还针对特定算法场景进行了指令集加速与优化，比如像SVE等矢量计算技术，其中BF16/INT8 mmla指令可实现高效的矩阵乘法运算，还支持Hash、CRC32等加速指令，可以让单条指令并行处理更多数据，大幅提升视频编解码、AI编解码增强等场景性能，这是一个两边一起迭代的过程。”

所以，从最早的性能挑战传统架构CPU，到现在已经远远超过传统架构CPU，倚天710的“蜕变”是一步一个脚印走过来的。视频云技术负责人认为：“这是一个非常好的案例，阿里云视频云的业务跟平头哥的芯片设计能够完美地结合在一起，利用各自的优势让芯片设计出来，在视频行业中发挥更大的作用。”

谈起平头哥和阿里云视频云业务的这次合作，就不能不提到一个大的产业背景，即视频云的爆发式增长。至于什么是视频云？“视频云就像是音视频行业的水和电，是底层的基础设施，可以大大简化视频从采集、处理、编码、传输到分发的链路。”这个比喻再恰当不过。

社会视频化在狂飙

从2017年开始，短视频的热度持续上升，加上近三年疫情下直播、视频会议、线上教学等领域的崛起，社会视频化成为一种大趋势。根据CNNIC发布的第50次《中国互联网络发展状况统计报告》数据显示，截至2022年6月，我国移动互联网接入流量达1241亿GB，同比增长20.2%；另根据思科发布的数据显示，视频内容约占互联网总流量的90%，占移动网络总流量的64%。

结合这两组数据，我们可以得出视频正在成为互联网流量的主角，而爆炸性的数据量又将会对算力和存储提出更大的挑战。于是视频云的价值被凸显出来，并呈现出了一种不可逆的发展态势。在这样的大背景下，全球以互联网公司为主的科技企业纷纷转型，开启视频云技术的探索之旅，并在安防监控、远程医疗、零售电商以及金融机构等典型场景中得到落地。

当前，视频云产业已经形成了相对稳定的头部战队，包括微软、AWS、阿里云等主流云厂商。关于国内视频云的市场体量方面，根据IDC发布的数据显示，2022上半年中国视频云市场规模达到50.5亿美元，同比增长15.7%，预计到2026年，市场规模接近300亿美元。值得一提的是，通过报告显示，阿里云视频云连续5年占据中国视频云整体市场份额第一，并且渗透率还在不断攀升。

视频产业倒逼技术迭代

对于视频云产业来讲，以在线视频为例，从最早国外的Livestream、国内的斗鱼直播到现在，已经经历了25年的历史，其实从技术的角度来看，整个行业发展的速度没有想象中的快。比如，视频编码从H.264到H.265，再到H.266，平均10年升级一代。为什么速度不是很快？因为它要解决的问题比较多：算力、网络传输、标准等等。但是，我们看到今天的视频产业发展非常迅猛，这也倒逼技术要去完成快速迭代。这几年已经初显效果，比如现在编码器的升级迭代速度是5年，以前是10年，预计后面可能是3年。

为什么这里要强调编码？事实上，视频云是一个算力密集型行业，视频信息量很大，假如采用和文本、图片一样的压缩模式，那么还原度是不够的，所以视频必须进行编码处理。编码要是做不好，不仅会损失视频质量，还会带来传输难度高的问题。从MPEG2开始，每一代视频编码的升级，其压缩率大约可以提升50%，远低于视频分辨率每更新一代提升4倍的速度，即使这样，每一代升级对CPU算力的需求，以及算法复杂度都会提高至少10倍以上，这对芯片的架构、芯片底层的指令集优化、芯片的存储器和cache结构都会带来新的挑战，很多核心的算法要用新的指令集重新写一遍，这意味着视频编码和芯片成长是需要同步的。

视频云需要怎样的CPU?

通过前面的介绍，我们了解到视频编码对算力的要求很高，因为我们常常试图用算力换存储，用算力换传输带宽，所以我们希望算力越高越好。

那么如何提升CPU的算力？首先要选择好的内核架构。在视频领域，传统架构已经有三十几年的历史了，目前市占率依然能达到90%以上的份额，但裹挟着沉重的向后兼容包袱。而Arm作为一种精简指令集，不仅没有历史包袱，还可以根据需求增加很多寄存器，同时从内存cache结构的设计和指令集的设计上面，能够更贴合需要大算力的视频处理需求。此外，不管是Hyper-Threading还是其他，采用传统架构的CPU走的都是提高主频的路子，在视频处理时就会遇到一些问题，比如视频压缩的时候会分成I帧、P帧、B帧，每一帧的算力并不是平均分配的，就会带来对算力需求不稳定的问题。

所以为了让芯片不跑超频，就可能会做一些降频处理，这时候它的算力就可能达不到相应的编码需求。在实际业务中，由于视频业务不是单机运行的，会有很多的服务器集群配合来处理，为了防止CPU跑超等复杂情况的出现，就不得不把服务器集群的水位降低，这是传统架构CPU比较大的问题。

然而，Arm整体的设计是比较稳定的，不管任务有多复杂，都能实现稳定输出，做到良好的资源调配和水位调配，不用预留很多冗余来防止芯片跑超，这对于to B业务来说非常重要。除了主频高以外，传统架构CPU的核不多，通常是两个vCPU/HT共享一个物理核、1份ALU，但Arm可以实现128/256/512或更多的核，类似GPU的设计，如此一来，对于不同应用场景而言，就可以用少核应对低算力需求的场景，多核应对高算力需求的场景，实现更优的业务调配，降低投入成本。以倚天710为例，内含128核CPU，主频2.75GHz，可适配云的不同应用场景。

与此同时，随着数据上云越来越多，对于数据中心而言，功耗性能也是非常重要的，对运营者来说，低功耗就意味着低成本，除了软件层面的优化以外，倚天710能同时兼顾高性能和低功耗。

以上要素叠加，就让视频云的头部企业阿里云与倚天710的结合看起来水到渠成。当前，倚天710已大规模部署并提供云上服务，根据实践反馈，倚天710让阿里云平台的算力性价比提升了超30%，单位算力功耗降低了60%，这是一个相当大的进步。

探索一种平衡

纵观视频云产业，人们对体验的极致追求，将成为视频云持续深耕的动力。在云应用场景下，CPU的发展之路将循着算力、I/O、网络协议适配、推理能力、从无到有的创造能力不断演进下去。未来，Arm会成为视频云中一种重要的架构，整体份额一定会增加，但不会是唯一的架构，传统架构、异构的ASIC和FPGA都会有一席之地。而对于Arm架构而言，未来的改进方向是降低功耗、提高算力、做好专用性和通用性的选择平衡。

同时，我们要意识到，未来视频对算力的挑战是非常高的，简单地靠CPU的升级已经满足不了需求，需要一些特殊的处理，包括越来越多的AI算法、专用算法，比如模型搜索的算法等，再把通用的模块部分地固化在芯片里面，极大地提升视频处理的效率。

所以在视频云市场，人们总是在做权衡，云芯片厂商要处理好芯片能效和通用性的关系，云服务商要在算力有限的情况下使用很多快速算法。 而正如阿里云视频云技术负责人所强调的：“我们的愿景都是一样的，就是让视频普惠各行各业，再反哺视频行业，实现更茁壮的发展。”