在各种各样需求的推动下,系统厂商自研芯片已经不是什么新鲜事了。
埃森哲全球半导体主管 Syed Alam在接受媒体采访的时候指出:“越来越多的公司希望定制芯片以满足其应用程序的特定要求,而不是使用与竞争对手相同的通用芯片。”“这使他们能够更好地控制软件和硬件的集成,同时将他们与竞争对手区分开来,”Alam 补充道。
此外,在分析人士看来,自研芯片甚至在功耗和成本上,也能给系统厂商带来竞争对手所不具备的优势。
正是因为拥有如此多的优势,越来越多的系统厂商投入了自研芯片的阵营。同样的情况也发生在了为半导体市场贡献了半壁江山的智能手机市场。以苹果为例,他们也正在通过越来越多的自研芯片打造自己的差异化竞争优势。
本土手机巨头vivo也正在通过自研芯片,向技术深水区前进。近日,vivo在影像战略发布会上宣布要在下一代自研芯片设计中升级全新的架构——从传统ISP架构升级为AI ISP架构。这是一次跨越式的技术革新。
自研芯片背后的逻辑
对vivo而言,现在也的确到了他们开始深入思考未来如何突破了,因为单纯从手机出货量来说,他们已经称霸国内市场。根据市场分析机构canalys的数据显示,今年第三季度,vivo以1410万台的出货量数据蝉联国内市场出货量首位,市场份额高达20%,进一步拉开与第二名的差距。
从他们的表现看来,能获得如此优异的市场成绩,和vivo以及iQOO在今年第二季度主推的优质产品有着莫大的关系。除了选用了领先的主芯片外,公司在外观、拍照和软件优化方面的投入也不遗余力。此外,vivo在自研芯片上的持续发力,也让公司在竞争激烈的智能手机市场屡创新高。
2021年九月,vivo首次对外披露了公司的首颗自研专业影像芯片。
如vivo影像算法总监杜元甲在产品介绍会上所说,公司之所以会在这方面发力,是因为看到了消费者不但要手机能够在常规场景下拍出好照片,同时还希望它们能够在暗光和运动场景等一些高挑战性场景中拍出好照片,这无疑就给手机芯片的图像处理能力和运算能力提出了更高需求。而作为一个移动设备,功耗限制又是一个不能避免的话题。
正是基于这样的思考,vivo投入超 300人,耗时24 个月研发出了独立影像ISP vivo V1。
所谓ISP,是Image Signal Processor 的简称,也就是大家所熟悉的图像信号处理器。据介绍,ISP的主要作用一般是用来处理Image Sensor(图像传感器)的输出数据,如做AEC(自动曝光控制)、AGC(自动增益控制)、AWB(自动白平衡)、色彩校正、Lens Shading、Gamma 校正、祛除坏点、Auto Black Level、Auto White Level等等功能的处理。
回顾智能手机上ISP的发展,在经过产业的整合之后,基本上这个功能都被高通、联发科和展锐这样的手机主控厂商集成到其SoC上去。但近年来,因为对图像处理要求的提升,厂商又有了将其拆分出来的趋势,这正是vivo选择从这条路切入的原因。
“V1 是由 vivo 主导开发的,服务高速计算成像的专业影像芯片,是一颗全定制的特殊规格集成电路芯片。”杜元甲强调。
据vivo介绍,V1 芯片拥有高算力、低时延、低功耗的特性,其创新之处在于优化了数据在芯片内部的储存架构和高度读写电路,实现等效 32MB 的超大缓存,而当时旗舰级桌面电脑处理器的缓存数量级为 16MB 和 24MB。V1 的读写速度高到 35.84Gbps,拥有1080P 60PFS 的实时降噪插帧能力。
得益于这样的硬件设计,再配合vivo的自研算法,加上与全球顶尖影像大厂蔡司等行业领先巨头的携手,搭配自研影像芯片V1的旗舰手机 X70在影像方面获得了市场的高度认可。
时隔7个月后,vivo第二款自研芯片V1+发布,进一步拓展了包括游戏插帧在内的更多应用场景,并在夜景成像质量方面有着大幅提升。搭载V1+的X80系列截至目前仍然是国产旗舰影像手机的标杆产品。
如今,vivo基于全新的AI ISP架构打造下一代芯片已经就位,这也将成为vivo自研芯片的又一个里程碑。
AI ISP带来的跨越式革新
如果从过去几年的科技界评选几个热词,人工智能必然要占有一席之地。因为其多方面的优势,人工智能在过去几年已经改变了多个行业,就连ISP领域也不例外。
据相关资料显示,为了“看得清”图像传感器输入的原始数据,传统ISP中需要集成近百种的数字信号算法。而为了适配不同的摄像头和镜头,则需要对数千个参数进行调整,这样才能保证其通用性。与此同时,我们还需要做不同算法的协同调试,才能保证ISP能够高效地工作。这种复杂的流程无疑会给开发者带来巨大的挑战。
于是,拥有“学习”能力的人工智能就成为了ISP开发者关注的方向,AI ISP也就应运而生。
正如半导体行业观察在日前发布的文章_《ISP的新方向!》_中所说,将AI引入ISP,是夜视、场景识别、人脸检测、超分辨等的最佳解决方案。文章进一步指出,为了在ISP中加入人工智能的元素,就需要对ISP做相应的调整,来和人工智能做整合。例如,为了满足ISP的相关需求,需要有一个能高效处理人工智能计算的相应模块(AI引擎)来满足ISP的需求。当然,延迟和功耗也要同步关注。
vivo新一代的AI ISP 架构也正是在这样的思路指导下诞生。这一跨越式的技术创新首先体现在其自研的AI计算单元上。据vivo介绍,在这个AI ISP上集成了vivo自研的AI计算单元,带来了超高的能效比;
不同于行业常用的NPU,vivo在AI计算单元上选择了更适合做复杂成像运算的DLA加速器,AI算法是由数据驱动的。因为在运算过程中,需要大量的数据比较、拟合,因此要想进⼀步突破能效比,就要解决延迟和功耗两方面的问题。
针对这个问题,vivo为其DLA加速器内嵌了专用的片上SRAM,这是AI ISP架构设计上的另一个亮点。并且,又因为搭载了共享自研内存单元上的系统缓存,这就大幅减少了数据访问延迟。
按照vivo所说,行业常用的DDR架构内存单元是采用片外存储形式,这种设计存在延迟高、功耗高的弊端,限制了数据吞吐速率,进而限制了视频类数据的推理运算效率。但vivo在内存单元设计中坚持使用昂贵的DDR-Less片内近存运算架构,配合硬化在片上的超大SRAM,实现了运算快、延时低的特征,其峰值数据吞吐速率达到了不可思议的每秒1.3万亿比特(bit/s)。
通过将算法和DLA联合定制设计,vivo实现了软硬协同优化,在解决了功耗和延迟的同时,还让DLA加速器的峰值能效比达到每瓦16.3 万亿次运算(Tops/w),这个数据也让vivo的AI ISP架构达到了行业的天花板水平。
得益于vivo在自研图像处理单元上的升级,将为其下一代自研芯片带来全新的算法效果。
据介绍,结合新的硬件能力,vivo把V1+的NR算法升级,带来了AI-NR 更好的夜景画面细节,提升了20%的夜景降噪效果;通过HDR影调融合(Tone mapping)算法,配合电影级的3DLUTs色彩风格,vivo可以满足专业用户的⼀级整体调色、⼆级局部调色的需求。在城市夜景下,动态范围较之前,理论最大提升4EV;基于新硬件的MEMC插帧算法则进⼀步改善了延迟问题,提升了效果。
发布会上,vivo介绍,从实际的视频拍摄效果来看,基于新一代自研芯片拍摄的1080p 60帧(fps)夜景视频,对比上一代机型,在感光能力和动态范围方面都有全新惊喜。在极夜环境,得益于软硬件升级和调试优化,视频的画质和亮度上都较上⼀代大幅提升。vivo透露,基于全新的硬件,vivo下一代旗舰影像产品(或许是传闻中的X90系列)甚至可以在露营的灯光下,拍到天空中的星点。
从上面的描述我们可以看到vivo自研芯片的实力,再叠加过去在双芯联调上积累的经验,必然让vivo在智能手机新旗舰的打造上带来更多的可能,这也势必能让vivo继续在双芯联调和自研芯片领域仍然保持着领导者地位。
往技术深水区走去
在V1发布之后,vivo在芯片方面实现了零的突破;从V1到V1+,夯实了vivo在芯片领域的实力。现在,基于全新AI ISP架构的下一代自研专业影像芯片——或许就是V2,让vivo完成了在芯片领域的又一次蜕变。这也让他们在芯片行业扎下了根,拥有了继续往技术深水区前进的底气。
从国内几大手机的布局看来,发力自研芯片是vivo要走的必经之路。因为如果在竞争对手都在打造自己的差异化优势的同时,企业紧靠品牌是很难赢得下一轮的技术竞赛。尤其是在智能手机同质化已经高度同化的当下,vivo在这条自研赛道持续投入,并协同发展企业旗下的各项业务,是确保企业能够继续胜出的保证。
vivo X系列产品经理杨青在今年四月接受媒体采访的时候也表示:“目前vivo的资源主要布局在算法、IP转化和芯片架构的设计上,而比如在IC线路设计、流片、生产等流程,会交托给合作伙伴,双方利用各自的专业和优势,合理分工协作。”
vivo执行副总裁、首席运营官胡柏山则强调,从整体来看,vivo对于研发的逻辑基于四个赛道:设计(包括外观、交互等)、影像(拍摄、视频等)、系统(包含底层系统和AI技术使用等)、性能(游戏等场景)。其中,与芯片能力捆绑比较紧密的就属影像和性能。这也是vivo在一开始把芯片定义放在这两个赛道的原因。
不过,在笔者看来,AI ISP也许仅仅是vivo下一代自研专业影像芯片V2的“开胃菜”,vivo必然能够在芯片方面带来更多的创新,这也势必给其旗下的智能手机带来一些独特的领先优势。在智能手机缺乏吸引力的当下,vivo的这些投入值得消费者们期待。