集微网 · 2022年05月16日

【专利解密】支撑国产昆仑AI芯片发展 百度实现芯片计算功能方案

【嘉勤点评】百度发明的基于芯片的计算功能实现方案,能够使得芯片的设计可以动态地适应不同的应用场景和运算规模,并且可实现参数的动态配置。不仅大大简化了人工实现计算功能模板的难度,也提高了芯片设计尤其是芯片软件开发的效率。

集微网消息,近年来,以深度学习技术为代表的人工智能(AI)已经被广泛地应用于各个领域(例如,语音处理、图像处理、自然语言处理、视频处理、自动控制等),并对人们的生活方式产生了深远的影响。

随着人工智能技术的进一步发展,人们对于人工智能的水平的期待越来越高。人工智能的水平主要依赖于深度学习的发展,而深度学习技术对计算能力有非常高的要求。由于性能、成本和功耗等各方面的限制,传统的处理器很难满足深度学习的要求。

因此,如何设计软件和硬件深度结合的高性能AI芯片,例如,图形处理器(GPU)、专用集成电路(ASIC)等,以满足深度学习技术的要求,是当前所需要解决的一个关键的问题。为此,百度在2019年6月26日申请了一项名为“生成基于芯片的计算功能的方法、装置、设备和存储介质”的发明专利(申请号:201910559200.3),申请人为北京百度网讯科技有限公司。

根据该专利目前公开的相关资料,让我们一起来看看这项技术方案吧。
image

如上图,为该专利中发明的用于生成基于芯片的计算功能的方案示意图,该结构中主要包括有:候选计算功能模板120、计算设备130和目标计算功能模板140。计算设备可以接收与计算功能相关联的多个输入参数值110-1~110-N。

例如,在针对向量乘法的计算功能时,候选计算功能模板为实现向量乘法的计算功能模板,其可配置参数是运行向量乘法时的分段大小,假设候选取值为[3,4,5]。另一候选计算功能模板为实现向量乘法的另一个计算功能模板,其配置参数是运行向量乘法时所调用的进程数,假设候选取值为[1,2,4]。
image

如上图,为用于生成基于芯片的计算功能的方法的流程图,该过程主要由计算设备130进行实现,包括有卷积、数值计算、字符运算、矩阵运算、向量运算以及加密解密等。根据计算功能的不同,输入参数值110的数量可以进行动态的调整。

例如,在实现矩阵运算的情况下,输入参数值可以对矩阵的规模进行标识;在实现加密运算的情况下,输入参数值可以对加密算法的加密长度进行标识;在实现向量运算的情况下,输入参数值可以对向量长度进行标识等。

因此可以看到,计算设备获取到与计算功能的应用场景、运算规模相关联的输入参数值后,计算功能的方法可以灵活地适用于各种应用场景、运算规模的同时,还可以使得所生成的计算功能可以更优地适用于该特定的应用场景以及运算规模。

之后,计算设备基于输入的参数值确定与计算功能对应的候选计算功能模板。最后,计算设备可以通过机器学习等算法选取不同的参数候取值,通过确定目标计算功能模板140以及其目标取值,来实现基于芯片的计算功能。
image

最后,如上图,为上述装置的示意框图,其主要包括有:输入参数值获取模块310、候选计算功能模板确定模块320以及目标计算功能模板确定模块330。在目标计算功能模板确定模块中还包括有机器学习模块,其可以借助于机器学习算法,来根据输入参数值110和候选计算功能模板确定模块的参数确定目标取值。

以上就是百度发明的基于芯片的计算功能实现方案,该方法能够使得芯片的设计可以动态地适应不同的应用场景和运算规模,并且实现可配置参数动态配置。不仅大大简化了人工实现计算功能模板的难度,也提高了芯片设计尤其是芯片软件开发的效率。

推荐阅读
关注数
12739
内容数
1029
从专利出发,浅析一切关于柔性屏、折叠屏、10倍光学变焦技术等有趣的前沿技术
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息