【嘉勤点评】壁仞科技的人工智能芯片专利,通过减少对芯片内存的读写次数,有效缩减人工智能芯片的操作时延,并且提高了兼容性,使集合通信能够更加有效率地进行。
集微网消息,近日,壁仞科技的首款通用GPU—BR100正式交付开始流片,搭载该芯片的系列通用计算产品,主要聚焦于人工智能训练和推理、通用运算等众多计算应用场景,将弥补人工智能应用的高速发展带来的巨大算力缺口。
在当前的多芯片集群并行计算领域,工业界普遍使用集合通信方案来实现多个节点间共享数据和传输数据的操作。当前的集合通信中,“节点1的芯片A发送数据给节点2的芯片B”的过程分为四个步骤。首先节点1上的芯片A把数据发送到节点1的系统内存。然后向网卡发送网络请求,网卡从系统内存读入数据,并发送到节点2的网卡。之后节点2的网卡收到数据并存储到系统内存中。最后芯片B从系统内存中读入数据。对集合通信的性能进一步优化,是本领域的诸多技术课题之一。
为此,壁仞科技于2021年6月11日申请了一项名为“人工智能芯片及其操作方法”的发明专利(申请号: 202120655700.4),申请人为上海壁仞智能科技有限公司。
图1 人工智能芯片电路方块示意图
图1为本发明提出的人工智能芯片的电路方块示意图,人工智能芯片200可以通过总线40连接至网卡30。根据实际设计,总线是高速周边组件互连总线或是其他总线。芯片可以从网卡接收数据串。
人工智能芯片包括处理电路210以及芯片内存220,处理电路耦接芯片内存。具体来说,处理电路可接收从网卡所提供的携带有第一数据及逻辑地址的命令,当处理电路判断逻辑地址是指向第一地址空间时,处理电路可判断逻辑地址指向第一地址空间中多个区段的哪一个,进而确定命令所对应的数据类别和/或操作类别。并且,处理电路可通过确定逻辑地址所指向第一地址空间的对应区段中的偏移量来确定芯片内存的物理地址。进一步,处理电路还能在第一数据未被存储至芯片内存的情况下,根据逻辑地址读取芯片内存的物理地址以取得第二数据。处理电路可根据第一数据及第二数据产生运算结果后,将运算结果根据逻辑地址写入芯片内存的物理地址。
如此一来,人工智能芯片可以在接收到命令时,根据逻辑地址确定出命令所对应地数据类别和/或操作类别。故可在第一数据未被写入的情况下,根据数据类别和/或操作类别来对第一数据及第二数据进行运算,并将运算结果写入芯片内存中。
简而言之,壁仞科技的人工智能芯片专利,通过减少对芯片内存的读写次数,有效缩减人工智能芯片的操作时延,并且提高了兼容性,使集合通信能够更加有效率地进行。
壁仞科技致力于研发原创性的通用计算体系,建立高效的软硬件平台,同时在智能计算领域提供一体化的解决方案。秉承着“中国芯”梦想,壁仞团队一直向着对标国际最领先产品的目标出发,短时间内从底层架构开始,实现完全原创。
关于嘉勤
深圳市嘉勤知识产权代理有限公司由曾在华为等世界500强企业工作多年的知识产权专家、律师、专利代理人组成,熟悉中欧美知识产权法律理论和实务,在全球知识产权申请、布局、诉讼、许可谈判、交易、运营、标准专利协同创造、专利池建设、展会知识产权、跨境电商知识产权、知识产权海关保护等方面拥有丰富的经验。
(校对/holly)