当前,随着摩尔定律的逐渐走向极限,芯片制造业已经跨越了3纳米节点,正朝着2纳米的方向迈进。这一技术演进带来的不仅仅是节点尺寸的缩...
在经历了2023年的艰难时期后,许多调研机构和大型企业原本对2024年的半导体销售展望颇为乐观。然而,现实情况却令人担忧。频频发生的裁...
AMD CEO Lisa Su(苏姿丰)绝对称得上是芯片届的风云人物,尤其是进入了AI新时代,她的声望达到了十年来最高点。
PCIe作为高速串行计算机扩展总线标准,现如今早已普及到每一台PC当中,不论是普通用户还是专业人士,不论是大型公司还是小型企业,都在...
近日,恩智浦与世界先进宣布,计划耗资78亿美元在新加坡建造一座新的芯片工厂,预计将于2027年投入使用。投入运营后,每月将能够生产规...
近年来,智能化逐渐成为电子产品的主流需求,MCU作为衔接物理世界与数字世界的桥梁,在汽车电子、工业控制、新能源、智能生活等诸多领域...
LLMs(大型语言模型)能够记忆并重复它们的训练数据,这可能会带来隐私和版权风险。为了减轻记忆现象,论文作者引入了一种名为"goldfish...
或许很多人不知道,其实我们每个人体内都存在癌细胞。 人体每天都在进行着数十亿甚至上百亿细胞的新生与更替,在这个代谢过程中,DNA 复...
这段时间对头部企业的端到端的量产方案和战略计划做了些调研,基本上现在可量产或者已量产的都是分段端到端的方案,完全端到端计划在2-3...
内存泄漏问题只有在使用堆内存的时候才会出现,栈内存不存在内存泄漏问题,因为栈内存会自动分配和释放。C代码中堆内存的申请函数是mall...
高速的数据传输速率和实时功能是电子设备的目标。这些共同的目标推动了电子设备不仅需要高速运行,而且还需要提供快速响应和实时性能,...
然而,目前在移动设备上运行的模型相对较小(苹果的是3B,谷歌的是2B),并且消耗大量内存,这在很大程度上限制了其应用场景。
在进行FPGA设计时候,除了一些算法\验证等应用,其他情况下都需要FPGA和控制器进行数据交互(通信)。
深度学习领域所谓的“模型”,是一个复杂的数学公式构成的计算步骤。为了便于理解,我们以一元一次方程为例子解释:
在这发展的时代中,小王是一名行业TOP的电商企业老板。他的企业也和其他的一样,用上了云产品、云服务。然而,小王逐渐发现,自家原本的...
“算力”作为当代生产力的象征,已经成为业界的普遍认同。数据中心基础设施,尤其是算力服务器,作为数据要素的核心载体和产业融合的桥梁...
由于LLM参数量都是在亿级以上,少则数十亿,多则数千亿。当我们想在用特定领域的数据微调模型时,如果想要full-tuning所有模型参数,看...
6月17日,中国电信以“智领云端,逐梦低空”为主题,在江苏南京举办了“中国电信低空经济合作发展大会”。大会期间,中国电信低空经济产业联...
GPU很好,但不是大模型的全部。远比GPU诞生更早的中央处理器芯片——CPU,它在大模型中的地位可能被远远低估了。
现有的RAG解决方案可能因为最相关的文档的嵌入可能在嵌入空间中相距很远,这样会导致检索过程变得复杂并且无效。为了解决这个问题,论文...
过去的一年多,大模型风起云涌,不断迭代,作为一个多年 NLP 产品方向的从业者,可以说是享受其中,惊喜连连。记得22年底,那时疫情放开...
金融,是关乎老百姓钱袋子的国民经济血脉,更是国家核心竞争力的重要组成部分。AI,是当之无愧最具「活力」的行业,也是千行百业革故鼎...
随着科技的不断进步,智能驾驶技术作为汽车行业的重要发展方向,正在深刻改变着人们的出行方式和交通生态。中国作为全球最大的汽车市场...
在智能汽车和电动汽车日益普及的今天,汽车SoC(系统级芯片)成为了推动汽车行业变革的关键技术。作为汽车的大脑,SoC芯片不仅影响着车...
对于有经验的老司机来说,写代码都会注重代码的可移植性,目的除了方便他人之外,主要还是方便自己,避免自己给自己留下坑。
在几个月前nv就发表过关于fp8数制训练和推理的白皮书,大概三四个月前公开了他们针对transformer模型的fp8训练的软件库TransformerEngin...
Interrupt Handling for HPMicro RISC-V MCU(Andes RISC-V IP Core) - Direct Address Mode and Vector Mode.
经过改革开放40多年的快速发展,我国港口和航道发展取得重大成就,不仅基础设施规模世界领先,服务保障能力、治理能力持续提高,同时数...
住房是人类福祉和社会发展的重要组成部分,住房价格波动受到社会的广泛关注。中国是一个地域跨度极广的国家,即使是在同一个城市的同一...
机器学习运维(MLOps)是一组用于自动化和简化机器学习(ML)工作流程和部署的实践。所选择的部署策略可以显著影响系统的性能和效用。所...