24

极术小姐姐 · 2023年02月20日 · 北京市

2023 极术通讯- ChatGPT掀AI热潮,AI芯片需求暴增

导读:极术社区推出极术通讯,引入行业媒体和技术社区、咨询机构优质内容,定期分享产业技术趋势与市场应用热点。

芯方向

OpenAI旗下的ChatGPT大火。根据官网自身的介绍(见图1),其是由 OpenAI 提出的大型预训练语言模型,使用了许多深度学习技术,可以生成文本内容,也可以进行文本分类、问答等任务。GPT 与传统的机器学习方法不同,它通过预先训练来学习大量文本数据,然后可以进行各种自然语言处理任务。本文通过ChatGPT来测试IC工程师日常工作中会用到的shell/python/perl/makefile,非常明显得提高了工作效率。阅读全文了解下ChatGPT在IC设计及验证中的应用。(来源:极术社区IC设计专栏)

作为隐私计算的重要分支,机密计算是一种利用硬件可信执行环境 (Trusted Execution Environment, TEE) 保护使用中数据的技术。当前业界主流处理器/芯片均实现了各自的机密计算技术,例如 ARM TrustZone、CCA,Intel SGX、TDX, AMD SEV 等;此外,基于 PCIe TDISP 特性,GPU、DPU 等芯片也在积极构建机密计算环境,如 Nvidia H100 GPU,Nvidia Bluefield、AMD smartNIC 系列 DPU 等。openEuler secGear 机密计算统一开发框架,致力于兼容业界主流 TEE,屏蔽 TEE 差异,对开发者提供统一、简易的开发接口,实现不同架构共源码,使开发者聚焦业务,降低机密计算应用开发维护成本,打通各 TEE 应用生态,助力机密计算生态建设。(来源:极术社区平台安全架构(PSA)专栏)

本文翻译《Arm Mali GPU Best Practices Developer Guide Version 2.2》。优化应用逻辑以减少图形驱动层的负载是非常重要的。CPU是用来处理应用逻辑,驱动图形堆栈(Graph Stack),运行图形驱动的。图形驱动是你需要注意的第一个潜在的性能瓶颈。本文详细介绍了Arm Mali GPU能优化的各个点。(来源:极术社区Arm Mali GPU技术专栏)

最近几年大语言模型(LLM) 获得了越来越多的关注,其中最知名的当属 GPT-3[6] 模型。GPT-3 模型展现了一些大模型才具备的突现能力,其中一项能力就是上下文学习(In-Context Learning)。该能力简单来说就是,对于一个预训练好的大语言模型,迁移到新任务上的时候,只需要给模型输入几个示例(示例输入和示例输出对),模型就能为新输入生成正确输出而不需要对模型做 fine-tuning。这也引发了研究人员对该能力产生原因的思考和探索。本文会首先给读者介绍什么是上下文学习,接着解读一篇最近由微软研究院发布的探索 LLM 上下文学习能力来源的文章。(来源:极术社区嵌入式AI专栏)

在多核异构CPU中,多个内核就如同多个大脑,而外设和内存等资源就如同手足,那么多个大脑该如何控制手足才能保证它们正常有序地运行呢?本文基于OKMX8MP-C开发板为大家带来了多核异构处理器对外设和内存资源的使用方法。(来源:极术社区保定飞凌嵌入式专栏)

芯观察

近期,人工智能聊天机器人ChatGPT用户数不断攀升,从100万到1000万,再到1亿,仅用两个月,刷新了人工智能聊天程序用户数增长的记录。AI聊天机器人需要大规模数据学习和快速运算,对AI芯片的需求将暴增,英伟达、三星电子、SK海力士等都将受益。但是英伟达服务器用AI芯片方案存在发热和功耗过大的问题,谷歌、亚马逊AWS、三星电子、SK海力士、百度等科技巨头厂商也在开发各自的AI专用芯片,试图在提升性能的同时降低功耗,抢占AI芯片新高地。本文对相关情况进行了详细分析。(来源:极术社区芯视野专栏)

在超异构软硬件融合的时代,操作系统等软件可以直接复制现有的软件架构;但要想发挥超异构计算平台的强大性能,底层软件做一些调整也是必然的,而底层软件最核心的是操作系统。那么在超异构计算时代,操作系统架构会有哪些改变?本文作者从经典操作系统综述,操作系统视角看超异构计算架构以及超异构平台软件架构需要解决的若干技术挑战三个大的方面来分享了个人的一些思考。(来源:极术社区软硬件融合专栏)

吉利汽车2022年官方公布的数据是销量1432988辆,同比增长约8%,新能源(含吉利、几何、领克、极氪、睿蓝)方面,2022年全年销量达328727辆,渗透率约23%。本文从吉利2022年主要品牌的情况等来对吉利的多品牌战略进行了详细的分析。(来源:极术社区芝能汽车电子设计专栏)

随着Stable Diffusion、ChatGPT的爆火,AI在今年迎来了大爆发。这不禁让人想问,这些创新背后的推动机制究竟是什么?在MEET2023智能未来大会上,阿里巴巴集团副总裁、阿里云计算平台事业部负责人贾扬清给出了他的答案:AI工程化和开源。工程化,让开发、迭代到应用的路径变得更加高效;开源可以让工作开展更加迅速,实现市场共赢。在这个基础之上,贾扬清还进一步指出了AI产业落地的四大明显趋势:AI工程化平台、异构计算、智能产品和算法开源。本文分享了他的完整演讲。(来源:极术社区嵌入式AI专栏)

经历了三年疫情,2023年流媒体将如何发展?虽然本文主要针对海外市场,但依然值得国内借鉴,比如AIGC、远程制播等领域领先国内许多。本文来自Wowza的解决方案工程副总裁Barry Owen。(来源:极术社区LiveVideoStack专栏)

相关阅读

更多内容可关注极术通讯专栏
推荐阅读
关注数
38723
内容数
99
每周极术社区行业技术热点,市场趋势等分享。
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息