27

极术小姐姐 · 5月14日 · 黑龙江

2024 极术通讯- 抢占端侧大模型部署制高点,NPU将为端侧提供关键动力

导读:极术社区推出极术通讯,引入行业媒体和技术社区、咨询机构优质内容,定期分享产业技术趋势与市场应用热点。

芯方向

Keil MDK 第六版现已全面推出

Keil MDK第六版于近期全面发布,它主要针对Cortex-M和Arm Ethos-U处理器进行了优化,支持MLOps工作流程和Arm虚拟硬件验证。新特性包括基于Visual Studio Code的Keil Studio开发平台,免费使用的MDK中间件,CMSIS工具箱,以及Arm虚拟硬件平台。此外,它还引入了基于用户的授权许可简化授权过程。(来源:极术社区Arm技术博客专栏)

在GPU上加速RWKV6模型的Linear Attention计算

本文探讨了在GPU上加速RWKV6模型的Linear Attention计算的方法,包括使用flash-linear-attention库和RWKV-CUDA自定义高性能CUDA kernel。通过对比naive实现、RWKV-CUDA和flash-linear-attention中的实现,展示了Triton在LLM时代开发中的趋势和优势。同时,文章还介绍了使用PyTorch Profiler TensorBoard插件进行性能分析的方法,并提供了相关代码和性能测试结果。最后,作者分享了flash-rwkv库的开发迭代历程和未来优化方向。(来源:极术社区嵌入式AI专栏)

AI 加持,Arm 车载算力全面升级

AI技术在汽车行业的应用推动了数字化转型,带来高算力需求和研发复杂性。Arm新推出汽车增强 IP 和汽车计算子系统 (CSS),与合作伙伴共建虚拟原型平台和全栈软件解决方案,以应对挑战,推动AI汽车高效开发和技术创新。(来源:极术社区极术公开课订阅专栏)

分享一个软硬件开源的低功耗时钟项目

本文分享了一款基于AVR128DA48的超低功耗LCD时钟项目,可使用CR2032电池或太阳能电池供电三年以上。它采用片上温度传感器,I2C接口可连接外部传感器,同时使用单片机定时器实现时钟功能,节省成本。作者进行了不同频率下的功耗测试,并开源了软硬件资料。(来源:极术社区嵌入式客栈专栏)

创客项目秀|基于树莓派Rasberry Pi的桌面机器人 - MBO

BMO-AI是一款基于树莓派Raspberry Pi 3B+的3D打印桌面机器人,原型来自动漫Adventure Time中的MBO角色。它利用Raspbian Bullseye操作系统、Adafruit CRICKIT Hat进行伺服电机控制和信号输入,具有四个关节点和5英寸显示屏,可显示面部表情和图像。BMO-AI还集成了多种AI功能,包括语音描述绘制图片、生成描述性图像等。本文详细介绍了该机器人项目的软硬件设计。(来源:极术社区柴火创客空间专栏)

芯观察

安谋科技杨磊:抢占端侧大模型部署制高点,NPU将为端侧提供关键动力丨GenAICon 2024

近期智东西举办了2024中国生成式AI大会,安谋科技产品总监杨磊受邀发表了演讲。他强调了NPU在端侧大模型部署中的关键作用。随着AI任务处理从云侧向端侧迁移,NPU作为端侧AI应用的核心算力资源,将为大模型的分布式落地演进提供核心动力。杨磊预测,未来两年,不论是高价位手机还是性价比优良的千元机,都有望具备本地部署AI大模型的硬件计算能力。此外,杨磊还提到,异构计算是端侧大模型部署的最优解决方案,安谋科技将打造一体化、高质量的异构计算IP平台,推动AI大模型在端侧设备加速落地。(来源:极术社区智东西专栏)

2024北京车展 - 中国汽车的智能化怎么样了?

2024北京车展聚焦中国汽车智能化进展,展示了智能座舱、GPT应用、智能驾驶安全技术、端到端大模型方案、智能硬件与中央算力平台等创新技术与应用。智能语音控制和AEB系统备受关注,高通和英伟达等芯片厂商竞争激烈。合资品牌如大众也加入智能化潮流,但燃油车架构限制了部分功能。中国汽车行业正面临同质化竞争,未来会更注重差异化产品定位和技术创新。(来源:极术社区Vehicle公众号专栏)

荣威RX5 MAX版智驾域控制器拆解分析

荣威RX5 MAX版域控制器采用创时智驾设计方案,主控SOC为德州仪器DRA829,支持多种智能辅助驾驶功能。存储芯片包括三星EMMC和DDR4,解串器为美信MAX96718和MAX96722,以太网芯片为恩智浦JA1101A,电源管理芯片包括德州仪器TPS6594、美信MAX20087和LM5143,CAN总线驱动芯片为恩智浦TJA1043。DRA829处理器基于Jacinto™ 7架构,面向ADAS和AV应用,具有高性能计算、深度学习引擎、信号和图像处理专用加速器等特性,支持多种传感器数据实时处理和融合,具备高速数据传输和存储能力,配备高性能AI处理器进行实时决策与规划,并具备多重安全机制。(来源:极术社区汽车电子与软件专栏)

相关阅读

更多内容可关注极术通讯专栏
推荐阅读
关注数
31787
内容数
97
每周极术社区行业技术热点,市场趋势等分享。
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息