2024 极术通讯-Arm 推出新一代 Ethos-U AI 加速器及全新物联网参考设计平台

导读：极术社区推出极术通讯，引入行业媒体和技术社区、咨询机构优质内容，定期分享产业技术趋势与市场应用热点。

芯方向

Neoverse S3 系统 IP 为打造机密计算和多芯粒基础设施 SoC 夯实根基

Arm Neoverse S3 作为针对基础设施的第三代系统 IP，旨在支持高性能计算、机器学习、边缘计算和显示处理单元等应用领域。S3 设计引入了芯粒技术和机密计算，提供了对 UCIe、DDR5、CXL 3.1 和 PCIe Gen5/Gen6 等行业标准的支持。主要特性包括 Realm Management Extension (RME) 功能以实现数据保护，以及与 Arm 机密计算架构 (CCA) 兼容。此外，S3 支持 PCIe Gen6、CXL 3.1、DDR5 和 HBM3，通过标准化芯粒接口和开发工具包，实现了与 Arm CPU 的协同工作。（来源：极术社区Arm技术博客专栏）

大模型推理核心技术之Continuous Batching和我的WXG往事

Continuous Batching现已成为大型模型推理框架的关键技术，也是框架性能优化的主战场。通过将多个在线请求进行批处理（Batching），可以提高 GPU 的使用效率。（来源：极术社区嵌入式AI专栏）

一文读懂Memory consistency model (内存模型)

Memory consistency model又称Memory model (内存模型)，定义了使用Shared memory(共享内存)执行多线程(Multithread)程序所允许的行为规范。Memory model定义了软硬件接口规范，以便程序员预测硬件的行为以及硬件实现者知道可以使用什么样的优化，消除软硬件在配合上的歧义。（来源：极术社区IC设计专栏）

在 Arm 平台上进行 SPDK NVMe over TCP 优化

本文介绍了 SPDK、SPDK NVMe over TCP 以及如何对其进行优化，其中包括系统配置优化、数据局部性优化、内存零拷贝优化和功耗优化。它们可用于解决对性能至关重要的存储问题。（来源：极术社区Infrastructure开源软件 on Arm专栏）

边聊安全 | 人机交互对功能安全的影响

HMI，Human Machine Interface，也就是大家熟知的人机接口。智能车机的出现使HMI变成重要的用户体验/驾驶乐趣的一部分。但是，车机作为众多功能的入口以及众多信息的输出口，它的故障最容易被诟病，除了影响用户体验，有些功能的丢失也可能带来安全隐患。在这样的背景下，HMI的功能安全也是开发过程中不可以忽略的一部分。（来源：极术社区平台安全架构(PSA)专栏）

芯观察

Arm 推出新一代 Ethos-U AI 加速器及全新物联网参考设计平台

Arm近日宣布推出Arm® Ethos™-U85 神经网络处理器 (NPU)，是 Arm 迄今性能最高且能效最佳的 Ethos NPU 产品，以及全新物联网参考设计平台——Arm Corstone™-320，以加速实现语音、音频和视觉系统的部署。（来源：极术社区安谋科技专栏）

安谋科技Alex Shang：AI大模型时代的智能物联创新应用

本文为极术社区大模型公开课回放视频，由安谋科技智能物联业务线业务发展与方案总监Alex Shang分享。公开课探讨了大模型及生成式AI出现对智能物联带来的挑战和机遇，并分享了相应的创新应用及芯片解决方案。（来源：极术社区极术公开课回放及PPT下载专栏）

大模型对汽车行业意味着什么？

从技术驱动的变革到产业生态的重构，再到对从业者角色与技能的重新定义，大模型不仅加速了汽车智能化的进程，而且彻底颠覆了传统的开发流程与产业链条。在智能驾驶、智能座舱等领域，大模型已成为核心推动力，促使汽车产品朝向高度自主、智能化的方向进化。与此同时，随着大模型在行业内的广泛应用，数据隐私与安全问题的重要性愈发凸显，这对从业人员提出了更高的技术和伦理要求，也打开了新的职业领域和发展机遇。（来源：极术社区汽车电子与软件专栏）