NVIDIA英伟达嵌入式系统 · 2023年04月10日 · 北京市

使用 NVIDIA IGX Orin 开发套件加速边缘 AI 之旅

0407.jpg
想象一下,你即将开启一生难忘的山地自行车冒险之旅。计划已经完成,相应的训练也基本到位,当下所需要的就是一辆完美的自行车。你需要好的减震器、轮胎、刹车、车架、车把和座椅。假设所有这些部件都集中在一个包裹中,并且预先组装在了一起,从而为你节省时间和花费。

NVIDIA IGX Orin 为边缘 AI 应用程序开发人员提供了类似的工具包:一个优化的一体式平台。NVIDIA IGX Orin 是第一个将工业级硬件与企业级软件相结合,并支持边缘 AI 管理的平台。

2.png

图 1 硬件和企业级软件工作流程,以确保安全的边缘 AI 管理

NVIDIA IGX Orin 让公司能够转向软件定义的模型,从而提高开发速度、降低成本,而不是浪费宝贵的资源拼凑平台来运行或开发 AI 应用程序。

NVIDIA IGX Orin 专为工业和医疗环境打造,为开发人员提供边缘 AI 所需的性能、耐用性、安全性和安全功能。

NVIDIA IGX Orin 开发套件

一体式 NVIDIA IGX Orin 开发者套件配有机箱和电源,可帮助启动或加速边缘 AI 应用程序开发,主要功能如下所述。

硬件

  • IGX Orin 模块:工业级;已认证就绪
    CPU :12 核 Arm
    GPU :NVIDIA Ampere 1024 CUDA ,64 Tensor
    硬件安全扩展
    功能安全岛
  • NVIDIA ConnectX-7 智能网络接口卡(SmartNIC)提供 200Gb/s 的网络速度,非常适合接收高帧率视频
  • 用于固件更新的 NVIDIA 基板管理控制器(BMC)
  • 安全 MCU
    与功能安全岛(FSI)和安全扩展包软件携手合作
    监控 IGX 和机箱环境的电压、温度、风扇和速度
  • 机箱,包括冷却风扇
  • 电源装置
  • 附件(用于连接的各种电缆)

软件

  • NVIDIA AI SDK
    NVIDIA Metropolis
    NVIDIA Holoscan
  • 安全扩展包
  • 商业操作系统集成
  • Canonical,红帽

更多有关信息,请参阅 NVIDIA IGX product specifications

关键用例

许多领先的工业和医疗公司目前正在使用 NVIDIA IGX Orin 将 AI 应用于其运营和解决方案中。继续阅读,了解更多关于在 NVIDIA IGX 平台上开发的一些关键用例信息。

工业安全:预防工作场所的险情

随着机器与人类互动的增加,特别是在仓库和制造环境中,functional safety 变得至关重要。更多详细信息,请参见全新 NVIDIA IGX 平台帮助创建安全、自动化的未来工厂

Reactive safety 是自主机器的标准规定,当出现安全威胁或事件时,会减慢或关闭机器。这会减轻对相关人员造成的伤害,但停机时间的成本也非常昂贵。

除了支持 reactive safety 功能外,NVIDIA IGX Orin 还使公司能够构建 proactive safety,以防止危险事件的发生。Proactive safety 的运作类似早期检测和响应系统,通过控制面板来监督自主机器集群。

Proactive safety 包括在事件发生前识别安全隐患,采取适当措施,保护工人,最小化停机时间和相关成本。以下提供了一些 proactive safety 的具体示例。

  • PPE detection:可以训练 AI 模型,以帮助监测和检测个人防护装备(PPE)的适当使用。
  • Barrier breaches:启用 AI 的摄像头和传感器可以识别及分类物体和人,以确定是否存在安全或安保威胁,并提示采取适当的安全措施。
  • Collision detection:AI 可以分析实时视频和图像处理,以确定机器和人类的运动是否可能导致碰撞,然后采取安全措施避免事故发生。

NVIDIA IGX Orin 和 NVIDIA Metropolis SDK 的结合为开发人员提供了强大平台,加速功能安全 AI 应用程序开发,并管理自主机器集群。

工业自动化:更快、更准确、更高效的供应链

低效的供应链加上劳动力短缺,对公司满足需求和保持客户满意度的能力产生了深远的负面影响。对更高效的供应链的迫切需求,带来了 AI 解决方案的快速发展。

例如,履行中心在公司的供应链中发挥着关键作用。使用 NVIDIA IGX Orin 、 NVIDIA Metropolis SDK 和 NVIDIA Omniverse 可以将低效的供应链转化为面向未来、适应性强的运营。可以开发 AI 应用程序以产出高质量的感知数据,为实时决策提供信息,从而提高运营效率。请参阅下面的几个例子。

  • Industrial inspection:AI 模型被训练来检测和分类物体,并识别去除缺陷产品。
  • Predictive maintenance:通过对周围环境、故障检测和机器/机器人性能的数据分析,AI 可以预测设备何时可能需要主动维护,以避免停机。
  • Field inspection:图像识别和处理与自动报告相结合,使现场检查更加准确、安全和高效。

通过分析来自传感器或其他来源的数据,可以在 AI 的帮助下检测甚至消除生产中的瓶颈。

医疗设备:在临床边缘实时处理流式数据

医疗设备制造商正在采用新的 AI 功能,以加速 TTM 并降低开发和维护成本。利用 AI 计算平台可以在以下方面赋能医疗设备开发人员:

  • 更快地训练医学 AI 模型
  • 构建和微调医疗 AI 应用程序
  • 核实和验证医疗级应用程序
  • 安全地部署到临床生产

使用 NVIDIA IGX Orin 和 NVIDIA Holoscan SDK,开发人员可以大大加快 AI 应用程序和 AI 医疗设备的开发。NVIDIA Clara Holoscan 是一个在 NVIDIA IGX Orin 上运行的实时 AI 计算平台,用于高精度 AI、高级别安全和 proactive safety。下面列出了 NVIDIA IGX Orin 和 NVIDIA Clara Holoscan 的一些早期用例。

开始着手

无论是在规划阶段、起始阶段,还是在边缘 AI 之旅的中途,NVIDIA IGX Orin 开发套件都会让你更快到达目的地。立即获取 NVIDIA IGX Orin 开发套件

推荐阅读
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息