在前一篇文章已经带着读者创建一个 Triton 的推理模型仓，现在只要安装好服务器端与用户端软件，就能进行基本的测试与体验。
前面有一篇文章详细说明了如何在Jetson Nano上安装YOLOv5，然后运行，这里只需在导出的时候导出engine模型文件支持，命令行如下：
推理模型仓（inference model repository）是 Triton 推理服务器的最基础元件，如同数据库（database）服务器必须先创建一个数据库是类...
引言：尽管本文并不会列出参测Intel__独显的具体规格，甚至照片都不方便出示，但如果您是图形技术的爱好者，相信阅读完了应该会有收获。
与爱立信、Red Hat 和 VMware 合作进行的测试表明，NVIDIA BlueField DPU （数据处理器）可使网络变得更快、更高效。
大部分要学习 Triton 推理服务器的入门者，都会被搜索引擎或网上文章引导至官方的 [链接] 处（如下截图），然后从 “Get Started” 直接安...
云计算的技术内核是分布式计算，而分布的算力，需要高速的网络连为一体。随着数据量越来越大、网络接口速度越来越高，把所有的数据都送...
2022 年 10 月 12 日，首期 NVIDIA DOCA 中国开发者社区有奖征文比赛圆满收官！本次比赛旨在鼓励开发者分享 DPU 和 DOCA 的学习收获，共...
2022 年 10 月 22 日至 23 日，经过紧张激烈的竞赛，第二届 NVIDIA DPU 中国黑客松圆满收官！
前面文章介绍微软 Teams 会议系统、微信软件与腾讯 PCG 服务三个 Triton 推理服务器的成功案例，让大家对 Triton 有初步的认知，但别误...
推理识别是人工智能最重要的落地应用，其他与深度学习相关的数据收集、标注、模型训练等工作，都是为了得到更好的最终推理性能与效果。
在H100发布之际，英伟达还带来一个“重磅产品”——Transformer Engine。在Transformer大火之际推出这么一个产品，无疑是炼丹师福音。
超级计算机用于建模和模拟科学计算中最复杂的过程，通常是为了洞察新发现，否则这些新发现在物理上是不切实际的或不可能演示的。
NVIDIA® TensorRT™ 是一个促进高性能机器学习推理的 SDK。它旨在与 TensorFlow、PyTorch 和 MXNet 等训练框架以互补的方式工作。它特别...
NVIDIA JetPack SDK 是构建 AI 应用的全面解决方案，支持所有 Jetson 模块和开发者套件。
借助 NVIDIA Texture Tools Exporter，用户可以使用 NVIDIA 的 CUDA 加速 Texture Tools 3.0 压缩器技术，直接从图像源创建高度压缩的纹...
在本次 GTC 大会上，NVIDIA 发布了 Jetson Orin Nano 系列的系统级模组（SoM）。其 AI 性能是 NVIDIA Jetson Nano 的 80 倍，成为入门级...
在通常的 CUDA 编程中，用户主要通过 CUDA C/C++ 或 python 语言实现 CUDA 功能的调用。在 NVIDIA 对 CUDA C 的官方支持工具链中，CUDA ...
NVIDIA HPC SDK 包含经过验证的编译器、库和软件工具，对于更大程度提高开发者的工作效率以及 HPC 应用的性能和可移植性至关重要。
随着 Jetson Orin Nano 在本次 GTC 大会的发布，整个 Jetson Orin 模块阵容现已揭晓。凭借高达 40 TOPS 的 AI 性能，Orin Nano 模块为入...
