NVIDIA Technical Blog· Nikshay Shrivastava·· 3 小时前AI 评分22
在 NVIDIA Jetson AGX Orin 上用 cuDLA 运行原生 DLA Python 推理
Run Native DLA Inference in Python on NVIDIA Jetson AGX Orin Using cuDLA
AI 导读
NVIDIA 发布技术博客，介绍如何在 Jetson AGX Orin 上通过 cuDLA 在 Python 中运行原生 DLA 推理。DLA 是专用于深度学习推理的硬件加速器，可承接支持的神经网络算子，将推理负载从 GPU 卸载，从而提升能效。
正文 · AI 翻译
边缘 AI 应用常常需要在有限的计算和功耗预算内运行多个神经网络。NVIDIA 深度学习加速器（DLA）……
边缘 AI 应用常常需要在有限的计算和功耗预算内运行多个神经网络。NVIDIA 深度学习加速器（DLA）平台为深度学习推理提供专用硬件。在 NVIDIA Jetson AGX Orin 上，DLA 执行受支持的神经网络操作，使应用能够将推理工作从 GPU 卸载。这可以提高能效，并留出……
来源：NVIDIA Technical Blog · developer.nvidia.com