跳转到主要内容

DXNN - DEEPX NPU SDK

DX-AllSuite (DEEPX All Suite) 是一个一体化软件平台,旨在简化在 DEEPX NPU 上编译、优化和部署 AI 推理应用程序的整个过程。从模型创建到实际的"物理 AI (Physical AI)"部署,它提供完整的工具链,确保最佳兼容性和强大的硬件性能。

Full Architecture Overview

DXNN SDK Full Architecture Overview

Figure. DXNN SDK Full Architecture Overview.

Key Features

  • 高效率 (High Efficiency): 搭载专有的 DX-COM 编译器,可 100% 发挥 NPU 性能。利用先进的量化技术(INT8 智能量化),在最小化精度损失的同时最大化推理速度。
  • 无缝集成 (Seamless Integration): 可以构建集成预处理、推理和后处理工作流的智能视频分析流水线。使用 DX-Stream(基于 GStreamer 的自定义插件),无需大量代码修改即可部署复杂的视觉任务。
  • 灵活的生态系统 (Flexible Ecosystem): 全面支持 Python & C++ API,提供包含 270 多个优化模型的 ModelZoo。作为开源 Physical AI 联盟的领导者,为主要框架提供流畅的工作流。

Getting Started

DX-AllSuite 根据用途提供两种环境。请选择适合您需求的环境开始使用。

AI Model Compile Environment (Host PC)

用于将训练好的 AI 模型转换和优化为 DEEPX NPU 专用二进制文件的环境。

  • Arch: x86_64
  • OS: Ubuntu 24.04 / 22.04 / 20.04 (LTS), Fedora, Redhat, CentOS
  • Hardware: x86_64 Host PC
  • Software: Python 3.8~3.12, CUDA (Optional for simulation)
  • Key Tasks: 编译 AI 模型 (.onnx)、量化 (Quantization)、生成 .dxnn 文件
  • Action: DX-Compiler Local Installation Guide [Link]

AI Model Runtime Environment (Target Device)

在物理搭载 DEEPX NPU 的设备上进行推理并运行应用程序的环境。

  • Arch: x86_64, aarch64
  • OS: Ubuntu 24.04 / 22.04 / 20.04 / 18.04 (LTS), Debian 13 / 12
  • Hardware: Host PC / Target Board (必须安装 DEEPX NPU)
  • Software: Python 3.8+
  • Key Tasks: 执行 .dxnn 模型、实时数据推理、资源管理
  • Action: DX-Runtime Installation Guide [Link]
需要激活

安装后,必须重启系统以将 NPU 驱动程序正确加载到内核中。

sudo reboot

Supported Models

DX-AllSuite 支持广泛的行业标准 AI 架构,这些架构经过优化,可在我们的 NPU 上实现最佳性能。

  • 图像分类 (Image Classification): AlexNet, ResNet/ResNeXt/WideResNet, MobileNet, EfficientNet (Lite/V2), ViT/DeiT/BEiT, MobileViT, FastViT, CasViT, RegNet, ShuffleNet, VGG, etc.
  • 目标检测(Object Detection): YOLO Series (YOLOv3–YOLOv11, YOLOX, YOLO26), SSD, EfficientDet, NanoDet, DamoYOLO
  • 分割 (Segmentation): DeepLabV3/DeepLabV3+, SegFormer, BiSeNet, UNet, YOLACT, 以及基于 YOLO 的分割变体 (YOLOv5/YOLOv8/YOLO26)
  • 高级视觉任务 (Advanced Vision Tasks): 人脸分析(检测、识别、关键点、属性)、人体/手部姿态估计、低光照增强、图像去噪、超分辨率 (Super Resolution)、深度估计、旋转目标检测 (OBB)、零样本实例分割、人物属性分析
Tip

无需自己编译模型,您可以从 DEEPX ModelZoo 下载即用的二进制文件,其中准备了 270 多个优化模型。

Documentation Navigation

如果是首次使用,建议按以下顺序查看文档。

Support

DEEPX 技术支持团队致力于帮助您构建顺畅的 AI 解决方案