SDK Version: 2.3.3
DX-AllSuite 架构概述
本指南提供了 DXNN (DEEPX Neural Network) SDK 架构、核心模块及支持环境的全面概述。
为什么选择 DX-AllSuite？
DX-AllSuite 将从模型优化到目标硬件部署的复杂流水线整合为单一工作流程。
- 零代码部署: 将在桌面端验证的逻辑直接部署到边缘设备，无需任何代码修改。
- 资源优化: 减少环境配置和系统集成所花费的时间，让您专注于构建高性能 AI 应用程序。
- 端到端解决方案: 在单一软件包中提供模型编译、仿真、运行时执行和监控。
系统架构与核心模块
图. DXNN SDK 完整架构概述。
[1] AI 模型编译环境（主机平台）
该环境将训练好的 AI 模型转换和优化为 DEEPX NPU 专用二进制文件 (.dxnn)。支持 x86_64 PC 环境。
- DX-COM（编译器）: 基于 ONNX 模型和用户配置 (JSON) 文件生成
.dxnn二进制文件的核心编译器。使用专有算法将模型转换为硬件优化指令，同时最大限度减少精度损失，实现低延迟、高效率的推理。 - DX-TRON（可视化工具）: 用于可视化和分析
.dxnn模型结构的 GUI 工具。提供色彩编码的图形，直观显示 NPU 与 CPU 之间的工作负载分配，帮助开发者理解执行流程并优化性能。 - DX-ModelZoo: 针对 DEEPX NPU 优化的预训练模型仓库。通过提供 ONNX 模型、JSON 配置和预编译的
.dxnn二进制文件，允许开发者无需经历编译过程即可立即测试和部署模型。
[2] AI 模型运行时环境（目标平台）
该环境在实际 NPU 硬件上运行优化后的 .dxnn 模型并将其集成到应用程序中。支持 x86_64 和 aarch64 环境。
- DX-RT（运行时）: 与固件和驱动程序交互，在 DEEPX NPU 上运行
.dxnn模型的核心软件。管理模型加载、I/O 缓冲区、推理执行和实时监控，通过 C/C++ 和 Python API 提供灵活控制。 - DX-APP: 基于 DX-RT 构建的示例应用程序。提供关键视觉任务（目标检测、人脸识别、图像分类等）的参考代码，使开发者能够快速使用这些模板构建独特的 AI 应用。
- DX-Stream: 将实时视频数据连接到 DEEPX NPU 推理的 GStreamer 自定义插件。提供覆盖前处理、推理和后处理的模块化管道，针对智能相机等高性能 Vision AI 应用进行了优化。
- 驱动程序 & FW: 支持通过 PCIe 接口进行高速数据通信，管理 NPU 资源调度和电源。确保硬件与软件之间的稳定性，同时最大化硬件潜力，提供无缝的推理环境。
开发工作流程 从训练好的模型到 NPU 加速的路径遵循四个逻辑步骤。
- 步骤 1. 模型准备: 将在 PyTorch 或 TensorFlow 中训练的模型导出为 ONNX 格式。
- 步骤 2. 优化（主机）: 使用 DX-COM 通过量化和硬件优化编译模型，生成
.dxnn文件。 - 步骤 3. 部署（目标）: 将生成的
.dxnn文件传输到目标设备。 - 步骤 4. 执行（目标）: 通过 DX-RT 在 DEEPX NPU 上运行高速推理。
技术兼容性（支持矩阵）
DX-AllSuite 提供与最新操作系统和广泛硬件架构的经验证兼容性，确保开发环境与边缘部署之间的稳定桥接。
图. DX-Compiler & DX-Runtime 支持生态系统。
硬件 & OS（平台）
下表概述了编译（主机）和执行（目标）阶段的支持环境。
| 类别 | DX-Compiler（主机） | DX-Runtime（目标） |
|---|---|---|
| 架构 | x86_64 | x86_64, aarch64 |
| OS | Ubuntu 26.04/24.04/22.04/20.04, Fedora, Redhat, CentOS | Ubuntu 24.04/22.04/20.04, Debian 13/12, Windows 11/10 |
| 语言 | Python 3.8, 3.9, 3.10, 3.11, 3.12, 3.13, 3.14 | Python 3.8 及以上, C++14 及以上（MSVC/Windows 需 C++17） |
模型 & 软件生态系统
支持的 AI 框架 DX-AllSuite 与行业标准框架无缝集成，最大限度减少重构工作。
- 框架: Ultralytics (YOLO), TensorFlow, PyTorch, Keras
- 格式: ONNX（主要交换格式）
全球 AI 生态系统合作伙伴 我们维持强大的技术合作伙伴关系，确保 DXNN SDK 在各种行业领先平台内完美运行。
- 云端 & 平台: AWS (IoT Greengrass), Baidu, DeGirum
- 视觉 & 算法: Ultralytics (YOLO 系列), CVEDIA
- VMS & 安全: Network Optix (Nx), VCA (Applied Intelligence)
- 嵌入式 OS: Wind River (VxWorks)
DEEPX ModelZoo & 支持任务
DEEPX ModelZoo 是一个综合仓库，提供超过 358 个预验证模型。无需手动编译过程，即可在各种硬件配置文件上立即验证性能和精度。
| 任务 | 代表性模型 |
|---|---|
| 图像分类 | ResNet, ResNeXt, MobileNet, EfficientNet (Lite/V2), ViT/DeiT/BEiT, MobileViT, FastViT, CasViT, RegNet, ShuffleNet, VGG |
| 目标检测 | YOLO 系列 (YOLOv3–YOLOv11, YOLOX, YOLO26), SSD, EfficientDet, NanoDet, DamoYOLO |
| 实例分割 | YOLACT, YOLOv5-Seg, YOLOv8-Seg, YOLO26-Seg |
| 语义分割 | DeepLabV3/DeepLabV3+, SegFormer, BiSeNet, UNet |
| 有向目标检测 (OBB) | YOLO26-OBB |
| 零样本实例分割 | FastSAM |
| 人脸检测 | RetinaFace, SCRFD, ULFGED, YOLOv5-Face, YOLOv7-Face |
| 人脸识别 | ArcFace (IResNet50/100, MobileFaceNet, R50) |
| 人脸关键点 | TDDFA v2 (MobileNet 变体) |
| 人脸属性 | FaceAttrResNetV1-18 |
| 姿态估计（人体） | CenterPose, YOLO26-Pose, YOLOv8-Pose |