简介
概述
DX-AS (DEEPX All Suite) 是一个集成了框架和工具的统一环境，可使用 DEEPX 设备进行 AI 模型的推理和编译。用户可以通过安装各个工具来构建集成环境，但 DX-AS 通过统一各工具的版本来维持最佳兼容性。
组件
DX-COM
DEEPX NPU 编译器 (DX-COM) 根据提供的 ONNX 和配置文件生成 NPU 命令集。包含生成的命令集和权重的输出文件 (graph.dxnn) 用于 NPU 的运行。
DX-RT
DX-RT 是使用 DEEPX 设备进行 AI 推理的 DEEPX 运行时 SDK。它支持来自 DEEPX 模型库的预构建模型和由 DXCOM (DEEPX 编译器 SDK) 编译的模型。
DX-RT 提供 C/C++ API，允许用户通过调用这些 API 来开发应用程序。它还提供 Python 包装器，使用户能够使用 Python 脚本开发应用程序。
DX-RT 包含用于检查模型信息、使用虚拟文件运行基准测试以及监控 NPU 状态的 CLI 命令。
DX-RT 使用 DX NPU 驱动程序通过 PCIe 接口向 NPU 发送输入数据，并接收模型推理结果。
DX-ModelZoo
DEEPX 旨在通过提供多种 DeepX NPU 支持的神经网络模型的 DeepX Open Modelzoo，为开发者提供轻松使用 DeepX NPU 的体验。
所有主要模型均提供预训练的 ONNX 模型、配置 JSON 文件以及名为 DXNN (DeepX Neural Network) 的预编译二进制文件。
开发者还可以将主要 ONNX 编译为 DXNN，从而实现由 DeepX NPU 加速的快速应用程序开发。提供了全面的性能基准测试工具，用于比较 DeepX NPU 上量化 INT8 模型与 GPU 或 CPU 上全精度 FP32 模型的性能。
DX-APP
作为 DX-RT API 的使用示例，用户应用程序示例允许用户轻松设置运行时环境并快速查看演示。DX-APP 利用 DEEPX NPU 实现视觉任务（如目标检测、人脸检测和分类）的深度学习模型推理的快速演示。用户可以参考 DX-APP 代码作为开发自己应用程序的指南。
DX-Stream
DX-Stream 是一个 GStreamer 自定义插件，旨在简化使用 DEEPX NPU 以 GStreamer 管道格式开发 Vision AI 应用程序的过程。DX-Stream 通过提供由 DEEPX NPU 驱动的模块化、基于管道的框架，实现 Vision AI 应用程序的快速高效开发。可自定义的前处理、推理和后处理元素确保了各种 AI 场景的灵活性。
DX-AS (DEEPX All Suite) 环境与安装指南
AI 模型编译环境（编译器平台）
目的
- 必须安装在将执行 ONNX 模型到专有 DXNN (DEEPX 格式) 转换（编译）的主机上。
核心组件
- DX-COM: 将 ONNX 模型转换为高度优化的、NPU 就绪的二进制文件。
灵活性与支持
- OS: 与基于 Debian 的 Linux 兼容
- 架构: 仅支持 x86_64
简易安装
- 我们的单一脚本自动化完整的设置过程。
- 完成后所有 DX-Compiler 组件即可使用。
可通过此链接的说明安装 dx-compiler。
AI 模型运行时环境（部署平台）
目的
- 必须安装在连接了 DEEPX M1 M.2 模块并将运行 DEEPX AI 模型 (.dxnn) 的目标系统上。
核心组件
- DX-RT & DX-FW & NPU 驱动程序: NPU 控制的基础软件
- DX-APP: 用于快速启动项目的 C++ 和 Python 示例
- DX-Stream: 用于无缝多媒体管道的 GStreamer 集成
灵活性与支持
- OS: 与基于 Debian 的 Linux 兼容
- 架构: 同时支持 x86_64 和 arm64
简易安装
- 我们的脚本自动化整个过程。
- 安装后需要一次重启以完成 NPU 驱动程序设置。
可通过此链接的说明安装 dx-runtime。