简介
概述
**DX-AS（DEEPX All Suite）**是一个集成了框架和工具的环境，使用DEEPX设备实现AI模型的推理和编译。用户可以通过安装各个工具来构建集成环境，但DX-AS通过对齐各个工具的版本来保持最佳兼容性。
组件
DX-COM
DEEPX NPU编译器（DX-COM）根据提供的ONNX文件和配置文件生成NPU命令集。包含生成的命令集和权重的输出文件（graph.dxnn）用于NPU的运行。
DX-RT
DX-RT是使用DEEPX设备进行AI推理的DEEPX运行时SDK。它支持DEEPX模型zoo中的预构建模型以及由DXCOM（DEEPX编译器SDK）编译的模型。
DX-RT提供C/C++ API，允许用户通过调用这些API来开发应用程序。它还提供Python包装器，使用户能够使用Python脚本开发应用程序。
DX-RT包含用于检查模型信息、使用虚拟文件运行基准测试以及监控NPU状态的命令行界面（CLI）命令。
DX-RT使用DX NPU驱动程序通过PCIe接口向NPU发送输入数据并接收模型推理结果。
DX-ModelZoo
DEEPX通过提供DeepX NPU支持的多种神经网络模型的DeepX Open Modelzoo，致力于为开发者提供轻松使用DeepX NPU的体验。
所有主要模型都提供预训练ONNX模型、配置json文件以及名为DXNN（DeepX Neural Network）的预编译二进制文件。
开发者还可以将主要ONNX编译为DXNN，从而实现由DeepX NPU加速的快速应用程序开发。还提供了用于比较DeepX NPU上量化INT8模型与GPU或CPU上全精度FP32模型的综合性能基准工具。
DX-APP
作为使用DX-RT API的示例，用户应用程序示例使用户能够轻松设置运行时环境并快速查看演示。DX-APP利用DEEPX NPU，能够快速演示目标检测、人脸检测和分类等视觉任务的深度学习模型推理。用户可以参考DX-APP代码作为开发自己应用程序的指南。
DX-Stream
DX-Stream是一个GStreamer自定义插件，旨在以GStreamer管道格式简化使用DEEPX NPU的Vision AI应用程序开发。DX-Stream通过提供由DEEPX NPU驱动的模块化管道框架，实现Vision AI应用程序的快速高效开发。可定制的预处理、推理和后处理元素确保了对各种AI场景的灵活性。
DX-AS（DEEPX All Suite）环境和安装指南
AI模型编译环境（编译器平台）
目的
- 必须安装在将执行ONNX模型编译（转换）为我们专有的DXNN（DEEPX格式）的主机上。
核心组件
- DX-COM：将ONNX模型转换为高度优化的NPU就绪二进制文件。
灵活性和支持
- OS：兼容基于Debian的Linux
- 架构：仅支持x86_64
轻松安装
- 单个脚本自动化完整安装过程
- 完成后所有DX-Compiler组件即可使用。
您可以按照此链接的说明安装dx-compiler。
AI模型运行时环境（部署平台）
目的
- 必须安装在连接了DEEPX M1 M.2模块并将执行DEEPX AI模型（.dxnn）的目标系统上。
核心组件
- DX-RT & DX-FW & NPU Driver：NPU控制的基础软件
- DX-APP：快速启动项目的C++和Python示例
- DX-Stream：用于无缝多媒体管道的GStreamer集成
灵活性和支持
- OS：兼容基于Debian的Linux
- 架构：同时支持x86_64和arm64
轻松安装
- 脚本自动化整个过程
- 安装后需要重启一次以完成NPU驱动程序设置
您可以按照此链接的说明安装dx-runtime。