はじめに
概要
**DX-AS (DEEPX All Suite)**は、DEEPXデバイスを使用してAIモデルの推論とコンパイルを可能にするフレームワークとツールの統合環境です。個別のツールをインストールして統合環境を構築することもできますが、DX-ASは個別ツールのバージョンを統一することで最適な互換性を維持します。
コンポーネント
DX-COM
DEEPX NPUコンパイラ（DX-COM）は、提供されたONNXファイルと設定ファイルからNPU命令セットを生成します。生成された命令セットと重みを含む出力ファイル（graph.dxnn）はNPUの動作に使用されます。
DX-RT
DX-RTは、DEEPXデバイスを使用したAI推論のためのDEEPXランタイムSDKです。DEEPXモデルzooの事前構築済みモデルと、DXCOM（DEEPXコンパイラSDK）でコンパイルされたモデルをサポートします。
DX-RTはC/C++ APIを提供し、ユーザーはこれらのAPIを呼び出してアプリケーションを開発できます。またPythonラッパーも提供しており、Pythonスクリプトを使用したアプリケーション開発も可能です。
DX-RTはモデル情報の確認、ダミーファイルによるベンチマーク実行、NPUステータスの監視のためのCLIコマンドを含みます。
DX-RTはDX NPUドライバを使用してPCIeインターフェース経由でNPUに入力データを送信し、モデル推論結果を受信します。
DX-ModelZoo
DEEPXは、DeepX NPUがサポートする多様なニューラルネットワークモデルを提供するDeepX Open Modelzooを通じて、開発者がDeepX NPUを容易に活用できるよう努めています。
全ての主要モデルは、事前学習済みONNXモデル、設定jsonファイル、DXNN（DeepX Neural Network）という名称の事前コンパイル済みバイナリとともに提供されます。
開発者は主要ONNXをDXNNにコンパイルすることで、DeepX NPUで加速された迅速なアプリケーション開発が可能です。DeepX NPUでの量子化INT8モデルとGPU/CPUでのフル精度FP32モデルを比較するための包括的なパフォーマンスベンチマークツールも利用可能です。
DX-APP
DX-RT APIの使用例として、ユーザーアプリケーション例を通じてランタイム環境を簡単に構築し、デモを素早く確認できます。DX-APPは、DEEPX NPUを活用して物体検出、顔検出、分類などのビジョンタスクのディープラーニングモデル推論を迅速にデモできます。ユーザーはDX-APPコードを独自アプリケーション開発のガイドとして参照できます。
DX-Stream
DX-StreamはGStreamerパイプライン形式でDEEPXのNPUを使用したVision AIアプリケーション開発を簡素化するために設計されたGStreamerカスタムプラグインです。DX-StreamはDEEPXのNPUを利用したモジュール式パイプラインベースのフレームワークを提供し、Vision AIアプリケーションの迅速で効率的な開発を実現します。カスタマイズ可能な前処理、推論、後処理要素により、様々なAIシナリオへの柔軟な対応が可能です。
DX-AS (DEEPX All Suite) 環境とインストールガイド
AIモデルコンパイル環境（コンパイラプラットフォーム）
目的
- ONNXモデルを独自のDXNN（DEEPX形式）にコンパイル（変換）するホストマシンにインストールする必要があります。
コアコンポーネント
- DX-COM: ONNXモデルを高度に最適化されたNPU実行バイナリに変換します。
柔軟性とサポート
- OS: DebianベースのLinux対応
- アーキテクチャ: x86_64のみサポート
簡単インストール
- 単一スクリプトで全セットアップ工程を自動化します
- 完了後、全DX-Compilerコンポーネントがすぐに使用できます。
リンクの手順に従ってdx-compilerをインストールできます。
AIモデルランタイム環境（デプロイメントプラットフォーム）
目的
- DEEPX M1 M.2モジュールが取り付けられ、DEEPX AIモデル（.dxnn）が実行されるターゲットシステムにインストールする必要があります。
コアコンポーネント
- DX-RT & DX-FW & NPU Driver: NPU制御のための基盤ソフトウェア
- DX-APP: プロジェクト開始を加速するC++とPythonのサンプル
- DX-Stream: シームレスなマルチメディアパイプラインのためのGStreamer統合
柔軟性とサポート
- OS: DebianベースのLinux対応
- アーキテクチャ: x86_64とarm64の両方をサポート
簡単インストール
- スクリプトが全工程を自動化します
- NPUドライバのセットアップ完了のために、インストール後に1回の再起動が必要です
リンクの手順に従ってdx-runtimeをインストールできます。