DX-AllSuite Architecture Overview

このガイドでは DXNN (DEEPX Neural Network) SDK のアーキテクチャ、コアモジュール、およびサポートされている環境について包括的な概要を説明します。

Why DX-AllSuite?

DX-AllSuiteは、モデルの最適化からターゲットハードウェアへのデプロイまでの複雑なパイプラインを**シングルワークフロー（Single Workflow）**に統合します。

• ゼロコード・デプロイメント(Zero-Code Deployment): デスクトップで検証されたロジックを、コードを一切修正することなく、エッジデバイスに直接デプロイ可能です。
• リソースの最適化(Resource Optimization): 環境構築やシステム統合にかかる時間を短縮し、高パフォーマンスなAIアプリケーションの構築に集中できます。
• エンドツーエンド・ソリューション(End-to-End Solution): モデルのコンパイル、ランタイム実行、およびモニタリングを一つのパッケージで提供します。

System Architecture & Core Modules

Figure. DXNN SDK Full Architecture Overview.

[1] AI Model Compile Environment (Host Platform)
学習済みのAIモデルを、DEEPX NPU専用のバイナリ(.dxnn) に変換・最適化する環境です。x86_64 PC環境をサポートしています。

• DX-COM (コンパイラ): ONNXモデルとユーザー設定（JSON）ファイルに基づき、.dxnnバイナリを生成するコアコンパイラです。独自のアルゴリズムを用いて、精度損失を最小限に抑えつつモデルをハードウェア最適化された命令に変換し、低遅延かつ高効率な推論を実現します。
• DX-TRON (可視化ツール): .dxnn モデルの構造を可視化・分析するためのGUIツールです。カラーコード化されたグラフにより、NPUとCPU間のワークロード分散を直感的に表示し、開発者が実行フローを理解してパフォーマンスを最適化するのを支援します。
• DX-ModelZoo: DEEPX NPUに最適化された学習済みモデルのリポジトリです。ONNXモデル、JSON設定、およびプリコンパイル済みの.dxnnバイナリを提供することで、開発者はコンパイルプロセスを経ることなく、即座にモデルのテストとデプロイを行うことができます。

[2] AI Model Runtime Environment (Target Platform)
最適化された .dxnnモデルを実際のNPUハードウェア上で実行し、アプリケーションに統合する環境です。x86_64および aarch64環境の両方をサポートしています。

• DX-RT (ランタイム): ファームウェアおよびドライバと対話して、DEEPX NPU上で .dxnnモデルを実行するコアソフトウェアです。モデルのロード、I/Oバッファ、推論の実行、およびリアルタイムモニタリングを管理し、C/C++およびPython APIを通じて柔軟な制御を提供します。
• DX-APP: DX-RT 上に構築されたサンプルアプリケーションです。物体検出、顔認識、画像分類などの主要なビジョンタスクのリファレンスコードを提供しており、開発者はこれらのテンプレートを使用して独自のAIアプリを迅速に構築できます。
• DX-Stream: リアルタイムのビデオデータをDEEPX NPU推論に接続する、GStreamerベースのカスタムプラグインです。前処理、推論、後処理をカバーするモジュール型パイプラインを提供し、インテリジェントカメラなどの高性能なビジョンAIアプリケーションに最適化されています。
• Driver & FW(ドライバとファームウェア): PCIeインターフェースを介した高速データ通信をサポートし、NPUのリソーススケジューリングと電力を管理します。ハードウェアとソフトウェア間の安定性を確保しつつ、ハードウェアの潜在能力を最大限に引き出し、シームレスな推論環境を実現します。

Development Workflow
学習済みモデルからNPU加速までのプロセスは、以下の4つの論理的なステップに従います。

• Step 1. モデルの準備: PyTorchやTensorFlowで学習したモデルを ONNX形式でエクスポートします。
• Step 2. 最適化 (ホスト): DX-COMを使用し、量子化とハードウェア最適化を行って .dxnnファイルを生成します。
• Step 3. デプロイ (ターゲット): 生成された .dxnn ファイルをターゲットデバイスに転送します。
• Step 4. 実行 (ターゲット): DX-RTを介してDEEPX NPU上で高速推論を実行します。

Technical Compatibility (Support Matrix)

DX-AllSuiteは、最新のオペレーティングシステムや幅広いハードウェアアーキテクチャとの実証済みの互換性を提供し、開発環境からエッジデプロイメントまでを安定して繋ぐ架け橋となります

Hardware & OS (Platform)

以下の表は、コンパイル（ホスト）フェーズと実行（ターゲット）フェーズの両方でサポートされている環境の概要です。

Category	DX-Compiler (Host)	DX-Runtime (Target)
Architecture	x86_64	x86_64, aarch64
OS	Ubuntu 24.04/22.04/20.04, Fedora, Redhat, CentOS	Ubuntu 24.04/22.04/20.04/18.04, Debian 13/12, Windows 11/10
Language	Python 3.8, 3.9, 3.10, 3.11, 3.12	Python 3.8 以上, C++14 以上 (C++17 for MSVC/Windows)

Model & Software Ecosystem

サポートされているAIフレームワーク
DX-AllSuiteは、リファクタリングを最小限に抑えるために業界標準のフレームワークとシームレスに統合されています。

• フレームワーク: Ultralytics (YOLO), TensorFlow, PyTorch, Keras
• フォーマット: ONNX (主要な交換フォーマット)

グローバルAIエコシステムパートナー
DXNN SDKが様々な業界をリードするプラットフォーム内で完璧に動作するよう、強固な技術パートナーシップを維持しています。

• クラウド・プラットフォーム: AWS (IoT Greengrass), Baidu, DeGirum
• ビジョン・アルゴリズム: Ultralytics (YOLO Series), CVEDIA
• VMS & セキュリティ: Network Optix (Nx), VCA (Applied Intelligence)
• 組み込み OS: Wind River (VxWorks)

DEEPX ModelZoo & Supported Tasks

DEEPX ModelZooは、270以上の事前検証済みモデルを提供する包括的なリポジトリです。ユーザーは手動のコンパイルプロセスを経ることなく、様々なハードウェアプロファイルにわたってパフォーマンスと精度を即座に確認できます。

Task	Representative Models
Image Classification	ResNet, ResNeXt, MobileNet, EfficientNet (Lite/V2), ViT/DeiT/BEiT, MobileViT, FastViT, CasViT, RegNet, ShuffleNet, VGG
Object Detection	YOLO families (YOLOv3–YOLOv11, YOLOX, YOLO26), SSD, EfficientDet, NanoDet, DamoYOLO
Instance Segmentation	YOLACT, YOLOv5-Seg, YOLOv8-Seg, YOLO26-Seg
Semantic Segmentation	DeepLabV3/DeepLabV3+, SegFormer, BiSeNet, UNet
Oriented Object Detection (OBB)	YOLO26-OBB
Zero-shot Instance Segmentation	FastSAM
Face Detection	RetinaFace, SCRFD, ULFGED, YOLOv5-Face, YOLOv7-Face
Face Recognition	ArcFace (IResNet50/100, MobileFaceNet, R50)
Face Landmark	TDDFA v2 (MobileNet variants)
Face Attribute	FaceAttrResNetV1-18
Pose Estimation (Human)	CenterPose, YOLO26-Pose, YOLOv8-Pose
Hand Landmark	MediaPipeHandsLite
Person Attribute	DeepMAR (ResNet18/50)
Depth Estimation	FastDepth, SCDepthV3
Image Denoising	DnCNN variants
Low-light Enhancement	ZeroDCE
Super-resolution	ESPCN (x2/x3/x4)

ModelZoo パイプラインの主な特徴

• YAML 中心のオーケストレーション: 前処理、後処理、評価、コンパイル設定を単一のYAMLファイルで管理し、高い再現性と容易な運用を実現します。
• 統合ワークフロー: list、info、eval、compile、benchmarkの各機能を単一のCLIシステムに統合し、各ステージを柔軟に組み合わせることができます。
• 最適化されたマルチプロファイルサポート: すべてのモデルがDEEPX NPUアーキテクチャ用に量子化・最適化されており、ONNXでの評価からNPUでの実行まで一貫した検証が可能です。
• 拡張可能なレジストリ: 前処理/後処理、データセット、エバリュエーター（評価器）などのプラグイン形式の拡張をサポートしており、カスタムモデルの迅速な導入が可能です。
• 幅広いタスク対応: 基本的な分類や検出にとどまらず、顔分析、OBB（回転境界ボックス）、画像改善など、サービスへの即時導入が可能な多様なコンピュータビジョン・タスクを幅広くサポートしています。

---