本文へスキップ
SDK Version: 2.4.0

DX-AllSuite アーキテクチャ概要

このガイドは、DXNN (DEEPX Neural Network) SDKアーキテクチャ、コアモジュール、サポート環境の包括的な概要を提供します。

DX-AllSuiteを使う理由

DX-AllSuiteはモデル最適化からターゲットハードウェアへのデプロイメントまで、複雑なパイプラインを単一ワークフローに統合します。

  • コードなしデプロイメント: デスクトップで検証したロジックをコード変更なしにエッジデバイスに直接デプロイします。
  • リソース最適化: 環境構築とシステム統合に費やす時間を削減し、高性能AIアプリケーション開発に集中できます。
  • エンドツーエンドソリューション: モデルコンパイル、シミュレーション、ランタイム実行、監視を単一パッケージ内で提供します。

システムアーキテクチャとコアモジュール

DXNN SDK full architecture overview diagram

図. DXNN SDKフルアーキテクチャ概要。

[1] AIモデルコンパイル環境(ホストプラットフォーム) この環境は学習済みAIモデルをDEEPX NPU専用バイナリ(.dxnn)に変換・最適化します。x86_64 PC環境をサポートします。

  • DX-COM(コンパイラ): ONNXモデルとユーザー設定(JSON)ファイルをもとに.dxnnバイナリを生成するコアコンパイラ。独自アルゴリズムで精度損失を最小化しながらハードウェア最適化された命令にモデルを変換し、低遅延・高効率推論を実現します。
  • DX-TRON(可視化ツール): .dxnnモデルの構造を可視化・分析するGUIツール。カラーコードされたグラフでNPUとCPU間のワークロード分配を直感的に表示し、開発者が実行フローを理解してパフォーマンスを最適化できるようサポートします。
  • DX-ModelZoo: DEEPX NPUに最適化された事前学習済みモデルのリポジトリ。ONNXモデル、JSON設定、事前コンパイル済み.dxnnバイナリを一緒に提供し、開発者がコンパイル過程なしにすぐモデルをテスト・デプロイできます。

[2] AIモデルランタイム環境(ターゲットプラットフォーム) この環境は最適化された.dxnnモデルを実際のNPUハードウェアで実行し、アプリケーションに統合します。x86_64およびaarch64環境の両方をサポートします。

  • DX-RT(ランタイム): ファームウェアおよびドライバーと連携してDEEPX NPUで.dxnnモデルを実行するコアソフトウェア。モデルロード、I/Oバッファ、推論実行、リアルタイム監視を管理し、C/C++およびPython APIによる柔軟な制御を提供します。
  • DX-APP: DX-RTベースのサンプルアプリケーション。主要ビジョンタスク(物体検出、顔認識、画像分類など)の参照コードを提供し、開発者がこのテンプレートを活用して独自のAIアプリを迅速に構築できるようにします。
  • DX-Stream: リアルタイム映像データをDEEPX NPU推論に接続するGStreamerベースのカスタムプラグイン。前処理、推論、後処理をカバーするモジュラーパイプラインを提供し、インテリジェントカメラなどの高性能ビジョンAIアプリケーションに最適化されています。
  • ドライバーとFW: PCIeインターフェースを通じた高速データ通信とNPUリソーススケジューリングおよび電源管理をサポートします。ハードウェアとソフトウェア間の安定性を確保しながら、スムーズな推論環境のためにハードウェアの潜在能力を最大化します。

開発ワークフロー 学習済みモデルからNPUアクセラレーションまでの過程は4つの論理ステップに従います。

  • Step 1. モデル準備: PyTorchまたはTensorFlowで学習したモデルをONNX形式でエクスポートします。
  • Step 2. 最適化(ホスト): DX-COMを使用して量子化とハードウェア最適化を伴うモデルをコンパイルし、.dxnnファイルを生成します。
  • Step 3. デプロイメント(ターゲット): 生成された.dxnnファイルをターゲットデバイスに転送します。
  • Step 4. 実行(ターゲット): DX-RTを通じてDEEPX NPUで高速推論を実行します。

技術的互換性(サポートマトリックス)

DX-AllSuiteは最新OSと多様なハードウェアアーキテクチャとの検証済み互換性を提供し、開発環境とエッジデプロイメント間の安定したブリッジを保証します。

DX-Compiler supported OS and hardware matrixDX-Runtime supported OS and hardware matrix

図. DX-CompilerおよびDX-Runtimeサポートエコシステム。

ハードウェアとOS(プラットフォーム)

以下の表はコンパイル(ホスト)と実行(ターゲット)の両ステップでサポートされる環境を説明します。

カテゴリDX-Compiler(ホスト)DX-Runtime(ターゲット)
アーキテクチャx86_64x86_64, aarch64
OSUbuntu 26.04/24.04/22.04/20.04,
Fedora, Redhat, CentOS
Ubuntu 26.04/24.04/22.04/20.04,
Debian 13/12, Windows 11/10
言語Python 3.8, 3.9, 3.10, 3.11, 3.12, 3.13, 3.14Python 3.8以上,
C++14以上(MSVC/WindowsはC++17)

モデルとソフトウェアエコシステム

サポートするAIフレームワーク DX-AllSuiteはリファクタリングを最小化するために業界標準フレームワークとシームレスに統合されます。

  • フレームワーク: Ultralytics(YOLO)、TensorFlow、PyTorch、Keras
  • 形式: ONNX(基本交換形式)

グローバルAIエコシステムパートナー 様々な業界トッププラットフォーム内でDXNN SDKがシームレスに動作できるよう、強固な技術パートナーシップを維持しています。

  • クラウド & プラットフォーム: AWS(IoT Greengrass)、Baidu、DeGirum
  • ビジョン & アルゴリズム: Ultralytics(YOLOシリーズ)、CVEDIA
  • VMS & セキュリティ: Network Optix(Nx)、VCA(Applied Intelligence)
  • 組み込みOS: Wind River(VxWorks)

DEEPX ModelZooとサポートタスク

DEEPX ModelZooは345種類の事前検証済みモデルを提供する包括的なリポジトリです。手動コンパイル過程なしに様々なハードウェアプロファイルでパフォーマンスと精度を即座に検証できます。

タスク代表モデル
画像分類ResNet, ResNeXt, MobileNet, EfficientNet (Lite/V2),
ViT/DeiT/BEiT, MobileViT, FastViT, CasViT,
RegNet, ShuffleNet, VGG
物体検出YOLOシリーズ(YOLOv3–YOLOv11、YOLOX、YOLO26),
SSD, EfficientDet, NanoDet, DamoYOLO
3D物体検出3D検出モデル
インスタンスセグメンテーションYOLACT, YOLOv5-Seg, YOLOv8-Seg, YOLO26-Seg
セマンティックセグメンテーションDeepLabV3/DeepLabV3+, SegFormer, BiSeNet, UNet
パノプティック走行認識パノプティック認識モデル
方向付き物体検出(OBB)YOLO26-OBB
ゼロショットインスタンスセグメンテーションFastSAM
顔検出RetinaFace, SCRFD, ULFGED, YOLOv5-Face, YOLOv7-Face
顔認識ArcFace(IResNet50/100、MobileFaceNet、R50)
顔ランドマークTDDFA v2(MobileNet変形)
顔属性FaceAttrResNetV1-18
手検出手検出モデル
手ランドマークMediaPipeHandsLite
姿勢推定(人体)CenterPose, YOLO26-Pose, YOLOv8-Pose
物体姿勢推定物体姿勢推定モデル
キーポイント検出キーポイント検出モデル
人物属性DeepMAR(ResNet18/50)
人物再識別CasViT
深度推定FastDepth, SCDepthV3
画像ノイズ除去DnCNN変形
低照度向上ZeroDCE
超解像ESPCN(x2/x3/x4)

ModelZooパイプラインの主要機能

  • YAML中心オーケストレーション: 前処理、後処理、評価、コンパイル設定を単一YAMLファイルで管理し、高い再現性と容易な運用を実現します。
  • 統合ワークフロー: list、info、eval、compile、benchmark機能を単一CLIシステムに統合し、ステップを柔軟に組み合わせられます。
  • 最適化されたマルチプロファイルサポート: すべてのモデルはDEEPX NPUアーキテクチャに合わせて量子化・最適化され、ONNX評価からNPU実行まで一貫した検証を保証します。
  • 拡張可能なレジストリ: 前後処理、データセット、評価器へのプラグイン方式の拡張をサポートし、カスタムモデルの迅速なオンボーディングが可能です。
  • 広範なタスクサポート: 基本分類・検出を超えて顔分析、OBB、画像向上などサービスレベルの多様なCVタスクを広範にサポートします。