DX-AllSuite 아키텍처 개요
이 가이드는 DXNN (DEEPX Neural Network) SDK 아키텍처, 핵심 모듈, 지원 환경에 대한 포괄적인 개요를 제공합니다.
DX-AllSuite를 사용하는 이유
DX-AllSuite는 모델 최적화부터 타겟 하드웨어 배포까지 복잡한 파이프라인을 단일 워크플로우로 통합합니다.
- 코드 없는 배포: 데스크톱에서 검증된 로직을 코드 수정 없이 엣지 디바이스에 직접 배포합니다.
- 리소스 최적화: 환경 설정과 시스템 통합에 소요되는 시간을 줄여 고성능 AI 애플리케이션 개발에 집중할 수 있습니다.
- End-to-End 솔루션: 단일 패키지 내에서 모델 컴파일, 시뮬레이션, 런타임 실행, 모니터링을 제공합니다.
시스템 아키텍처 및 핵심 모듈
그림. DXNN SDK 전체 아키텍처 개요.
[1] AI 모델 컴파일 환경 (호스트 플랫폼)
이 환경은 학습된 AI 모델을 DEEPX NPU 전용 바이너리(.dxnn)로 변환 및 최적화합니다. x86_64 PC 환경을 지원합니다.
- DX-COM (컴파일러): ONNX 모델과 사용자 설정(JSON) 파일을 기반으로
.dxnn바이너리를 생성하는 핵심 컴파일러. 독자적인 알고리즘으로 정확도 손실을 최소화하면서 하드웨어에 최적화된 명령어로 모델을 변환하여 저지연·고효율 추론을 실현합니다. - DX-TRON (시각화 도구):
.dxnn모델의 구조를 시각화하고 분석하는 GUI 도구. 색상 코딩된 그래프로 NPU와 CPU 간의 워크로드 분배를 직관적으로 보여주어 개발자가 실행 흐름을 이해하고 성능을 최적화할 수 있도록 지원합니다. - DX-ModelZoo: DEEPX NPU에 최적화된 사전 학습 모델 레포지토리. ONNX 모델, JSON 설정, 사전 컴파일된
.dxnn바이너리를 함께 제공하여 개발자가 컴파일 과정 없이 즉시 모델을 테스트하고 배포할 수 있습니다.
[2] AI 모델 런타임 환경 (타겟 플랫폼)
이 환경은 최적화된 .dxnn 모델을 실제 NPU 하드웨어에서 실행하고 애플리케이션에 통합합니다. x86_64 및 aarch64 환경을 모두 지원합니다.
- DX-RT (런타임): 펌웨어 및 드라이버와 상호 작용하여 DEEPX NPU에서
.dxnn모델을 실행하는 핵심 소프트웨어. 모델 로딩, I/O 버퍼, 추론 실행, 실시간 모니터링을 관리하며 C/C++ 및 Python API를 통한 유연한 제어를 제공합니다. - DX-APP: DX-RT 기반 샘플 애플리케이션. 주요 비전 태스크(객체 감지, 얼굴 인식, 이미지 분류 등)에 대한 참조 코드를 제공하여 개발자가 이 템플릿을 활용해 고유한 AI 앱을 빠르게 구축할 수 있도록 합니다.
- DX-Stream: 실시간 비디오 데이터를 DEEPX NPU 추론에 연결하는 GStreamer 기반 커스텀 플러그인. 전처리, 추론, 후처리를 아우르는 모듈식 파이프라인을 제공하며, 지능형 카메라 등 고성능 비전 AI 애플리케이션에 최적화되어 있습니다.
- 드라이버 및 FW: PCIe 인터페이스를 통한 고속 데이터 통신과 NPU 리소스 스케줄링 및 전원 관리를 지원합니다. 하드웨어와 소프트웨어 간의 안정성을 보장하면서 원활한 추론 환경을 위해 하드웨어 잠재력을 극대화합니다.
개발 워크플로우 학습된 모델에서 NPU 가속까지의 과정은 네 가지 논리적 단계를 따릅니다.
- Step 1. 모델 준비: PyTorch 또는 TensorFlow에서 학습된 모델을 ONNX 형식으로 내보냅니다.
- Step 2. 최적화 (호스트): DX-COM을 사용하여 양자화 및 하드웨어 최적화와 함께 모델을 컴파일하여
.dxnn파일을 생성합니다. - Step 3. 배포 (타겟): 생성된
.dxnn파일을 타겟 디바이스로 전송합니다. - Step 4. 실행 (타겟): DX-RT를 통해 DEEPX NPU에서 고속 추론을 실행합니다.
기술 호환성 (지원 매트릭스)
DX-AllSuite는 최신 운영 체제와 다양한 하드웨어 아키텍처와의 검증된 호환성을 제공하여 개발 환경과 엣지 배포 사이의 안정적인 브릿지를 보장합니다.
그림. DX-Compiler 및 DX-Runtime 지원 에코시스템.
하드웨어 및 OS (플랫폼)
다음 표는 컴파일(호스트)과 실행(타겟) 단계 모두에 대해 지원되는 환경을 설명합니다.
| 카테고리 | DX-Compiler (호스트) | DX-Runtime (타겟) |
|---|---|---|
| 아키텍처 | x86_64 | x86_64, aarch64 |
| OS | Ubuntu 26.04/24.04/22.04/20.04, Fedora, Redhat, CentOS | Ubuntu 26.04/24.04/22.04/20.04, Debian 13/12, Windows 11/10 |
| 언어 | Python 3.8, 3.9, 3.10, 3.11, 3.12, 3.13, 3.14 | Python 3.8 이상, C++14 이상 (MSVC/Windows는 C++17) |
모델 및 소프트웨어 에코시스템
지원 AI 프레임워크 DX-AllSuite는 리팩토링을 최소화하기 위해 업계 표준 프레임워크와 원활하게 통합됩니다.
- 프레임워크: Ultralytics (YOLO), TensorFlow, PyTorch, Keras
- 형식: ONNX (기본 교환 형식)
글로벌 AI 에코시스템 파트너 다양한 업계 선도 플랫폼 내에서 DXNN SDK가 원활하게 작동할 수 있도록 강력한 기술 파트너십을 유지합니다.
- 클라우드 & 플랫폼: AWS (IoT Greengrass), Baidu, DeGirum
- 비전 & 알고리즘: Ultralytics (YOLO 시리즈), CVEDIA
- VMS & 보안: Network Optix (Nx), VCA (Applied Intelligence)
- 임베디드 OS: Wind River (VxWorks)
DEEPX ModelZoo 및 지원 태스크
DEEPX ModelZoo는 345개의 사전 검증된 모델을 제공하는 포괄적인 레포지토리입니다. 수동 컴파일 과정 없이 다양한 하드웨어 프로파일에서 성능과 정확도를 즉시 검증할 수 있습니다.
| 태스크 | 대표 모델 |
|---|---|
| 이미지 분류 | ResNet, ResNeXt, MobileNet, EfficientNet (Lite/V2), ViT/DeiT/BEiT, MobileViT, FastViT, CasViT, RegNet, ShuffleNet, VGG |
| 객체 감지 | YOLO 계열 (YOLOv3–YOLOv11, YOLOX, YOLO26), SSD, EfficientDet, NanoDet, DamoYOLO |
| 3D 객체 감지 | 3D 감지 모델 |
| 인스턴스 분할 | YOLACT, YOLOv5-Seg, YOLOv8-Seg, YOLO26-Seg |
| 시맨틱 분할 | DeepLabV3/DeepLabV3+, SegFormer, BiSeNet, UNet |
| 파노픽 주행 인식 | 파노픽 인식 모델 |
| 방향 있는 객체 감지 (OBB) | YOLO26-OBB |
| 제로샷 인스턴스 분할 | FastSAM |
| 얼굴 감지 | RetinaFace, SCRFD, ULFGED, YOLOv5-Face, YOLOv7-Face |
| 얼굴 인식 | ArcFace (IResNet50/100, MobileFaceNet, R50) |
| 얼굴 랜드마크 | TDDFA v2 (MobileNet 변형) |
| 얼굴 속성 | FaceAttrResNetV1-18 |
| 손 감지 | 손 감지 모델 |
| 손 랜드마크 | MediaPipeHandsLite |
| 자세 추정 (인체) | CenterPose, YOLO26-Pose, YOLOv8-Pose |
| 객체 자세 추정 | 객체 자세 추정 모델 |
| 키포인트 감지 | 키포인트 감지 모델 |
| 사람 속성 | DeepMAR (ResNet18/50) |
| 사람 재식별 | CasViT |
| 깊이 추정 | FastDepth, SCDepthV3 |
| 이미지 노이즈 제거 | DnCNN 변형 |
| 저조도 향상 | ZeroDCE |
| 초해상도 | ESPCN (x2/x3/x4) |
ModelZoo 파이프라인 핵심 기능
- YAML 중심 오케스트레이션: 전처리, 후처리, 평가, 컴파일 설정을 단일 YAML 파일로 관리하여 높은 재현성과 용이한 운영을 실현합니다.
- 통합 워크플로우: list, info, eval, compile, benchmark 기능을 단일 CLI 시스템으로 통합하여 단계를 유연하게 조합할 수 있습니다.
- 최적화된 멀티 프로파일 지원: 모든 모델은 DEEPX NPU 아키텍처에 맞게 양자화 및 최적화되어 ONNX 평가부터 NPU 실행까지 일관된 검증을 보장합니다.
- 확장 가능한 레지스트리: 전/후처리, 데이터셋, 평가기에 대한 플러그인 방식의 확장을 지원하여 커스텀 모델의 빠른 온보딩이 가능합니다.
- 광범위한 태스크 지원: 기본 분류 및 감지를 넘어 얼굴 분석, OBB, 이미지 향상 등 서비스 수준의 다양한 CV 태스크를 광범위하게 지원합니다.