DX-AllSuite 아키텍처 개요
이 가이드는 DXNN (DEEPX Neural Network) SDK 아키텍처, 핵심 모듈 및 지원 환경에 대한 포괄적인 개요를 제공합니다.
DX-AllSuite를 사용해야 하는 이유
DX-AllSuite는 모델 최적화부터 타깃 하드웨어 배포까지 복잡한 파이프라인을 단일 워크플로우로 통합합니다.
- 제로 코드 배포: 데스크톱에서 검증된 로직을 코드 수정 없이 에지 디바이스에 직접 배포합니다.
- 리소스 최적화: 환경 설정 및 시스템 통합에 소요되는 시간을 줄여 고성능 AI 애플리케이션 개발에 집중할 수 있습니다.
- 엔드-투-엔드 솔루션: 단일 패키지 내에서 모델 컴파일, 시뮬레이션, 런타임 실행 및 모니터링을 제공합니다.
시스템 아키텍처 및 핵심 모듈
그림. DXNN SDK 전체 아키텍처 개요.
[1] AI 모델 컴파일 환경 (호스트 플랫폼)
이 환경은 훈련된 AI 모델을 DEEPX NPU 전용 바이너리(.dxnn)로 변환하고 최적화합니다. x86_64 PC 환경을 지원합니다.
- DX-COM (컴파일러): ONNX 모델과 사용자 설정(JSON) 파일을 기반으로
.dxnn바이너리를 생성하는 핵심 컴파일러입니다. 독자적인 알고리즘을 사용하여 정확도 손실을 최소화하면서 모델을 하드웨어 최적화 명령어로 변환하여 저지연 및 고효율 추론을 가능하게 합니다. - DX-TRON (비주얼라이저):
.dxnn모델의 구조를 시각화하고 분석하기 위한 GUI 툴입니다. 색상 코딩된 그래프를 제공하여 NPU와 CPU 간의 워크로드 분배를 직관적으로 보여주며, 개발자가 실행 흐름을 이해하고 성능을 최적화하는 데 도움을 줍니다. - DX-ModelZoo: DEEPX NPU에 최적화된 사전 훈련된 모델 저장소입니다. ONNX 모델, JSON 설정, 사전 컴파일된
.dxnn바이너리를 제공함으로써 개발자가 컴파일 과정 없이 즉시 모델을 테스트하고 배포할 수 있습니다.
[2] AI 모델 런타임 환경 (타깃 플랫폼)
이 환경은 최적화된 .dxnn 모델을 실제 NPU 하드웨어에서 실행하고 애플리케이션에 통합합니다. x86_64 및 aarch64 환경을 모두 지원합니다.
- DX-RT (런타임): 펌웨어 및 드라이버와 상호 작용하여 DEEPX NPU에서
.dxnn모델을 실행하는 핵심 소프트웨어입니다. 모델 로딩, I/O 버퍼, 추론 실행 및 실시간 모니터링을 관리하며, C/C++ 및 Python API를 통해 유연한 제어를 제공합니다. - DX-APP: DX-RT 위에 구축된 샘플 애플리케이션입니다. 주요 비전 태스크(객체 감지, 얼굴 인식, 이미지 분류 등)에 대한 참조 코드를 제공하여 개발자가 이 템플릿을 사용하여 독자적인 AI 앱을 빠르게 구축할 수 있도록 합니다.
- DX-Stream: 실시간 비디오 데이터를 DEEPX NPU 추론에 연결하는 GStreamer 기반 커스텀 플러그인입니다. 전처리, 추론, 후처리를 포괄하는 모듈식 파이프라인을 제공하며, 인텔리전트 카메라와 같은 고성능 Vision AI 애플리케이션에 최적화되어 있습니다.
- 드라이버 & FW: PCIe 인터페이스를 통한 고속 데이터 통신을 지원하고 NPU 리소스 스케줄링 및 전력을 관리합니다. 하드웨어와 소프트웨어 간의 안정성을 보장하면서 원활한 추론 환경을 위해 하드웨어의 잠재력을 극대화합니다.
개발 워크플로우 훈련된 모델에서 NPU 가속까지의 경로는 네 가지 논리적 단계를 따릅니다.
- 1단계. 모델 준비: PyTorch 또는 TensorFlow에서 훈련된 모델을 ONNX 형식으로 내보냅니다.
- 2단계. 최적화 (호스트): DX-COM을 사용하여 양자화 및 하드웨어 최적화로 모델을 컴파일하여
.dxnn파일을 생성합니다. - 3단계. 배포 (타깃): 생성된
.dxnn파일을 타깃 디바이스로 전송합니다. - 4단계. 실행 (타깃): DX-RT를 통해 DEEPX NPU에서 고속 추론을 실행합니다.
기술 호환성 (지원 매트릭스)
DX-AllSuite는 최신 운영 체제 및 다양한 하드웨어 아키텍처와의 검증된 호환성을 제공하여 개발 환경과 에지 배포 간의 안정적인 연결을 보장합니다.
그림. DX-Compiler & DX-Runtime 지원 에코시스템.
하드웨어 & OS (플랫폼)
다음 표는 컴파일(호스트) 및 실행(타깃) 단계 모두에서 지원되는 환경을 설명합니다.
| 카테고리 | DX-Compiler (호스트) | DX-Runtime (타깃) |
|---|---|---|
| 아키텍처 | x86_64 | x86_64, aarch64 |
| OS | Ubuntu 26.04/24.04/22.04/20.04, Fedora, Redhat, CentOS | Ubuntu 24.04/22.04/20.04, Debian 13/12, Windows 11/10 |
| 언어 | Python 3.8, 3.9, 3.10, 3.11, 3.12, 3.13, 3.14 | Python 3.8 이상, C++14 이상 (MSVC/Windows의 경우 C++17) |
모델 & 소프트웨어 에코시스템
지원되는 AI 프레임워크 DX-AllSuite는 리팩토링을 최소화하기 위해 업계 표준 프레임워크와 원활하게 통합됩니다.
- 프레임워크: Ultralytics (YOLO), TensorFlow, PyTorch, Keras
- 형식: ONNX (기본 교환 형식)
글로벌 AI 에코시스템 파트너 DXNN SDK가 다양한 업계 선도 플랫폼에서 완벽하게 작동하도록 강력한 기술 파트너십을 유지합니다.
- 클라우드 & 플랫폼: AWS (IoT Greengrass), Baidu, DeGirum
- 비전 & 알고리즘: Ultralytics (YOLO 시리즈), CVEDIA
- VMS & 보안: Network Optix (Nx), VCA (Applied Intelligence)
- 임베디드 OS: Wind River (VxWorks)
DEEPX ModelZoo & 지원 태스크
DEEPX ModelZoo는 358개 이상의 사전 검증된 모델을 제공하는 포괄적인 저장소입니다. 수동 컴파일 과정 없이 다양한 하드웨어 프로파일에서 성능 및 정확도를 즉시 검증할 수 있습니다.
| 태스크 | 대표 모델 |
|---|---|
| 이미지 분류 | ResNet, ResNeXt, MobileNet, EfficientNet (Lite/V2), ViT/DeiT/BEiT, MobileViT, FastViT, CasViT, RegNet, ShuffleNet, VGG |
| 객체 감지 | YOLO 계열 (YOLOv3–YOLOv11, YOLOX, YOLO26), SSD, EfficientDet, NanoDet, DamoYOLO |
| 인스턴스 분할 | YOLACT, YOLOv5-Seg, YOLOv8-Seg, YOLO26-Seg |
| 시맨틱 분할 | DeepLabV3/DeepLabV3+, SegFormer, BiSeNet, UNet |
| 방향 객체 감지 (OBB) | YOLO26-OBB |
| 제로샷 인스턴스 분할 | FastSAM |
| 얼굴 감지 | RetinaFace, SCRFD, ULFGED, YOLOv5-Face, YOLOv7-Face |
| 얼굴 인식 | ArcFace (IResNet50/100, MobileFaceNet, R50) |
| 얼굴 랜드마크 | TDDFA v2 (MobileNet 변형) |
| 얼굴 속성 | FaceAttrResNetV1-18 |
| 자세 추정 (인체) | CenterPose, YOLO26-Pose, YOLOv8-Pose |