제품 목록
SDK·프레임워크
DeepNetRT — 고속 영상 추론 엔진
TensorRT 기반 자체 C++ 추론 엔진. 모델 보호와 GPU 가속을 핵심으로 설계.
제품 소개
DeepNetRT는 하늘소프트가 자체 개발한 고속 영상 추론 엔진입니다. NVIDIA TensorRT를 바탕으로 모델 직렬화·암호화·런타임 디스패치를 일관된 인터페이스로 제공해, 임베디드부터 서버까지 동일한 엔진 위에서 비전 추론 응용을 운영할 수 있도록 합니다.
엔진 내부에서 모델 자산을 보호하기 위한 암호화 컨테이너 포맷을 사용하며, 자사 마스킹 스튜디오·MFire·EmVision DeepStream 플러그인 등에서 검증되었습니다.
주요 기능
TensorRT 기반 가속
ONNX 모델을 디바이스별 최적 엔진으로 직렬화해 추론 지연을 최소화합니다.
모델 자산 보호
엔진 파일을 암호화 컨테이너로 봉인해 무단 추출·재배포를 차단합니다.
엣지~서버 동일 인터페이스
Jetson Orin부터 데이터센터 GPU까지 단일 API로 배포·운영할 수 있습니다.
DeepStream 플러그인 연동
GStreamer / DeepStream 추론 플러그인과 직접 결합되어 실시간 영상 파이프라인에 통합됩니다.
기술 사양
- 개발 환경
- C++17 · CUDA 12.x · TensorRT 10.x
- 모델 입력
- ONNX 표준 (사내 변환 도구 경유)
- 적용 사례
- 마스킹 스튜디오 · MFire 화재 감시 · EmVision DeepStream 플러그인
- 제공 형태
- C++ 라이브러리 (Python 바인딩 옵션)