이노그리드, AICubeit에 GPU 자원관리·추론 통합
블로터 원문 기준 · 원문 발행 2026.10.01
스마트홈·네트워크 분류 사진이노그리드가 GPU·NPU 등 가속기를 하나의 자원 풀로 관리하고 개발부터 배포, 추론, 비용관리까지 연결하는 플랫폼 기술을 강화한다고 밝혔다. 권경민 CTO는 1일 'AI-클라우드 빅테크2026'에서 GPU 활용률과 운영 복잡성이 기업의 핵심 과제라고 설명했다. 폐쇄망·데이터센터 내부에 구축하는 플랫폼 'AICubeit'은 데이터 반출이 어려운 기업·기관을 대상으로 AI 모델 학습·배포·운영을 지원한다. 최종적으로는 GPU 관리 플랫폼과 AI PaaS를 하나의 컨트롤 플레인으로 연결해 추론 속도 저하 원인을 한곳에서 확인하는 구조를 목표로 한다.
핵심
- GPU·NPU 등 이기종 가속기를 하나의 자원 풀처럼 관리하는 컨트롤 플레인 구조 개발
- 폐쇄망·데이터센터 내부 구축형 플랫폼 'AICubeit'으로 데이터 반출 제약 기업 지원
- AI PaaS에서 데이터 준비부터 학습, 배포, 추론까지 하나의 워크플로우로 연결
- GPU 운영 효율을 이용률 외 유휴시간·대기시간·작업당 비용 등으로 측정
