백슬래시파트너스(대표 송주현)가 GPU 자원 관리와 AI 개발·운영 기능을 통합한 ‘Backslash AIOps(백슬래시 에이아이옵스) 1.0’을 공개했다고 2일 밝혔다.
Backslash AIOps는 쿠버네티스(Kubernetes) 환경에서 GPU 자원의 신청과 승인, 분할, 회수를 관리하고 AI 모델의 학습과 배포 과정을 운영할 수 있도록 설계된 플랫폼이다. GPU 자원 관리 기능을 기반으로 MLOps(머신러닝 운영)와 AI 개발·실행 환경을 연계한 구조를 갖췄다.
사용자가 GPU 사용 사유와 기간을 입력해 자원을 요청하면 관리자가 이를 승인하고, 설정된 사용 기간이 종료된 자원은 자동 회수된다. GPU 요청과 승인, 회수 이력 및 사용 실적도 기록된다. 프로젝트 운영 방식에 따라 자동 승인 기능을 설정할 수 있다.
GPU 활용 방식으로는 타임슬라이싱(Time-slicing), MPS, MIG 등 3가지 분할 전략을 지원한다. GPU 한 장을 여러 작업에 배분할 수 있으며, 관리자는 운영 환경에 따라 분할 방식을 선택할 수 있다. 현재 분할 수는 실제 서버 노드에서 측정한 값을 기준으로 산출한다. 분할 방식 변경 과정에서 필요한 드레인과 재기동 절차도 플랫폼에서 단계별로 처리한다.
GPU 자원이 부족한 경우에는 대기열 정책을 적용한다. 요청을 대기열에 등록한 뒤 가용 자원이 확보되면 작업을 실행하는 방식으로, FIFO·LIFO·FAIR·DRF 등 4가지 정책을 클러스터별로 설정할 수 있다. 분산 학습 작업에는 필요한 자원이 모두 확보된 시점에 작업을 시작하는 갱 스케줄링 방식을 적용했다.
AI 개발과 MLOps 기능도 포함됐다. 승인된 GPU 자원을 이용해 JupyterLab 개발 환경을 구성할 수 있으며, Argo Workflows 기반 파이프라인을 통해 데이터 전처리와 학습, 평가, 배포 과정을 연결한다. MLflow 연동을 통해 실험 지표와 파라미터를 기록하고, 학습이 완료된 모델은 모델 레지스트리에 등록된다.
모델 배포에는 승인 절차를 적용했다. 검토와 승인을 거친 모델은 KServe를 통해 배포할 수 있으며, 승인되지 않은 모델은 배포 단계로 진행되지 않도록 구성했다.
관리자는 조직·프로젝트·멤버의 3단계 구조로 GPU 자원을 배정할 수 있다. 프로젝트별 GPU 수와 동시 실행 수, 월 GPU 사용 시간 한도 설정도 지원한다. GPU 사용률과 메모리, 온도 등의 상태는 노드 및 작업 단위로 확인할 수 있으며, 설정된 임계값을 초과하면 웹·푸시·웹훅 방식으로 알림을 제공한다. 사용 실적은 PDF, 엑셀, CSV, JSON 형식으로 출력할 수 있다.
설치 방식은 고객 데이터센터의 GPU 서버에 직접 구축하는 온프레미스 형태를 지원한다. 회사에 따르면 외부 인터넷 연결이 제한된 폐쇄망에서도 운영할 수 있도록 설치 스크립트와 이미지 번들을 제공한다. 여러 원격 클러스터는 커넥터 에이전트를 통해 연결해 통합 관리할 수 있으며, 서로 다른 NVIDIA GPU 장비도 동일한 관리 환경에서 운영할 수 있도록 구성했다.
접근 관리에는 OIDC 표준 SSO와 2단계 인증을 적용했으며 로그인, GPU 자원 요청·승인, 설정 변경 등의 이력은 감사 로그로 기록된다.
Backslash AIOps 1.0은 지난 1일 한국저작권위원회에 컴퓨터프로그램저작물로 등록됐다. 등록번호는 C-2026-048919이며, 저작물 분류는 응용프로그램 중 산업용 소프트웨어, 저작자는 백슬래시파트너스다.
백슬래시파트너스 송주현 대표는 “GPU는 남아 있는데 필요한 곳에서는 사용하지 못하는 운영상의 문제를 해결하는 데 초점을 맞췄다”며 “GPU 자원의 유휴 시간을 줄이고 특정 조직에 사용이 집중되는 문제와 폐쇄망 환경에서의 운영 등을 고려해 개발했다”고 말했다.
한편 백슬래시파트너스는 벤처기업 및 메인비즈 인증을 취득했으며, 현재 한국정보통신기술협회(TTA)의 GS인증 1등급 시험을 진행하고 있다. 이를 바탕으로 GPU 자원 관리 솔루션인 Backslash AIOps를 중심으로 AI·MLOps 분야 사업을 확대할 계획이다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}