래블업, '북미 최대' 클라우드 네이티브 행사서 쿠버네티스 통합 가속 알린다

216번 부스서 백엔드닷에이아이와 쿠버네티스 생태계 통합 현황 소개

ⓒ 래블업

[프라임경제] 인공지능(AI) 인프라 소프트웨어 기업 래블업(0147B0)이 9일부터 12일까지 미국 유타주 솔트레이크시티에서 열리는 'KubeCon+CloudNativeCon North America 2026'에 실버 스폰서로 참가한다고 10일 밝혔다.

래블업은 행사 기간 216번 부스를 운영하며 AI 인프라 관리 플랫폼 백엔드닷에이아이(Backend.AI)와 쿠버네티스(Kubernetes, K8s) 생태계의 통합 현황을 소개한다. 

백엔드닷에이아이는 엔비디아, AMD, 인텔, 리벨리온, 퓨리오사AI 등 12개 개발사의 AI 가속기를 지원한다. 쿠버네티스는 컨테이너 기반 서비스를 배포하고 운영하는 오픈소스 플랫폼이다.

백엔드닷에이아이는 쿠버네티스가 1.0 버전을 내놓기 전부터 서버 본래의 성능을 희생하지 않으면서 컨테이너 기반으로 작업 환경을 서로 격리해 왔다. 

래블업은 이를 바탕으로 AI 작업 전용 자원 관리 엔진인 Sokovan 오케스트레이터를 자체 개발해, 여러 종류의 AI 가속기와 GPU, 여러 대의 서버를 묶어 쓰는 고성능 컴퓨팅(HPC)과 AI 작업을 지원하고 있다. 

업스테이지와 함께하는 독자 AI 파운데이션 모델 프로젝트에서는 GPU 1,016장 규모의 AI 모델 학습을 안정적으로 지원하고 있다.

그동안 업계는 여러 대의 서버를 묶는 대규모 AI 모델 학습은 슈퍼컴퓨터에서 사실상 표준으로 쓰는 작업 관리 도구 Slurm으로, 웹 서비스는 쿠버네티스로 나눠 운영하는 경향이 있었다. 

최근 2년여 사이 쿠버네티스 생태계에서도 그래픽처리장치(GPU)를 사용하는 AI 추론(학습된 모델을 실제 서비스에 활용하는 작업)이 주요 서비스 구성 요소로 부상하면서 관련 기술을 표준화하는 움직임이 빠르게 진행되고 있다. 

표준화 움직임에 맞춰 백엔드닷에이아이도 두 생태계와의 통합을 꾸준히 강화하고 있다.

슈퍼컴퓨터 환경과의 연동을 위해서는 Slurm Frontend를 제공한다. 연구자는 익숙한 Slurm 명령을 그대로 쓰고, Slurm Frontend가 필요한 모든 작업을 백엔드닷에이아이 컨테이너 환경에서 실행한다. 

K8s Bridge인 Lagrange는 백엔드닷에이아이를 쿠버네티스에 가상의 서버로 등록하고 두 시스템을 양방향으로 동기화해, 쿠버네티스 관리 도구에서도 백엔드닷에이아이 자원을 확인할 수 있게 한다. 

래블업은 쿠버네티스 위에 백엔드닷에이아이를 올리는 환경과 자체 서버나 가상머신(VM)에 백엔드닷에이아이를 직접 설치하는 환경 모두에서 사용자 경험을 일관되게 유지할 수 있도록 개선해나가고 있다. 

현재 많은 고객사는 자체 서버나 VM에 백엔드닷에이아이를 직접 설치해 사용하고 있다.

 

래블업은 2020년 클라우드 네이티브 컴퓨팅 재단(CNCF)에 실버 멤버로 가입한 이후, 2024년부터 KubeCon에 3년 연속 실버 스폰서로 참여하고 있다.

 

클라우드처럼 인프라를 빌려주는 공급자와 이를 빌려 쓰는 사용자 조직이 각자의 관리 체계로 AI 작업을 운영할 때, 성능 최적화와 보안 측면에서 하드웨어를 직접 제어하는 권한을 어디까지 줄지를 두고 이슈가 많이 발생하고 있다. 

래블업은 한국정보통신기술협회(TTA)와 AIPP 표준화 그룹 활동에서 이 하드웨어 접근 권한 문제를 더 깊이 살펴보고 있다.

 

김준기 래블업 최고기술책임자(CTO)는 "쿠버네티스를 사용하더라도 이 문제는 완전히 해결되지 않는다. 공급자와 테넌트 사이의 정보 비대칭을 줄이면서도 보안 격리를 유지하는 방법을 업계가 더 많이 고민할 필요가 있다"고 강조했다.

이어 "KubeCon은 CNCF 생태계의 최전방에서 무슨 일이 일어나고 있는지 살펴볼 수 있는 자리다. 래블업은 AI 인프라를 운영하며 축적한 경험을 바탕으로 쿠버네티스 생태계가 이 문제를 풀어 가는 데 힘을 보태겠다"고 말했다.

 

한편 래블업은 지난 3일 코스닥 시장에 상장했으며, 국내외 120여 개 고객 사이트에 백엔드닷에이아이 플랫폼을 공급하고 있다.