아크릴, 엔비디아 GPU·국산 NPU 하나로 묶는다…'소버린 AX' 전략 공개

GPUBASE 실효 가동률 93%·경로 활용률 98%…GPU·스위치 추가 없이 인프라 효율 극대화

ⓒ 아크릴

[프라임경제] 인공지능 전환(AX) 인프라 전문기업 아크릴(0007C0)은 지난 21일 서울 삼성동 코엑스에서 열린 '2026 OCP 코리아 테크 데이(OCP Korea Tech Day)'에 참가했으며, 기조강연과 기술세션 발표를 통해 AI 데이터센터의 투자 효율과 운영 자율성을 높이기 위한 '소버린 AX(Sovereign AX) 전략'을 공개했다고 24일 밝혔다.

이날 기조강연에 나선 박외진 아크릴 대표이사는 AI 인프라 경쟁력을 단순 그래픽처리장치(GPU) 확보 규모가 아닌 실제 가동 효율과 운영 구조 관점에서 평가해야 한다고 강조했다. 

국내 산업계의 평균 GPU 실가동률은 50~60% 수준으로 알려져 있어, 고가의 GPU를 확보하더라도 자원 배분과 운영 효율에 따라 실제 활용도는 크게 달라질 수 있다. 

신규 장비 증설과 함께 기존 인프라의 실가동률을 높이는 게 AI 데이터센터의 투자 효율을 향상시키는 핵심이라는 설명이다.

 

아크릴이 제시한 소버린 AX는 인프라·모델·운영 등 AI 서비스 구현에 필요한 각 계층을 개방형 인터페이스로 연결하고 특정 벤더에 대한 종속성을 낮추는 전략이다. 

외부 API(Application Programming Interface)나 개별 공급사에 대한 의존도를 줄여 기업과 기관이 AI 인프라와 서비스를 자체 환경에 맞춰 유연하게 운영하는 것이 핵심이다.

 

아크릴은 소버린 AX 전략을 구현하는 핵심 솔루션으로 독자 개발한 GPU 클러스터 최적화 플랫폼 ‘GPUBASE’를 제시했다. GPUBASE는 자체 실증 기준 GPU 실효 가동률 93%, 네트워크 경로 활용률 98%를 기록했다. 

회사 측은 엔비디아 H100 100장 규모 클러스터에 적용할 경우 연간 약 21억원의 비용 절감이 가능하다고 설명했다. GPU나 스위치 추가 구매, 학습 코드 변경 없이 기존 서버에 소프트웨어를 적용하는 방식이다.

 

GPUBASE는 다양한 AI 가속기도 하나의 자원으로 통합 운영할 수 있다. 엔비디아 A100부터 B200까지 세대가 다른 GPU는 물론 AMD, 구글 TPU, 리벨리온 ATOM, 퓨리오사AI RNGD 등을 하나의 스케줄러·쿼터·정산 체계로 관리한다. 

기존 엔비디아 인프라를 유지하면서 국산 AI 반도체를 단계적으로 편입할 수 있어 전면적인 시스템 교체 없이 인프라를 확장하고 공급망 리스크를 분산할 수 있다.

 

아크릴은 전력·데이터센터 공간·예산 등의 제약으로 AI 가속기를 지속 증설하기 어려운 만큼 기존 자원의 실가동률을 높이는 것이 투자 효율을 높일 수 있는 대안이라고 설명했다. 이번 발표에서도 '증설 결정 이전에 실가동률부터 계측해야 한다'는 점을 핵심 메시지로 제시했다.

 

관련 기술은 국내외 다양한 환경에서 검증됐다. 아크릴은 아마존웹서비스(AWS)와 구글클라우드플랫폼(GCP)에서 각각 500장 이상, 마이크로소프트 애저에서 200장 이상의 GPU를 활용한 대규모 실증을 진행했다. 

국내에서는 설계·조달·시공(EPC) 기업 폐쇄망과 정부 부처·지자체 망분리 환경에서 다년간 시스템을 운영했으며, 지난 7월 모듈형 데이터센터 사업 1·2차 공급도 진행했다. 상급종합병원 11곳을 포함한 18개 의료기관, 누적 1만 병상 이상의 폐쇄망 환경에서도 AI 스택을 운영해왔다.

이어진 기술세션에서는 염익준 아크릴 최고기술책임자(CTO)가 'Beyond GPU Management : GPUBASE를 통한 GPU 클러스터 네트워크 최적화'를 주제로 발표했다. GPU 가동률 저하의 원인 중 하나인 노드 간 통신 대기와 네트워크 경로 편중 문제를 짚고 GPUBASE를 통한 네트워크 최적화 방안을 소개했다.

염익준 아크릴 CTO는 "네트워크는 성능 문제가 아니라 비용 문제"라며 "통신 대기를 줄이면 같은 장비에서 더 많은 GPU가 일하고, 그만큼 증설 예산이 줄어든다"고 전했다.

 

관련 기술은 'USENIX ATC 2024'와 'IEEE Access 2021' 논문으로 검증됐으며, 아크릴은 GPUBASE 관련 특허 22건을 포함해 총 83건 이상의 특허를 보유하고 있다.

 

박외진 아크릴 대표는 "AI 주권은 GPU를 몇 장 확보했느냐가 아니라 인프라·모델·운영 전반을 얼마나 효율적으로 통제하고 운영할 수 있느냐에 달려 있다"며 "아크릴은 세 계층을 연결하는 기술과 실증 데이터를 기반으로 특정 벤더에 종속되지 않는 개방형 소버린 AX 생태계 구축에 기여할 것"이라고 말했다.

한편 'OCP 코리아 테크 데이'는 글로벌 오픈 컴퓨팅 생태계인 OCP 재단과 OCP Korea 커뮤니티가 개최하는 AI·데이터센터 인프라 전문 컨퍼런스로, 국내외 관련 기업과 기술 전문가들이 참여해 개방형 AI 인프라 기술과 산업 방향을 공유하는 행사다. 

아크릴은 행사 기간 중 5번 전시 부스를 운영하며 GPU 실가동률과 통신 대기 비중을 계측하는 무상 진단 프로그램도 함께 안내했다.