노타, '독파모' 이어 '모두의 AI' 참여…"국가대표 AI 모델부터 전 국민 AI 서비스까지"

모델 개발부터 실제 서비스 구현까지 효율화 지원…"소버린 K-AI 실현의 필수 기술"

모델 개발부터 실제 서비스 구현까지 효율화 지원…"소버린 K-AI 실현의 필수 기술"

ⓒ 노타

[프라임경제] 인공지능(AI) 모델 경량화 및 최적화 기술 기업 노타(486990)가 정부의 '독자 AI 파운데이션 모델(이하 독파모)' 프로젝트에 이어 '모두의 AI' 사업에 참여하며, AI 모델 개발부터 실제 서비스 구현까지 전 과정에서 필수적인 최적화 기술의 역할을 확대한다고 1일 밝혔다. 

'모두의 AI'는 국민 누구나 일상에서 AI를 쉽고 안전하게 활용할 수 있도록 과학기술정보통신부와 정보통신산업진흥원이 추진하는 사업이다. 노타는 SK텔레콤이 주관하는 컨소시엄의 AI 모델 인프라 분야에 참여해 사업에 활용되는 AI 모델의 경량화 및 최적화를 맡는다.

'독파모'가 글로벌 경쟁력을 갖춘 국가 AI 파운데이션 모델을 개발하는 사업이라면, '모두의 AI'는 이러한 AI 역량을 국민이 실제 사용하는 서비스로 구현하는 사업이다. 

노타는 성격이 다른 두 국가 AI 프로젝트에 모두 참여하며 모델 개발 단계에서는 AI 모델의 연산량과 메모리 사용량을 줄이고, 실제 서비스 단계에서는 대규모 사용자를 안정적으로 처리할 수 있도록 운영 효율을 높이는 핵심 최적화 기술을 제공한다. 

이를 통해 국가 AI 개발부터 실제 서비스 운영까지 AI 전 주기에서 최적화 기술 역할을 수행하게 됐다. 

SKT 컨소시엄은 이용자의 상황과 필요를 이해해 공공·생활 정보를 맞춤형으로 안내하고, 필요한 후속 행동까지 연결하는 AI 서비스를 구현할 계획이다. 향후 공공 서비스 탐색·신청과 증명서 발급을 비롯해 의료·교통·금융·교육 등 다양한 생활 영역의 예약·신청·결제까지 지원하는 실행형 AI로 확대하는 것을 목표로 한다.

노타는 이 과정에서 AI 모델의 연산량과 메모리 사용량을 줄이고, 실제 서비스 환경에서 빠르고 안정적으로 구동될 수 있도록 AI 모델 최적화뿐 아니라 실제 AI 서비스 운영 효율까지 함께 지원한다. 

이를 통해 국가 AI 모델의 기술 경쟁력을 국민이 체감할 수 있는 서비스로 연결하는 데 기여할 계획이다.

전 국민이 이용하는 AI 서비스는 많은 사용자의 다양한 요청을 동시에 처리해야 한다. 단순한 정보 검색부터 여러 단계의 판단과 도구 활용이 필요한 복잡한 업무까지 요청의 종류가 다양해 하나의 고성능 모델만으로 모든 작업을 처리하면 인프라 부담과 운영 비효율이 커질 수 있다.

따라서 실제 국민 대상 AI 서비스는 여러 AI 모델과 AI 에이전트가 동시에 동작하는 환경이므로, 한정된 연산 자원 안에서 효율적으로 운영하는 최적화 기술이 필수적이다. 

이를 통해 모델의 성능뿐 아니라 응답 속도와 안정성, 메모리 사용량과 연산 효율까지 함께 고려해야 실제 서비스 품질을 높일 수 있다.

노타는 자체 AI 모델 경량화 및 최적화 플랫폼 '넷츠프레소'를 기반으로 모델의 성능을 유지하면서 연산량과 메모리 사용량을 줄인다. AI 모델의 특성과 목표 하드웨어 환경을 함께 분석해 데이터센터와 기업 서버, 엣지 디바이스 등 다양한 인프라에서 효율적으로 구동될 수 있도록 지원한다.

채명수 노타 대표는 "국가 AI 경쟁력은 우수한 모델 개발을 넘어 국민이 실제 사용하는 서비스를 구현하고, 이를 대규모 환경에서도 빠르고 안정적으로 운영하는 역량에서 완성된다"고 말했다.

"노타는 누구나 일상 어디서든 AI의 가치를 체감할 수 있도록 최적화 기술을 발전시켜온 만큼, '모두의 AI' 프로젝트에서도 모델 개발부터 실제 서비스 운영까지 최적화 역량을 폭넓게 적용해 대한민국이 독자적인 AI 기술과 활용 기반을 갖추는 '소버린 K-AI' 실현에 기여하겠다"고 강조했다.