• 프린트
  • 메일
  • 스크랩
  • 글자크기
  • 크게
  • 작게

노타, 모델·GPU 넘어 AI 에이전트까지 '풀스택 최적화'…작업 시간 최대 47% 단축

코딩 에이전트 검증 기반으로 적용 확대…최적화 소프트웨어 사업 기회 확장

박기훈 기자 | pkh@newsprime.co.kr | 2026.11.18 08:11:34
코딩 에이전트 검증 기반으로 적용 확대…최적화 소프트웨어 사업 기회 확장 

ⓒ 노타


[프라임경제] 인공지능(AI) 추론 효율화 기업 노타(486990)는 기존의 AI 모델 경량화와 그래픽처리장치(GPU) 커널 최적화에 더해 AI 에이전트의 작업 흐름까지 제어하는 '풀스택 최적화' 기술을 공개했다고 19일 밝혔다. 

동일한 AI 모델과 GPU 환경에서 코딩 에이전트 클라인 기본 구성 대비 작업 시간을 최대 47%, 출력 토큰을 최대 60% 줄여 별도의 장비 증설이나 모델 교체 없이 기존 AI 인프라의 활용 효율을 높였다. 

AI 에이전트가 코드 작성과 오류 수정 등 실제 업무에 활용되면서, 문제 해결 능력과 함께 작업에 드는 시간과 자원을 관리하는 것이 중요해지고 있다. 에이전트는 하나의 요청을 처리하는 동안 모델 호출과 도구 사용, 결과 확인을 반복하기 때문에 불필요한 추론과 재검토가 누적되면 사용자의 대기시간과 연산 부담도 커질 수 있다.

이번 기술을 통해 노타는 기존 모델 경량화와 하드웨어 최적화를 넘어 AI 에이전트의 실행 과정까지 최적화 범위를 확대했다. 모델 경량화, 하드웨어별 추론 최적화, GPU 커널 최적화에 이어 에이전트의 추론, 검증, 도구 호출 방식까지 조정함으로써 AI 서비스 전반의 실행 효율을 높이는 '풀스택 최적화' 역량을 강화하고 있다. 

이번에 새롭게 적용한 핵심 기술은 에이전트의 작업 흐름을 관리하는 '하네스' 최적화다. 

최근 응답 길이와 파일 수정 이력, 도구 실행 결과 등을 분석해 상황에 맞는 추론 강도를 선택한다. 이미 통과한 검증이나 불필요한 재검토를 반복하는 행동도 줄여 필요한 단계에 연산 자원을 집중하도록 했다.

모델의 답변 생성 과정과 GPU의 계산 처리도 함께 개선했다. 'DFlash2 기반 추측 디코딩'에 반복 문맥을 재사용하는 기술을 적용해 본 모델이 받아들이는 예측의 비율을 높였다. 

GPU에서 주요 계산을 수행하는 코드인 '커널'은 하드웨어 특성에 맞춰 조정하고, 여러 GPU가 빠른 실행 설정을 공유하도록 해 중복 튜닝과 대기 부담을 줄였다.

노타 자체 성능 평가는 동일한 AI 모델과 엔비디아의 전문가용 GPU 'RTX PRO 6000' 4장을 사용하는 환경에서 진행했다. 

오픈소스 코딩 에이전트 '클라인(Cline)'의 기본 구성을 비교 기준으로 삼았으며, 명령어 기반 작업 수행 능력을 평가하는 'Terminal-Bench 2.1'과 다양한 프로그래밍 언어의 소프트웨어 오류 수정 능력을 평가하는 'SWE-bench Multilingual'을 활용했다.

노타는 모델 추론과 GPU 커널 최적화를 공통으로 적용하고, 하네스 제어 범위에 따라 'Fast'와 'Ultra Fast' 두 모드로 평가했다. 

작업 상황에 맞춰 추론 강도를 조절하는 Fast 모드는 두 평가에서 문제 해결률을 높이거나 유사하게 유지하면서 작업 시간을 최대 32%, 출력 토큰을 최대 42% 줄였다. 작업 성과를 대체로 유지하면서 결과를 기다리는 시간과 AI가 추론 및 답변 과정에서 생성하는 정보량을 함께 줄였다.

반복 검증과 불필요한 재검토까지 줄이는 Ultra Fast 모드는 작업 시간을 최대 47%, 출력 토큰을 최대 60% 줄였다. 다만 소프트웨어 오류 수정 평가에서는 문제 해결률이 비교 기준인 65.7%에서 62.0%로 낮아져 작업 유형과 최적화 수준에 따라 처리 효율과 해결률에 차이가 나타났다.

노타는 이번 기술을 코딩 에이전트를 시작으로 기업용 AI 에이전트와 다양한 생성형 AI 서비스로 확대할 계획이다. 기존 모델과 하드웨어 최적화 기술에 에이전트 실행 제어를 결합해 고객이 동일한 컴퓨팅 자원으로 더 많은 AI 업무를 처리할 수 있도록 지원하고, 이를 최적화 소프트웨어 라이선스와 기술 공급 사업으로 연결한다는 전략이다. 

김태호 노타 최고기술책임자(CTO)는 "AI 에이전트가 실제 업무에 도입될수록 모델의 단순 추론 속도보다 하나의 작업을 완료하는 데 필요한 시간과 연산 비용이 더욱 중요해진다"며 "모델과 GPU 최적화를 넘어 에이전트의 추론과 검증 과정까지 함께 최적화해 동일한 인프라에서 더 많은 AI 업무를 처리할 수 있도록 기술 범위를 확대하고 있다"고 말했다. 

이어 "향후 다양한 기업용 AI 에이전트와 서비스 환경으로 적용을 확대해 고객의 AI 운영비용을 낮추고, 노타의 최적화 소프트웨어 사업 영역도 넓혀갈 것"이라고 전했다.

  • 이 기사를 공유해보세요  
  •  
  •    
맨 위로

저작권자(c) 프라임경제, 무단전재 및 재배포금지, AI 학습 및 활용 금지




 

많이 본 뉴스