대구대학교, 국가 사이버 보안 AI 개발사업 참여대학 선정···모델 안전성 검증 주도

186억원 규모 국가사업 참여...KAIST·포항공대·서울대 등과 국가 사이버 안보 역량 강화

[프라임경제] 대구대학교가 국가 사이버 안보 분야에 활용될 인공지능(AI) 기술 개발에 본격적으로 참여한다.

대구대학교 성산홀 전경. ⓒ 대구대학교

대구대학교는 과학기술정보통신부 등이 추진하는 '국가 사이버 안보 역량 내재화를 위한 AI 파운데이션 모델 개발' 사업에 참여하는 대학으로 최종 확정됐다.

총 186억4100만원이 투입되는 이번 사업은 국내 기술로 사이버 보안에 특화된 AI 모델을 확보하는 것이 핵심이다. 

해외에서 개발된 AI 모델에 대한 기술 의존을 줄이고, 국가 안보 분야에 적용할 수 있는 자체 AI 역량을 국내에 축적하는 것이 사업의 주요 목표다.

대구대는 이 가운데 AI 모델이 실제 사이버 보안 환경에서 안전하게 작동할 수 있는지를 확인하는 역할을 맡는다.

컴퓨터정보공학부 김창훈 교수가 연구책임자로 참여해 'AI 모델 안전성 및 신뢰성 검증' 연구를 수행한다. 

연구팀은 보안 AI를 대상으로 각종 공격 상황을 가정한 검증을 진행하고, 악의적인 입력이나 프롬프트를 이용한 조작 등에 모델이 어느 정도 대응할 수 있는지를 분석할 예정이다.

특히 단순히 AI 모델의 성능을 확인하는 데 그치지 않고 안전성과 신뢰도를 객관적으로 판단할 수 있는 평가 방법을 마련하는 데 연구 역량을 집중한다. 

이를 통해 개발된 초거대 보안 AI의 취약점을 파악하고 실제 활용에 필요한 검증 체계를 구축한다는 계획이다.

이번 사업에는 국내 AI 산업과 학계를 대표하는 기관들이 대거 참여한다. 네이버클라우드가 컨소시엄 주관기관을 맡으며 LG AI연구원이 공동으로 기술 개발을 진행한다.

대구대와 함께 KAIST, 포항공대, 서울대, 고려대 등 8개 대학을 비롯해 관련 기업과 전문기관 등 모두 32개 기관이 연구진에 합류했다.

사업단은 AI를 사이버 공격 대응과 방어에 각각 특화시키는 방향으로 기술을 개발한다. LG AI연구원의 EXAONE을 활용한 공격 특화 모델과 네이버클라우드의 HyperCLOVA X 기반 방어 특화 모델을 구축하고, 여러 AI 에이전트를 연계하는 통합 서비스 개발도 추진한다.

연구 성과는 최종 검증 절차를 거쳐 오픈소스로 공개될 예정이다. 공개 라이선스는 Apache License 2.0이 적용돼 기업과 연구기관 등이 다양한 목적으로 활용할 수 있도록 할 방침이다.

김창훈 컴퓨터정보공학부 교수는 "국가 안보와 직접적으로 연결되는 AI 기술 개발에 참여하는 만큼 책임이 막중하다"며 "대구대의 AI 검증 기술을 적극 활용해 국내에서 개발되는 보안 AI가 실제 현장에서 요구되는 안전성과 신뢰성을 확보할 수 있도록 연구하겠다"고 말했다.

대구대는 이번 사업 참여를 계기로 AI와 사이버 보안 분야의 연구 기반을 확대하고 전문인력 양성에도 힘을 쏟을 예정이다.

특히 국책 연구사업을 통해 축적되는 기술과 연구 경험을 교육 현장과 연계해 관련 분야 실무 역량을 갖춘 인재를 육성하고, AI·ICT 분야 연구 경쟁력을 지속적으로 높여간다는 구상이다.