AI 활용 논문 늘자 검증 기준 주목…메타크라우드 '글자국' 베타 출시

학술출판계 AI 사용 공개 원칙 확산…문서·문단·문장 단위 분석 제공

[프라임경제] 생성형 인공지능(AI)을 활용한 논문·학술 문서 작성이 확산되면서 대학과 학술기관의 평가 기준 마련이 과제로 떠오르고 있다. 해외 주요 학술출판 단체와 출판사들이 AI 활용 사실 공개를 요구하는 가운데, AI 개입 정도를 구분해 판단하는 검증 솔루션도 등장했다.

글자국 서비스 화면 이미지. ⓒ 메타크라우드

메타크라우드(대표 김형진)는 논문 및 학술 문서에 특화된 AI 활용 검사 솔루션 '글자국' 베타를 출시했다고 29일 밝혔다.

글자국은 AI 개입 강도에 따라 활용 수준을 3단계로 구분한다. 이를 통해 각 단계별 확률값을 제공하는 방식으로 설계됐다. 문서 전체뿐 아니라 문단과 문장 단위에도 동일한 분석 방식을 적용해 AI 개입 가능성이 높은 구간을 확인할 수 있도록 했다.

최근 학술출판계에서는 AI 활용 기준을 구체화하는 움직임이 이어지고 있다. 국제의학학술지편집인위원회(ICMJE)는 논문 제출 과정에서 저자가 △대규모언어모델(LLM) △챗봇 △이미지 생성기 등 AI 보조 기술을 사용했는지 공개하고, 사용 방식도 설명해야 한다고 권고하고 있다.

영국의 출판윤리위원회(COPE)는 AI 도구를 논문 저자로 기재할 수 없다는 입장을 제시했다. 저자는 연구 결과와 작성 내용에 책임을 질 수 있어야 하지만, AI 도구는 책임 주체가 될 수 없다는 취지다.

글로벌 학술출판사 Elsevier도 논문 작성 과정에서 AI 또는 AI 보조 도구를 사용한 경우 별도 항목을 통해 이를 공개하도록 안내하고 있다. AI 도구명, 사용 목적, 저자의 감독 범위 등을 명시하도록 한 점도 특징이다.

반면 AI 탐지 도구의 정확성을 둘러싼 논란도 이어지고 있다. 스탠퍼드 인간중심인공지능연구소는 AI 탐지기가 비원어민 영어 작성자의 글을 AI 작성물로 오인할 가능성이 크다는 연구 결과를 소개하며, 탐지 도구의 신뢰성 문제를 지적한 바 있다.

이처럼 AI 활용을 무조건 금지하기보다 사용 여부와 개입 수준을 투명하게 공개하려는 흐름이 확산되면서, 학술 문서에 특화된 검증 체계의 필요성도 커지고 있다. 특히 논문은 일반 문서와 달리 정제된 문체와 반복적인 구조를 갖는 경우가 많다. 또 기존 탐지 도구가 이를 AI 작성물로 오인할 가능성이 있다는 지적이 제기돼 왔다.

메타크라우드는 이러한 문제를 반영해 생성형 AI 확산 이전의 인간 작성 논문 데이터를 기반으로 논문 고유의 구조와 문체를 반영한 분석 모델을 구축했다고 설명했다. 이를 통해 작성자는 AI 개입 가능성이 높은 문단을 중심으로 문서를 점검하고, 평가자는 핵심 검토 구간을 선별해 확인할 수 있다는 설명이다.

글자국은 문서·문단·문장 단위 분석을 통해 단순히 AI 작성 여부만 판단하는 방식에서 벗어나 문서 전반의 구조를 진단하도록 설계됐다. 작성자는 AI 작성률을 낮추기 위해 문장을 일일이 수정하는 방식보다, 개입 가능성이 높은 구간을 중심으로 문서 완성도를 점검할 수 있다.

데이터 보안도 주요 고려 사항이다. 논문, 연구계획서, 평가자료 등 학술 문서는 외부 유출에 민감한 정보가 포함될 수 있다. 메타크라우드는 외부 서버 전송에 따른 데이터 유출 우려를 줄이기 위해 온프레미스 방식으로도 적용할 수 있도록 설계했다. 대학·학술기관뿐 아니라 연구기관, 평가기관, 정부기관 등 기관별 환경에 맞춘 도입도 가능하다는 설명이다.

김형진 메타크라우드 대표는 "글로벌 학술지를 중심으로 AI 활용 기준이 점차 구체화되고 있다"며 "AI 사용 여부를 단순히 금지하거나 허용하는 방식보다, 활용 목적과 개입 수준에 따라 판단할 수 있는 검증 체계가 필요하다"고 말했다.

이어 "기관별 요구를 반영한 맞춤형 검증 결과를 제공해 평가 과정의 신뢰성과 공정성을 높이는 데 기여하겠다"고 덧붙였다.

한편 메타크라우드는 IBK기업은행(024110)의 창업 육성 플랫폼 IBK창공(創工) 구로 15기 육성기업으로, 액셀러레이터 씨엔티테크(대표 전화성)가 함께 육성을 맡고 있다.