[스타트업 법률 가이드] 스타트업 관점의 인공지능기본법

[프라임경제] 내년 1월22일 국내 최초 인공지능 법안인 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 '인공지능기본법')이 시행된다. 법은 AI 기술을 활용하는 △제약 △바이오 △핀테크 △플랫폼 등 다양한 스타트업에게 직접적인 영향을 미칠 것으로 예상된다.

인공지능기본법은 '선(先)허용-후(後)규제' 원칙을 통해 AI 혁신을 촉진하는 동시에, 고위험 AI에 대해서는 신뢰 확보를 위한 의무를 부과하는 방식을 채택하고 있다. 문제는 스타트업이 자체적으로 고영향 AI 여부를 판단하고 관련 의무를 이행해야 하는 구조여서 부담이 작지 않다는 점이다.

인공지능기본법은 △채용 결정 △의료 진단 △금융 심사 △범죄 수사를 위한 생체인식정보 분석 등을 '고영향 인공지능' 영역으로 규정하고 있으나, 구체적 판단은 사업자의 몫이다. 특히 다목적으로 활용 가능한 AI 모델을 개발하는 경우, 그 중 일부 활용 사례만으로도 전체 개발사가 고영향 규제를 받을 수 있다. 오픈소스 기반 서비스의 경우 최종 책임자가 누구인지 명확하지 않다는 문제도 있다.

고영향 AI 해당 여부에 대하여 정부에 확인을 요청할 수 있으나, 법령상 최대 3개월 이상 소요될 수 있어 서비스 출시 일정에 차질이 발생할 우려가 있다. 더욱이 확인 절차에서 사전 자율검토 결과 제출까지 요구하고 있어 이중부담이 발생한다.

만약 고영향 AI로 판단될 경우 위험관리계획 수립 등 1) 위험관리 의무와 2) AI 결정에 대한 설명방안 마련 의무를 이행해야 한다. 이용자가 AI 결정의 과정과 근거에 대한 설명을 요청할 권리를 갖게 되므로, AI 시스템을 '블랙박스'로 두어서는 안 된다. 

또한 3) AI 활용 사실 고지 및 생성 결과물 표시 등 투명성 확보 의무 및 4) 학습데이터 개요 설명 의무도 부담하게 된다. 다만 생성형 AI의 정의가 지나치게 넓어 단순 요약·번역 서비스까지 규제 대상이 될 수 있다는 문제가 있다. 

최근 관련 설문에 따르면 AI 스타트업 대부분이 법 시행에 대해 아무런 준비를 하지 못한 상태이다. 법령이 요구하는 절차와 기준이 지나치게 추상적이고 복잡하며, 인력과 자원이 부족한 초기 스타트업에게는 과도한 부담으로 작용할 수 있다.

스타트업은 일차적으로 자사 서비스가 고영향 AI에 해당하는지 점검하고, 확인 절차에 최대 3개월 소요될 수 있음을 감안하여 사업 일정을 조정해야 한다. 위험관리나 고지의무 등에 대한 표준 템플릿을 미리 준비하되, 정부가 제공할 템플릿이 중소기업 친화적으로 간소화되도록 업계 의견을 적극 전달해야 한다. 

더불어, AI 윤리 및 신뢰성 확보를 위한 내부 거버넌스 체계를 구축하고 기록·관리 체계까지 갖추어야 한다.

다행히 정부는 "기업의 불확실성을 완화"하고 "시행 초기 과태료 계도기간을 운영"하며 "자문 및 비용 지원"을 할 계획이라고 밝혔다. 향후 마련될 시행령과 고시가 확정되기 전까지 업계 의견이 반영될 여지가 있다. 

따라서 보다 명확한 해석이 이루어지고 스타트업이 과도한 부담을 지지 않도록 제도적 완충 장치와 현실적인 이행 기준이 마련되어야 할 것이다.

김나래 법무법인 디엘지 변호사/공학박사

(前) 산업통상자원부 국가기술표준원