AI 윤리·신뢰성 정책 논의장 열려

과기정통부, 2023 인공지능 윤리정책 포럼 공개 세미나 개최

[프라임경제] 과학기술정보통신부(이하 과기정통부)는 한국정보통신기술협회(TTA), 정보통신정책연구원(KISDI)과 함께 23일 서울 서초구 엘타워에서 '2023 인공지능 윤리정책 포럼 공개 세미나'를 개최했다고 밝혔다.

ⓒ 과학기술정보통신부

이번 행사는 제2기 인공지능 윤리정책 포럼의 운영활동과 주요 정책 추진 결과를 국민에게 공개하고 의견을 수렴하고자 개최됐다.

특히 이번 공개 세미나는 올해 처음으로 인공지능 신뢰성을 확보한 우수 제품·서비스를 선정해 시상하는 '인공지능 신뢰성·품질 대상'과 연계하는 한편, 인공지능 윤리영향평가 운영방안, 일반인 대상 인공지능 윤리교육 교재 등 올해 추진한 정책 과제물들을 국민들에게 처음으로 선보였다. 

이에 대한 논의과정을 온라인 생중계를 통해 전국민에게 공개했다는 점에서 의미를 더했다.

시상식에서는 인공지능 신뢰성이 확보된 제품 및 서비스를 개발 또는 제공하는 기업을 대상으로 과기정통부 장관상(2점)과 우수상(7점)을 수여했다. 

과기정통부 장관상으로 '인공지능 윤리기준'을 참고해 기업자체 윤리 점검표를 마련하고 자사 면접평가 솔루션에 신뢰성 검증을 시행한 제네시스랩이 '대상'에, 설명가능한 인공지능을 기반으로 급성질환 조기 진단 예측을 위한 의료 소프트웨어를 제공하는 에이아이트릭스가 '최우수상'에 각각 선정됐다.

이어진 공개 세미나는 성과보고 및 정책제언을 시작으로, △윤리 △기술 △교육 세션별 발표와 패널토론으로 구성됐다. 

문광진 KISDI 부연구위원은 지난 1년간 법률·교육 분야별 생성형 인공지능 활용 쟁점 및 '디지털 권리장전' 수립을 위해 윤리적으로 고려해야 할 사항을 논의했던 포럼의 활동내용을 발표했다.

김명주 포럼위원장(서울여대 교수)은 '인공지능 규제 글로벌 동향에 따른 인공지능 윤리정책 제언' 발표에서 최근 생성형 인공지능의 확산으로 인한 위험을 관리하려는 국제동향을 조망했다. 

또한 산업육성과 신뢰 기반조성을 균형있게 다루는 '인공지능법' 제정과 인공지능 윤리영향평가, 신뢰성 인증제도 추진 및 글로벌 인공지능 거버넌스에 참여해 우리나라가 주도적인 역할을 해야 할 필요성을 강조했다.

제1세션에서는 문정욱 윤리분과장(KISDI 실장)이 '인공지능 윤리영향평가(안)'를 주제로 △대상 선정 △기초 분석(평가도구의 구체화 및 정교화) △영향평가 시행 △정책 제언·보고서 작성 단계로 구성된 윤리 영향평가체계(안)를 발표했다. 

UNESCO가 발간한 윤리영향평가 가이드라인을 참조해 윤리원칙별 긍정적·부정적 영향을 검토·기술하고 과정 및 결과에 대한 타당성 확보를 위해 다면적 평가(전문가 평가단·국민 포럼단·온라인 창구 활용)를 시행하겠다고 밝혔다.

제2세션에서는 이강해 기술분과장(TTA 단장)이 '인공지능 신뢰성 민간 자율인증'을 주제로 △인증체계 개요 △인증 기준 △시험·인증 절차에 관해 설명하고 '2024 신뢰할 수 있는 인공지능 개발 안내서' 개발 현황을 발표했다. 

특히 신뢰성 인증의 국제적 공신력을 높이기 위해 IEEE, NIST 등과 협력해 상호호환성을 확보하고, 생성형 인공지능 결과물에 워터마크 도입 등 인공지능 관련 최신 연구동향을 반영해 개발안내서를 지속적으로 보완해 나갈 것을 강조했다.

제3세션에서는 조성은 연구위원(KISDI)이 '일반인을 위한 인공지능 윤리교육 교재 개발 과정과 내용'이라는 주제로 △필요성 △구성방향과 집필 의도 △교재의 목차 및 주요 내용에 대해 발표했다. 

아울러 일반인을 위한 교재는 일반성인 학습자의 디지털 역량 격차가 큰 것을 고려해 이론 중심이나 지식전달보다는 각 목차마다 간단한 체험이나 실습을 통해 인공지능 기술로 인한 사회영향이나 윤리 이슈를 살펴보고 성찰할 수 있도록 구성했다고 설명했다.