"딥페이크 성범죄 뿌리 뽑는다"…네카오·구글도 강력 대응

네이버 이어 카카오도 '피해 신고' 채널…정부, 텔레그램 CEO 수사 프랑스 당국에 긴급공조

[프라임경제] 최근 AI(인공지능)를 악용한 딥페이크 성범죄가 사회적 문제로 대두되면서 국내외 플랫폼 업계가 후속 대책 마련에 전방위적 노력을 기울이고 있다. 

국내 플랫폼 기업들이 정부의 강경 대응 기조에 발맞춰 디지털 신고 채널을 개설한 것이 대표적 예다. 구글 등 글로벌 빅테크도 딥페이크 콘텐츠 방지 기술을 개발하는 등 적극 대응에 나섰다. 

사이버 범죄 관련 이미지. ⓒ 픽사베이

30일 IT업계에 따르면 네이버·카카오 등 국내 주요 포털 사이트는 딥페이크 성범죄 영상물이나 이미지 등을 신고할 수 있는 신고 채널을 개설하고, 방송통신심의위원회 '딥페이크 성범죄 영상물 신고' 페이지와 일제히 연계를 시작했다.

네이버(035420)는 지난 28일 고객센터 공지사항을 통해 "딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견했다면 아래의 신고 채널을 통해 접수해 주시기 바란다"고 안내했다.

네이버는 "딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다"며 단순히 타인의 콘텐츠를 게시하거나 유통한 경우에도 문제가 될 수 있다고 경고했다.

그러면서 게시물 신고센터, 그린UGC 공식 블로그를 통해서도 딥페이크 유포에 대한 주의 및 신고를 당부했다.

카카오(035720)도 뒤이어 피해 신고 접수 채널을 개설했다.

카카오는 전날 고객센터와 카카오톡 공지사항을 통해 "카카오 서비스 내 딥페이크 영상물, 이미지 등 관련 콘텐츠를 발견한 경우 즉시 신고해 주기를 바란다"며 신고 채널 링크를 첨부했다. 

또 "본인을 포함한 특정인의 초상과 성적 이미지를 합성한 정보 또는 합성 제작을 제안·요청하는 정보가 있다면 신고해 주시기를 바란다"며 경찰청 사이버범죄수사과, 디지털성범죄피해자지원센터 등의 연락처도 소개했다.

현재 네이버와 카카오는 딥페이크와 연관된 검색어를 청소년 보호 검색어로 지정하고 모니터링 전담 부서를 운영 중에 있다. 구체적으로 네이버는 AI 기반 실시간 음란물 필터링 기술로 운영정책 위반 게시물을 감지하고 차단 조치하고 있다. 

카카오는 카카오톡에 페이크 시그널을 도입해 허위조작정보로 인한 사기 및 사칭을 줄이기 위한 경고 메시지를 전달하고 있다. 이와 더불어 허위영상물 배포 및 제공 행위가 발각될 시 카카오톡 전체 서비스에 대한 이용을 영구 제한하는 정책을 시행하고 있다.

구글은 이용자 신고와 자동화된 시스템을 활용해 불법적인 딥페이크 콘텐츠를 추적 및 식별하고 있다. 지난해 AI로 생성한 이미지, 오디오에 눈에 띄지 않은 비가시성 워터마크를 삽입하는 '신스ID(SynthID)' 기술을 도입한 데 이어 올 5월부터는 이를 텍스트와 동영상에도 확대 적용했다. 

유튜브의 경우 2만명 이상의 리뷰어와 머신러닝 기술을 활용해 콘텐츠의 불법성을 판단하고 있다. 자사 가이드라인을 통해 AI 기술로 잠재적 위반 가능성이 있는 콘텐츠를 감지하고, 리뷰어가 해당 콘텐츠가 실제로 정책을 위반했는지 확인하는 식이다.

실제로 전날 딥페이크 성범죄 사태와 관련해 '호들갑을 떤다'고 막말을 한 유튜버가 '크리에이터 가이드라인 위반'으로 수익 활동이 정지됐다. 

유튜브에 따르면 유튜브 커뮤니티 가이드는 괴롭힘 및 사이버 폭력에 대한 명확한 정책을 포함하고 있으며, 이를 바탕으로 사회적 또는 정치적 맥락에 따라 특정 개인을 신체적 상해의 위험에 노출시키는 콘텐츠를 금지하고 있다. 

앞서 국내 한 대학에서 여학생의 얼굴에 음란물을 합성한 딥페이크 영상이 유포된 데 이어 비슷한 종류의 텔레그램 대화방이 잇따라 발견돼 사회적 문제로 떠올랐다.

특히 피해자의 대다수가 중고생 등 미성년자라는 점에서 사회적 우려가 확산하고 있다. 실제로 지난 3년간 경찰 수사가 진행된 딥페이크 성범죄 사건의 피해자 10명 중 6명이 미성년자였던 것으로 나타났다. 이밖에 대학생, 교사, 여군 등도 피해자에 포함된 것으로 전해졌다.

이에 방심위는 지난 28일 딥페이크 성범죄 영상물 10대 종합대책을 발표하고 강력 대응한다는 방침을 밝힌 바 있다. 딥페이크 음란물의 주요 유통 경로로 '텔레그램'이 지목된 만큼 현재 텔레그램 최고경영자(CEO)를 수사 중인 프랑스 당국에 텔레그램 딥페이크 성범죄 영상물 대응과 관련해 긴급 공조 요청을 보낸 상태다.

이로써 범죄 처벌 수위도 한층 강화될 전망이다. 국민의힘과 정부는 전날 국회에서 연 '딥페이크 성범죄 관련 부처 긴급 현안보고'에서 현행 최대 징역 5년인 '허위영상물' 유포 등 형량을 '불법 촬영물'과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진한다고 밝혔다. 

아울러 정부는 '촉법소년(형사처벌을 받지 않는 10세 이상 14세 미만)'의 기준을 낮추는 방안도 검토 중이다. 가해자들이 만 14세 미만인 촉법소년에 해당할 경우 제대로 된 처벌이 어렵다는 지적이 제기된 데 따른 것이다. 

이밖에 딥페이크 게시물을 유포한 사람뿐 아니라 제작하는 사람도 처벌 대상에 포함하는 것도 입법으로 보완하는 방안이 추진된다.