네카오, 총선 앞두고 '딥페이크' 악용 방지 총력

네이버, 클로바X·큐:에 선거 주의 문구…카카오, 워터마크 기술 도입 준비

[프라임경제] 네이버(035420)·카카오(035720)가 오는 4월 총선을 앞두고 인공지능(AI) 기술을 활용한 딥페이크(가짜 디지털 조작물·사진) 콘텐츠에 대한 우려가 커지면서 기술 악용 방지에 총력을 기울이고 있다. 

총선을 앞두고 네이버와 카카오가 딥페이크 악용 방지에 나섰다. ⓒ 각사

6일 업계에 따르면, 네이버는 최근 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구가 제공되도록 조치했다. 

딥페이크를 부적절하게 사용하거나 관련 정보를 찾고자 하는 의도가 포함된 검색어들을 대상으로 한다. 검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있도록 도와준다는 취지다. 

네이버에 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구가 제공된다. ⓒ 네이버

네이버에 '딥페이크 사이트'를 검색할 경우 "딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해 주세요"라는 안내 문구가 뜬다.

네이버는 딥페이크 악용 사례로 인한 피해 유형이나 피해 신고 방법 등을 안내하는 도움말도 제공함으로써 이용자의 피해에 대응할 수 있는 창구도 마련했다.

네이버 측은 "딥페이크와 같은 생성형 AI 기술 활용에 주의가 필요한 부분들을 보다 적극적으로 알리고 이에 대한 모니터링도 지속 강화해 나가겠다"고 했다.

또한 네이버는 자사의 AI 서비스에서 선거와 관련한 콘텐츠 생성을 원천 금지한다.

대화형 AI 서비스 '클로바X'와 생성형 AI 검색 특화 서비스 '큐:'(CUE:)를 선거와 관련된 정보 요청이나 예측 등을 위해 사용하는 경우 생성형 AI의 기술적 한계를 명확히 하고 제공이 어려움을 안내한다. 선거 기간 동안 클로바 X와 Cue: 서비스 하단에 선거 관련해 사용자 주의 안내 문구를 제공한다. 

이 밖에 네이버는 신고센터 메인 페이지에 '선거 관련 허위 정보 신고' 채널을 개설했다. 사용자 접근성을 높이고, 선거에 영향을 줄 수 있는 허위 정보의 신고가 원활하게 진행될 수 있도록 신고 방법 등 관련 정보를 제공한다.

명예훼손 등 권리보호센터를 통해 접수되는 게시중단 요청의 경우 선거 출마 후보자 등 관련인으로부터의 요청은 선거 관련법과 한국인터넷자율정책기구(KISO) 선거 관련 정책에 따라 운영된다. 게시물에 대한 임시조치는 선거관리위원회의 결정에 의해 이뤄진다.

네이버는 "뉴스 댓글 집중 모니터링 기간 동안 전담 담당자를 확충하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생시 빠르게 대응해 나갈 예정"이라고 밝혔다.

카카오는 유해 콘텐츠를 필터링하는 기술에 대한 연구를 진행하고 있다. 

AI 콘텐츠 건강성 관련 연구 차원에서 허위정보 혹은 딥페이크를 검출하는 역할을 하는 방향으로 연구하고 있다. 별도로 AI 어뷰징 관련 기술적 대응을 위한 팀도 운영 중이다.

다음의 이미지 검색에는 업로드 되는 콘텐츠가 성인물인지 검출하는 시스템을 적용하고 있다. 검색 색인을 하기 전에 스팸 이미지나 성인 이미지를 제외하기 위한 전처리 작업이 필요한데, AI 기술을 활용하면 일반 이미지와 스팸·성인 이미지를 분류해 빠른 시간 내에 색인 대상으로 유입되는 이미지들을 분류 처리할 수 있다.

카카오는 카카오브레인의 이미지 생성 모델인 '칼로'에 비가시성 워터마크를 붙이는 기술 도입을 검토 중이다.

카카오 관계자는 "비가시성 워터마크는 유저들에는 워터마크가 보이지 않으나 기술적으로는 칼로 생성 여부를 할 수 있는 기술로 구글에서도 해당 기술을 연구 운영 중"이라며 "최대한 빨리 적용하기 위해 노력하고 있다"고 설명했다.