알엔딥, 디지털 성범죄 방지 핵심 기술 개발
인공지능 기술 기반 '레드AI', 온라인 성폭력·유해사이트 원천 차단

[팍스넷뉴스 김세연 기자] 최근 'N번방 사건' 등을 포함해 불거지고 있는 각종 온라인상 성폭력 사고 방지를 위한 인공지능 기반의 모바일 플랫폼 기술이 등장했다. 


인공지능 개발 업체 알엔딥(www.rndeep.co.kr)은 최근 인공지능 기술을 기반으로 온라인 성폭력 및 음란물 유해 사이트를 막는 레드AI 기술 개발을 완료했다고 24일 밝혔다. 


이달초 개발을 마치고 선보인 생성적 적대 인공 신경망(GAN, Generative Adversarial Network)을 이용한 성인물 검출 기술에 이어 두번째 불법콘텐츠 원천 봉쇄 기술이다. 


◆자료=알앤딥


알엔딥 레드 AI 모자이크 기술은 입력된 사진 및 영상의 모든 프레임을 검사해 주요 노출부위에 대해 모자이크를 자동으로 정확하게 생성해주는 기술이다. 기존 단순 검사 방식은 영상의 길이가 길 경우 모자이크 생성에 상대적으로 많은 시간이 소요될 수 있는 반면 레드 AI기술은 매우 빠른 속도로 모자이크를 생성하고, 끊김이 없이 생성시키는데 최적화됐다. 


성인물의 노출 수위, 모자이크의 크기, 모양, 투명도 등 모든 변수를 임의 설정가능하고,  설정 값에 따라 컨텐츠를 검사해 모자이크를 생성하는 방식이다. 해당 화면 내에 문제가 될만한 부분이 포함되어 있다면, 해당 화면 전체를 모두 가리기 위하여 블랙화면으로 처리할 수도 있고, 특정 부위만 흐릿하게 보이게 하는 블러링(Bluring)처리를 할 수도 있다.


알엔딥은 레드 AI기술을 기반으로 불법적으로 활용되는 페이크영상(거짓영상)까지 검출을 위한 딥페이크 검출 기술과 욕설 검출 및 방지 기술 등에 대한 개발도 진행중이다. 


국내에서는 처음으로 FNS(팬덤 네트워크 서비스)를 구축을 위한 모바일 플랫폼 개발에 나서온 알엔딥은 잇딴 관련 기술 개발을 통해 사회적인 문제가 되는 아동포르노를 검출하는데도 활용될 수 있을 것으로 기대하고 있다. 이어 향후 국내외 기관과 긴밀한 협조를 통해 데이터 셋을 확보하고 아동포르노등을 검출하는 기술도 개발해 공유한다는 목표다. 


알엔딥 관계자는 "온라인 커뮤니케이션을 통해 ‘N번방’, ‘박사방’ 외에도 유명인 얼굴을 불법 영상이나 이미지와 합성한 ‘딥페이크’ 영상 유포 등 잇딴 디지털 성범죄 등을 원천적으로 대응할 수 있도록 기술개발을 확장하고 있다"며 "온라인 커뮤니케이션 플랫폼 속에서 자행되고 있는 관련 문제를 원천봉쇄기 위한 기술 구현에 적극 나설 것"이라고 밝혔다. 


ⓒ새로운 눈으로 시장을 바라봅니다. 팍스넷뉴스 무단전재 배포금지