서울시, 성착취영상 찾아서 삭제 신고까지 6분…AI 시스템 첫 개발

서울시가 온라인에 유포된 디지털 성범죄 영상을 자동으로 삭제 신고하는 '인공지능(AI) 자동 삭제신고 시스템'을 최초로 개발했다고 21일 밝혔다.

이로써 사회관계망서비스(SNS)나 온라인 커뮤니티, 불법 사이트 등 온라인에 떠도는 불법 영상물을 찾아내서 해당 사이트에 삭제 신고를 하는 데까지 드는 시간이 기존 약 2~3시간에서 6분으로 단축된다.

AI 자동 삭제신고 시스템은 24시간 피해 영상물을 상시 검출한 뒤 찾아낸 영상물을 자동으로 채증해 보고서를 만든 후 해당 사이트에 보낼 삭제 요청 전자우편을 자동으로 생성한다. 이렇게 완성된 신고 전자우편은 지원관이 최종 확인 후 발송된다.

멀티모달 대형언어모델(Multimodal Large Language Model, MLLM)과 셀레니움 기반 웹 자동화 도구(Selenium-based Web Automation Tool) 등을 결합해 디지털 성범죄물 탐지부터 채증, 문서화, 이메일 생성에 이르는 전 과정을 자동화했다고 시는 설명했다.

피해 영상물이 해외에 서버를 둔 사이트에 게재되는 사례가 늘어나면서 시는 해외에 유포된 피해 영상물을 검색 후 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고한다.

삭제 신고가 되면 해당 사이트는 전기통신사업법에 따라 삭제하고 접속을 차단해야 한다. 이행하지 않으면 3년 이하 징역 또는 1억원 이하 벌금, 매출액 3% 이하에 해당하는 과징금, 등록 취소 또는 사업 정지 등 제재를 받을 수 있다.

이에 앞서 시는 '서울 디지털 성범죄 안심지원센터(서울여성가족재단 운영)'를 운영해 왔다. 3년간(2022년 3월~올해 3월) 피해자 3650명을 지원했고 총 지원 건수는 6만4677건이다.

김선순 서울시 여성가족실장은 "서울시는 전국 최초로 AI를 통한 모니터링 기술을 도입한 데 이어서 이제 AI가 자동으로 삭제 신고까지 하는 기술을 도입했다"며 "검출부터 삭제 신고까지 걸리는 시간을 획기적으로 단축시킬 것으로 기대하고 있다"고 밝혔다.