딥페이크 피해 1년 새 227% 급폭증·97%가 여성, 범국가 전략적 총력 대응 필요

인공지능(AI │Artificial Intelligence)은 우리 삶에 놀라울 정도로 많은 도움을 주고 있지만, 부작용의 충격도 만만치 않다. 가장 큰 부작용은 단연 ‘딥페이크(Deepfake │ 불법 합성물)’다. ‘딥페이크(Deepfake)’는 AI 심층학습을 뜻하는 ‘딥러닝(Deep learning)’과 가짜를 의미하는 ‘페이크(Fake)’의 합성어로 AI 기술을 악용해 사람의 얼굴 등 이미지를 합성·편집해 실제처럼 보이도록 조작한 허위 사진·영상 편집물이다. ‘챗 GPT’ 열풍과 함께 누가 언제 어디서 누구의 얼굴을 합성해 조작하고 있을지 모를 일이다. 지난해 ‘디지털성범죄피해자지원센터(디성센터)’의 지원을 받은 디지털 성범죄 피해자가 사상 처음으로 1만 명을 돌파했다. 피해 사례는 1년 새 3배나 급속히 폭증했고, 피해영상물 삭제지원 건수 역시 처음으로 30만 건을 넘어섰으며, 합성·편집 피해 227.2% 폭증했고 10대·20대가 피해자의 92.6%에 이르며, 여성 피해자는 96.6%로 압도적이다.

여성가족부와 한국여성인권진흥원은 지난 4월 10일 이와 같은 내용이 담긴 ‘2024 디지털성범죄 피해자 지원 보고서’를 발간했다. 보고서에 따르면 지난해 ‘디성센터)’에서 상담, 삭제지원, 수사·법률·의료 지원연계 등의 지원을 받은 디지털 성범죄 피해자는 1만305명으로 전년 8,983명 대비 1322명(14.7%) 늘었다. 피해자가 1만명을 넘긴 건 센터가 출범한 지난 2018년 이후 처음이다. 피해자 성별로는 여성이 7428명(72.1%)이고 남성은 2877명(27.9%)이며, 연령대별로는 10대(2,863명 27.8%)와 20대(5242 50.9%)가 8105명으로 무려 78.7%를 차지한 것으로 밝혀졌다. 피해 유형별로는 2024년 딥페이크 기술 등을 활용한 합성·편집 피해 건수가 무려 1384건이 접수돼 2023년 423건 대비 227.2%나 급속히 증가했다. 전체 피해에서 차지하는 비중도 2.9%에서 8.2%로 폭증했다. ‘디성센터’가 지난해 8월 ‘딥페이크 성범죄 전담 대응팀’을 구성해 피해지원과 수사 의뢰에 적극적으로 임한 영향으로 분석된다. 피해자는 여성이 96.6%로 압도적으로 많아 주로 여성의 얼굴·신체가 딥페이크 범죄의 표적이 되는 것으로 나타났다. AI 기술 발전 때문에 실사와 구분할 수 없게 된 딥페이크 영상은 가짜뉴스뿐 아니라 성범죄에 광범위하게 악용된다. 엄중한 단속과 처벌, 적극적 예방교육 강화, 세밀한 피해자 지원 등 더 포괄적이고 강도 높은 범국가 전략적 종합대책이 강력히 요구된다.

‘디성센터’의 전체 삭제지원 건수도 2024년도 33만2341건으로 2023년 27만5520건보다 1년 새 5만6821건(20.62%)이나 증가했다. 한 기관 접수 건수만 이 정도니, 실제 디지털성범죄가 얼마나 심각한지는 짐작하기조차 어렵다. 불법 촬영물·성 착취물 등 피해영상물 삭제지원 건수만 30만237건으로 전체의 90.3%에 달했다. 삭제지원을 받은 피해자들 가운데 25.9%는 성명이나 연령, 주소 등 개인정보가 함께 유출됐다. 한국여성인권진흥원은 2024년 10월 16일 개정된 '성폭력방지 및 피해자보호 등에 관한 법률'이 오는 4월 17일부터 시행됨에 따라 피해자의 신상정보도 삭제지원이 가능해져 이로 인한 2차 피해를 방지할 수 있을 것으로 기대했다. 한편 ‘디성센터’는 디지털 성범죄 피해에 대한 접수 등 상담, 삭제지원 및 유포현황 모니터링, 수사·법률·의료 연계 지원을 제공하기 위하여 2018년 4월 여성가족부 산하 한국여성인권진흥원에 설치됐다. 한국여성인권진흥원은 오는 4월 17일 개정 성폭력방지법 시행에 맞춰 ‘디성센터’ 명칭을 ‘중앙디지털성범죄피해자지원센터(중앙 디성센터)’로 바꾸고 전국 시·도 지역 ‘디성센터’ 17곳과 협력을 강화할 계획이다.

피해자 사진 등을 이용해 불법 영상물을 만들고 이를 온라인에 무차별 유포하는 딥페이크 범죄는 인간의 영혼을 짓밟는 범죄다. 딥페이크 성범죄란 사람의 얼굴‧신체‧음성을 대상자 의사에 반하여 성적 욕망·수치심을 유발하는 형태로 합성하거나 해당 합성물을 유포하는 행위로 '성폭력범죄의 처벌 등에 관한 특례법' 제14조의2(허위영상물 등의 반포 등)의 적용을 받는다. 또 다른 디지털 성범죄인 ‘사이버플래싱(Cyber flashing │ 자신의 나체 사진이나 영상 등을 불특정 다수에게 보내 성적 수치심을 주는 행위)’까지 확산 중이라 더욱 우려스럽다. ‘사이버플래싱’은 SNS를 이용해 아무에게나 손쉽게 콘텐츠를 전송할 수 있는 시대가 되면서 과거 길거리에서 벌어지던 ‘바바리맨’들의 범죄가 온라인 공간으로 옮겨가는 모습이다. ‘딥페이크’가 아는 사람의 얼굴에 음란물을 합성한 ‘지인(知人) 능욕(凌辱)’이라면 ‘사이버플래싱’은 모르는 사람에 대한‘묻지 마 폭력’에 가깝다. 흉기를 소지한 성범죄자가 온라인을 휘젓고 다니는 셈인데 어린이 청소년도 무방비로 노출돼 있다는 점에서 심각성이 심히 크다. 특히 딥페이크 피해자 상당수가 10대(지난해 1~9월 학생 피해자 588명)라는 점이 심각한데, 연쇄적 복제와 광범위한 유포는 어린 피해자에게 돌이킬 수 없는 상처를 남긴다. 가해 범위조차 파악하기 어려워 피해의 치유와 회복도 매우 어렵고 더디다.

일상에서 쉽게 접하는 유튜브나 인스타그램 등을 볼 때마다 이게 진짜가 맞냐는 생각이 들 때가 있다. 그만큼 최근 들어 허위 영상물인 딥페이크가 많아져 SNS 동영상도 믿기 힘든 시대가 됐기 때문이다. 특히 최근에는 연예인 얼굴 등을 교묘하게 딥페이크로 편집하는 성범죄도 발생해 정부가 대대적으로 단속에 나서 발본색원(拔本塞源)해야 한다. 한편 6·3 대선에도 ‘딥페이크 주의보’가 내려졌다. 일상화한 AI 기술로 정치공작, 가짜뉴스 유포 등에 활용될 가능성이 어느 때보다 커졌다. 이미 피해 사례도 심각한 수준이다. 대선주자들을 희화화하거나 경쟁 후보를 비방하는 동영상, 죄수복을 입은 후보 사진 등이 등장했다. 이젠 유권자들이 후보자들 검증에만 머물 수 없는 세상이 되었다. 딥페이크에 속지 않고 무사히 한 표를 행사하는 것을 걱정해야만 한다. 딥페이크 시대의 유권자들은 시력도 두 배로 좋아져야만 할 웃픈 선거판이 되었다. 경찰청은 지난해 1월부터 10월까지 10개월간 딥페이크 성범죄 사건 964건을 접수·수사해 피의자 506명을 검거했는데 10대가 411명으로 81.2%의 비중을 차지해 가장 많았다. 10세 이상 14세 미만의 ‘촉법소년’도 78명(15.4%)이나 됐다. 20대 77명(15.2%), 30대 13명(2.6%), 50대 이상 3명(0.6%), 40대 2명(0.4%)이었다. 이러한 점에서 학교 현장의 예방교육 강화는 아무리 강조해도 지나치지 않을 것이다. 교육 시간을 늘리는 것뿐 아니라 효과적 교육 프로그램 개발·보급에도 투자를 아끼지 않아야 한다. 이렇듯 딥페이크 기술을 악용한 성범죄에 대한 사회적 분노가 커지고 있지만 실제로 재판에 회부가 됐어도 절반은 집행유예를 선고받는 것으로 파악됐다.

법원은 최근 텔레그램에서 딥페이크 영상물 1,275개를 유포한 ‘지인 능욕방’ 운영자에게 징역 2년 6개월을 선고했다. 2019년 아동·청소년 성착취 범죄인 ‘N번방’ 사건을 계기로 '성폭력범죄의 처벌 등에 관한 특례법'에 ‘허위 영상물 등의 반포’ 처벌 조항이 신설됐다. 성적 딥페이크도 디지털 성범죄에 포함됐다. 5년 이하의 징역 또는 5000만원 이하의 벌금이 내려질 수 있다. 하지만 지난 4월 3일 한국여성정책연구원이 발간한 ‘여성연구 2025년 1호’에 실린 ‘딥페이크 성범죄 실태’ 논문에 따르면 2020년 6월 25일부터 지난해 10월 15일까지 전국 법원 1심 판결문 152건을 검토한 결과, 절반에 가까운 47.17%가 집행유예를 선고받은 것으로 드러났다. 구체적으로 집행유예는 75명(47.17%)이다. 실형은 42.77%(68명)이었으며 벌금형은 11명(6.92%)으로 최소 300만원부터 최대 1000만원이다. 기타(무죄, 선고 유예)의 경우, 5명(3.14%)으로 조사됐다. 이런 점을 봐도 법원 역할도 학교 못지않게 중요하다. 한국여성정책연구원은 “성폭력 범죄자에 대한 낮은 형벌은 오랫동안 가부장적 통제 메커니즘으로 작용해 온 점을 고려할 때 형벌의 응보(應報) 목적을 넘어 이 같은 재판 결과는 딥페이크 성범죄의 심각성이 사법적으로 충분히 반영되지 않고 있다”라고 진단했다. 무엇보다도 AI 기술 발전, 사회적 인식 지체, 입시 위주 학교의 교육 부재 등이 모두 결부된 종합적 폐해(弊害)라는 점에서 가정, 학교, 정부, 기업(플랫폼), 법원 등이 모두 합심해 범국가 전략적 차원에서 총력 대응해야만 한다.