줄지 않는 디지털성범죄…안심지원센터 통해 영상물 삭제 가능

지난 5월 서울시여성가족재단이 교육지원청, 경찰서와 함께 아동·청소년을 대상으로 진행한 디지털성범죄 에방 교육 모습. 서울시 제공

2019년 텔레그램에 개설된 단체 채팅방을 통해 불법 음란물을 생성하고 거래 및 유포한 이른바 ‘엔(N)번방 사건’이 알려지자 온 사회가 들썩거렸다. 이어 2020년에는 서울대생 두 명이 대학 동문 12명 등 여성 61명의 사진을 딥페이크(인공지능 기반으로 가짜 이미지·동영상을 만드는 기술)로 음란물을 만들어 텔레그램으로 유포한 이른바 ‘서울대 딥페이크’ 사건이 또 한 번 충격을 주면서 디지털성범죄의 심각성이 사회적으로 크게 대두됐다.

이에 서울시의회는 2021년 9월10일 김경 의원(무소속, 당시 더불어민주당)이 발의한 ‘서울특별시 디지털성범죄 예방 및 피해자 지원 조례안’을 본회의에서 통과시켰다. 이 제정 조례안은 당시 현행 법령상 법적 정의가 불분명한 디지털성범죄의 정의를 명확히 하고, 디지털성범죄 예방과 피해자 지원에 대한 사항을 담았다.

특히 서울시가 디지털성범죄에 적극적으로 대응할 수 있도록 국외 엔지오(NGO), 국제위원회 등을 통한 국제 공조시스템 구축과 인공지능(AI) 등 4차 산업혁명 기술을 적용한 새로운 유형의 디지털성범죄물에 효과적으로 대응하기 위한 관련 기술 개발과 활용 지원, 국내외 협력체계 구축 내용도 포함했다.

당시 김경 의원은 제안 이유에서 “최근 ‘텔레그램 N번방’ 사건을 비롯해 새로운 유형의 디지털성범죄가 확산되면서 사회적 불안감이 높아지고 있고 특히 정보통신기술을 이용하는 매체 특성상 피해 영상물 등이 광범위하게 유포·공유돼 피해자의 일상생활에 심각하고 지속적인 피해를 끼치고 있다”며 “이에 디지털성범죄를 예방하고 피해자를 보호·지원하기 위한 서울시 디지털성범죄 피해자 지원센터 등의 사항을 규정해 이를 근절할 필요가 있다”고 밝혔다.

서울시의회 보건복지위원장 일부 수정안으로 가결된 이 제정 조례안은 디지털성범죄에 대한 정의와 함께 예방 및 피해자 지원계획 수립과 지원사업, 실태조사 및 신고체계 마련 등 총 11개조로 구성됐다. 특히 디지털성범죄 피해자 관련 영상 삭제 지원 및 사후 모니터링이 주요 사업으로 처음 포함됐고 이를 추진하기 위한 법인 또는 단체에 대한 서울시 예산 지원을 포함했다. 이를 근거로 이듬해인 2022년 3월29일 ‘서울 디지털성범죄 안심지원센터’가 처음 문을 열었다.

서울시는 안심지원센터를 통해 불법 영상물 삭제 지원을 비롯해 수사·법률 지원, 심리 치료와 의료 지원 등을 원스톱으로 지원하고 있다. 개관 이후 지난 9월까지 4134명의 피해자를 지원했으며 지원 건수로는 모두 8만8962건에 이른다.

안심지원센터는 특히 전국 최초로 AI 기술을 도입해 24시간 디지털성범죄 자동 추적·감시에 나서기 시작했다. AI 기술로 실시간 모니터링하면서 피해자와 관련된 각종 사회관계망서비스(SNS) 상의 피해 영상물을 자동으로 검출해 더 빠르게 영상물을 삭제하고 재유포를 막고 있다.

피해자의 얼굴이나 특이점을 맨눈으로 판독해 수작업으로 찾아내던 기존 방식에서 AI 딥러닝 기술을 활용해 오디오·비디오·텍스트 정보를 종합 분석해 한 번의 클릭만으로 피해자와 관련한 모든 피해 영상물을 즉시 찾아내고 있다.

이 프로그램은 서울연구원(옛 서울기술연구원)이 2022년 7월 개발에 착수하고 이듬해 3월 완료해 현재도 활용하고 있다. 키워드 입력부터 영상물 검출까지 불과 3분 정도 밖에 걸리지 않아 기존 1~2시간 소요되던 검출 속도가 획기적으로 빨라졌고 정확도도 200% 이상 향상됐다.

무엇보다 최근 아동·청소년을 대상으로 하는 디지털성범죄 피해 건수가 지속적으로 증가하고 있어 서울시는 이들의 피해 예방에 주력하고 있다. 아동·청소년은 본인이 삭제를 요청해야 하는 성인과 달리 ‘아동·청소년 성보호에 관한 법률’에 따라 당사자나 부모의 신고 없이도 즉시 삭제가 가능해 AI 추적·감시를 통한 디지털성범죄 피해 예방 효과를 높일 것으로 기대된다.

한편, 서울 디지털성범죄 안심지원센터에 따르면 올해 9월까지 디지털성범죄 피해 지원 의뢰자가 790명(여성 697명, 남성 77명, 미확인 16명)으로 지난해(2514명) 대비 줄어든 상태다. 이는 지난해 초중등생을 대상으로 한 딥페이크 사건이 일시적으로 크게 늘어난 데 따른 것이라고 센터 관계자는 설명했다. 그러나 불법 영상물 삭제 지원 건수는 지난 9월까지 1만1372건으로, 이 추세대로면 지난해(1만1603건) 건수를 넘어설 것이 확실시돼 디지털성범죄에 대한 심각성은 여전한 상태다.

이선미 안심지원센터장은 “디지털성범죄 피해자와 가해자의 연령이 갈수록 낮아지는 추세를 보이는데다 방법이나 수법이 갈수록 다양해지고 있어 경각심을 더욱 강화할 필요가 있다”며 “이에 따라 센터와 서울시여성가족재단은 디지털성범죄 예방 및 대응 방법에 대한 교육과 캠페인을 지속적으로 해나갈 예정”이라고 말했다.

박상현 객원기자 shpark0120@gmail.com

서울살이 길라잡이 서울앤(www.seouland.com) 취재팀 편집