확대 사진=성평등가족부 제공

[성평등가족부/CTN]가요진 기자= 원민경 성평등가족부 장관이 "기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점"이라며 "AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 밝혔다.

성평등가족부는 디지털 성범죄 피해자 보호를 위해 '삭제요청 자동화', 'AI 기반 아동·청소년 온라인 성착취 선제 대응', 'AI 기반 딥페이크 탐지' 등 3대 핵심 기술 시스템을 도입한다고 발표했다. 이번 시스템 도입은 기존 수동 및 사후 대응 중심이었던 피해자 지원 체계를 자동화·지능화하여 대응력과 신속성을 대폭 강화한 것이 핵심이다.

우선 '피해영상물 삭제요청 자동화 시스템'을 통해 약 2만 개의 사이트에 대한 삭제 요청부터 처리 이력 관리까지 전 과정을 자동화했다. 이를 통해 건당 처리 시간이 1분 이내로 단축됐으며, 중앙디지털성범죄피해자지원센터의 시스템을 미 국립실종학대아동방지센터(NCMEC) 및 클라우드플레어와 API로 연계해 우회 접속 URL까지 대량으로 삭제 요청할 수 있게 됐다.

'아동·청소년 온라인 성착취 선제적 대응 시스템'은 AI가 SNS와 랜덤채팅앱 등을 24시간 모니터링하여 성착취물과 유인 정보를 수집·분석한다. 특히 국내 최초로 랜덤채팅앱 데이터 자동 수집 기술을 탑재했으며, 키워드 탐지와 신체 노출도 판단 등 다단계 분석을 통해 성착취물 여부를 가려낸다. 지난 25일간의 시범운영 결과, 종사자 1인당 일평균 유인 정보 수집 건수가 기존 대비 80배 이상 급증하는 등 압도적인 효율성을 입증했다.

아울러 AI 기반 딥페이크 탐지 솔루션을 도입해 육안으로 확인하기 어려운 정교한 합성물까지 식별해낸다. 이를 통해 피해자가 미처 인지하지 못한 합성물의 추가 유포를 사전에 차단함으로써 피해자의 불안을 해소하고 일상 회복을 도울 계획이다. 성평등가족부는 앞으로도 첨단 기술을 적극 활용해 디지털 성범죄에 대한 전방위적 대응 체계를 공고히 해 나갈 방침이다.

가요진 기자 gyj1119@naver.com

• CTN 신문사 블로그
• CTN 네이버 블로그
• CTN 방송
• CTN 페이스북
• CTN X