기업 소개

2024~2025년 국내 딥페이크·합성 피해 신고는 1,807건(전년 대비 128% 증가), 피해 지원 건수는 18,523건(약 3.1배 증가)로 집계되었습니다. 이 증가 속도는 딥페이크가 이미 일상적이고 구조적인 온라인 범죄로 자리 잡았음을 보여줍니다.

고품질 딥페이크의 경우 사람의 진위 판별 정확도는 24.5%에 그친다는 연구도 있습니다. 피해자가 스스로 합성 여부를 설명하거나 입증하기 어려운 구조이며, 그 사이 콘텐츠는 해외·국내 플랫폼에서 삽시간에 파생·복제되며 확산됩니다.

피해 발생 이후 시작된 확산과 2차 피해

화이트미에 문의를 주셨던 L 고객님은 지인을 통해 자신의 얼굴이 합성된 영상이 해외 성인 플랫폼에서 유포되고 있다는 사실을 알게 되었습니다. 문제는 그 이후 벌어진 일들이었습니다.

해외 플랫폼 게시 직후 SNS로 캡처본이 전파되었고, 이후 특정 음지 커뮤니티로 유입되면서 상황은 더욱 악화되었습니다. 이 공간에서는 영상의 진위 여부를 따지는 과정 없이,

성적 비하 표현
외모 평가
조롱·성희롱성 댓글

등이 이어지며 명백한 2차 피해가 발생했습니다.

콘텐츠는 피해자가 아무 행동을 하지 않아도 스스로 생명력을 가진 것처럼 계속 확산되었습니다.

이런 구조에서는 피해자가 주변의 오해와 의심, 검색될 수 있다는 지속적 불안, 스스로 증명해야 한다는 압박, 일상생활 위축 등 장기적인 정신적 고통까지 겪게 됩니다.

이미 넓게 확산된 딥페이크 피해는 “어디에 있는지 찾아 삭제하는 것”만으로는 충분하지 않습니다. 확산을 멈추고, 재유포를 관리하며, 법적 보호 체계 안으로 안전하게 들어올 수 있도록 돕는 것이 핵심입니다.

화이트미는 자체 개발한 AI 크롤링 기술을 기반으로 다음과 같은 통합 대응을 진행했습니다.

해외 성인 플랫폼은 신고 양식, 필요 근거, 언어 요구 조건이 모두 다릅니다.

화이트미는 플랫폼별 요구 사항에 맞춰 자동으로 신고 문서를 생성·제출하는 기술을 통해, 영상 원본뿐 아니라 파생 캡처 이미지까지 신속하게 조치했습니다.

이를 통해 초기 확산의 중심이 되었던 해외 플랫폼 전반에서 삭제 또는 비노출 조치가 빠르게 이루어지도록 도왔고, 확산 속도를 효과적으로 늦출 수 있었습니다.

딥페이크 피해 대응의 핵심은 삭제 이후의 관리입니다.

삭제된 영상이라도 누군가 저장한 캡처본, 텍스트 삽입본, 일부 장면만 편집한 영상 등 변형본이 재업로드되며 확산이 재점화됩니다.

이 기술 덕분에 삭제된 콘텐츠의 변형본이 다시 업로드되면 즉시 감지하고 조치할 수 있었습니다.

딥페이크 성범죄는 삭제만으로 해결되지 않습니다.

특히 음지 커뮤니티에서 성희롱성 언급이 지속되는 경우, 법적 조치가 병행되어야 피해가 근본적으로 줄어듭니다.

화이트미는 파트너 법무법인과의 연계를 포함해, 필요 시 법무법인 지원 연계 및 고소 자료 채증 등 법적 보호를 위한 절차를 지원하였는데요.

이 과정을 통해 피해자가 혼자 대응해야 하는 부담을 줄이고, 안정적으로 법적 보호체계 안에 들어갈 수 있도록 돕는 데 집중했습니다.

항목	개입 전	72시간 후	의미
해외 플랫폼 잔존 영상	18건	1건(비노출)	확산의 핵심 지점 차단
SNS 파생 콘텐츠	증가	확산 정체	2차 확산 흐름 감소
검색 자동완성 위험어	3개	0개	대외적 오해·노출 방지
음지 커뮤니티 언급	활발	감소	성희롱·조롱성 언급 완화