정부가 생성형 인공지능(AI)을 악용한 딥페이크 성범죄에 대응하기 위해 AI 기반 기술을 활용한 기관 간 협력체계를 구축한다.

행정안전부, 성평등가족부, 방송미디어통신위원회는 6월 25일 정부서울청사에서 ‘딥페이크 성범죄 대응 기술협력을 위한 업무협약’을 체결하고 피해 영상물 탐지부터 삭제·차단, 피해자 보호까지 전 과정을 연계한 대응 체계를 강화하기로 했다.

이번 협약은 딥페이크 성범죄가 AI 기술 발전으로 지능화·고도화되고 온라인 확산 속도도 빨라짐에 따라 신속하고 정밀한 대응 체계를 마련하기 위해 추진됐다.

정부는 행정안전부가 국립과학수사연구원과 함께 개발한 AI 딥페이크 탐지·분석 모델을 관계기관에 공유해 피해 영상물의 1차 분석과 대응 속도를 높일 계획이다.

협약에 따라 세 기관은 AI 탐지·분석 모델 공유, 피해 영상물 삭제·차단 절차 연계, 2차 피해 방지를 위한 정보보호 강화 등에 협력한다.

행정안전부는 탐지·분석 모델을 지속 고도화해 기관 간 활용도를 높이고, 성평등가족부는 민간 탐지 기술과 정부 AI 모델을 병행 활용해 피해 영상물 분석과 삭제, 피해자 보호를 강화한다. 방송미디어통신위원회는 플랫폼 사업자와 협력해 불법 콘텐츠의 유통 차단과 재유포 방지 대응을 강화할 방침이다.

정부는 향후 피해 영상물이나 의심 콘텐츠가 접수되면 AI 기반 탐지·분석을 먼저 실시하고, 그 결과를 삭제·차단 및 피해자 지원 절차와 즉시 연계하는 방식으로 대응할 계획이다.

윤호중 행정안전부 장관은 “딥페이크 성범죄는 피해 확산과 2차 피해 우려가 큰 만큼 관계기관의 신속한 협력이 중요하다”며 “탐지부터 삭제, 피해자 보호까지 이어지는 기술 기반 대응체계를 구축하겠다”고 말했다.