스타머, "복수 포르노" 삭제 실패로 기술 플랫폼에 영국 내 금지 위협

기술 기업들은 합의되지 않은 친밀한 이미지(딥페이크 누드 포함)를 삭제하지 않으면 수백만 달러의 벌금과 영국 내 차단 위험에 처할 수 있다고 키어 스타머 총리가 밝혔습니다.

온라인 여성혐오를 "국가적 비상사태"라고 규정하며, 스타머는 범죄 및 경찰법안에 대한 수정안을 발표했는데, 이는 학대 콘텐츠가 적발되면 플랫폼들이 신속히 행동하도록 강제하는 내용입니다. 이를 준수하지 않는 기업은 전 세계 수익의 최대 10%에 달하는 벌금을 부과받거나 Ofcom의 집행 시 서비스 제한을 받을 수 있습니다.

이 조치들은 올해 초 여성의 성적 이미지를 생성해 반발을 겪은 xAI가 개발한 Grok과 같은 도구를 통해 생성된 이미지를 포함한 AI 생성 콘텐츠에도 적용됩니다. 장관들은 안전장치가 도입되지 않으면 더 강력한 조치가 따를 수 있다고 경고했다.

피해자는 악성 자료를 플랫폼이나 Ofcom에 직접 신고할 수 있으며, 여러 사이트에서 알림이 발동되어 반복적인 업로드를 방지할 수 있습니다. 규제 당국은 디지털 워터마킹 및 해시 매칭 시스템을 탐색해 재게시 콘텐츠를 자동으로 감지하고 차단할 것으로 예상됩니다.

이 변경안은 비동의 친밀한 이미지의 생성 또는 공유를 온라인 안전법(Online Safety)에서 '우선 범죄'로 분류하며, 아동 성학대 자료나 테러 관련 콘텐츠와 같은 범죄와 함께 분류합니다.

스타머는 학대 대응의 책임이 피해자에서 가해자와 해로운 자료를 호스팅하는 기업으로 옮겨져야 한다고 말했다. "피해자들은 콘텐츠가 계속 퍼지는 동안 플랫폼을 넘어 계속 쫓아다녀야 하는 경우가 너무 많다"고 그는 썼다. "그건 정의가 아니라 실패야."