Meta, 실제 여성 정치인을 딥페이크 누드로 만들어준다는 앱 광고를 집행했다

Meta의 광고 플랫폼이 실제 여성 정치인의 비동의 누드 딥페이크를 생성해준다고 명시적으로 홍보하는 앱의 유료 광고를 집행했으며, 적어도 하나의 광고에는 현직 미국 정치인으로 보이는 인물을 묘사한 포르노 영상이 포함된 것으로 확인됐다.

핵심 요약

• Meta의 광고 시스템이 실명 여성 정치인의 누드 딥페이크 생성 기능을 마케팅하는 앱 광고를 승인하고 집행했다.
• Ars Technica에 따르면, 적어도 하나의 광고에는 실제 미국 정치인과 매우 흡사한 딥페이크가 담긴 포르노 영상이 포함되어 있었다.
• 이번 사건은 콘텐츠 모더레이션의 경계 사례가 아니라 Meta 광고 심사 인프라의 직접적인 실패다.
• AI가 생성한 비동의 친밀 이미지(NCII)는 미국의 점점 더 많은 주와 여러 국가에서 불법이며, 이러한 광고를 호스팅하는 플랫폼의 법적 책임은 갈수록 커지고 있다.
• AI 이미지 창작자들에게 이번 사건은 정책 환경을 더욱 엄격하게 만드는 신호다. 향후 수개월 내에 주요 생성 플랫폼 전반에서 신원 및 초상 관련 제한이 강화될 것으로 예상된다.

광고가 Meta 심사 시스템을 통과한 경위

Ars Technica에 따르면, 해당 광고들은 결코 교묘하지 않았다. 기능을 명시적으로 표기했고, 적어도 한 건의 경우 포르노 딥페이크로 직접 시연까지 했다. 즉, 광고가 게재되기 전에 정책 위반을 잡아내야 하는 Meta의 자동 광고 심사 시스템이 가장 기본적인 콘텐츠 감지 단계에서 실패한 것이다. 해당 앱은 자신이 무엇을 하는지 숨기지도 않았다.

Meta는 비동의 친밀 이미지를 조장하는 제품의 광고를 금지하는 정책을 보유하고 있다. 그럼에도 이 광고들이 심사를 통과했다는 사실은 문서화된 정책과 집행 인프라 사이의 간극을 드러낸다. 이미지 생성 품질이 향상되고 설득력 있는 딥페이크 제작 비용이 0에 가까워질수록 이 간극의 결과는 더욱 심각해진다.

더 넓은 NCII 집행 문제

이것은 고립된 사건이 아니다. 올해 초 Grok CSAM 사건 — xAI의 이미지 도구가 어린 시절 사진을 성적으로 묘사하는 데 사용된 사건 — 은 AI 이미지 안전 장치가 전용 생성 플랫폼에서도 치명적으로 실패할 수 있음을 보여줬다. Meta의 상황은 더 심각하다고 볼 수 있다. 실패가 광고 배포 레이어에서 발생했다는 것, 즉 플랫폼이 해당 도구에 대한 접근을 증폭시키는 대가로 돈을 받았다는 의미이기 때문이다.

입법 환경도 빠르게 변화하고 있다. 미국 연방 DEFIANCE Act와 각 주의 법률들이 AI 생성 NCII의 유포를 범죄로 규정하고 있으며, EU의 AI Act는 이러한 도구를 호스팅하거나 홍보하는 플랫폼에 의무를 부과하고 있다. 실명 개인의 딥페이크 누드화를 마케팅하는 앱 광고를 집행하는 것은 여러 법적 관할권에서 이미 단순한 서비스 약관 문제가 아니다.

AI 이미지 플랫폼과 창작자들에게 주는 시사점

AI 이미지 생성을 활용하는 모든 사람 — 캐릭터를 만들거나, 초상을 생성하거나, 초상 기반 프롬프팅을 실험하는 사람 모두 — 에게 이런 사건으로 인한 규제 역풍은 나쁜 행위자만이 아니라 업계 전체에 영향을 미치는 경향이 있다. Meta처럼 고프로파일 플랫폼이 누드화 앱 광고를 유통하다 적발되면, 입법자와 다른 플랫폼들의 반응은 대개 신원 및 초상 규정을 업계 전반에 걸쳐 강화하는 방향으로 나타난다.

실질적으로 주목해야 할 몇 가지 사항이 있다. 현재 유연한 페이스 스왑이나 초상 매칭 기능을 허용하는 플랫폼들이 추가적인 동의 확인, 실명 개인에 대한 더 엄격한 프롬프트 필터링, 또는 특정 기능의 완전한 제거 등의 형태로 마찰을 추가할 수 있다. 프롬프트에서 실제 인물을 이름으로 참조할 수 있는 도구를 사용하고 있다면, 지금 당장 현재 워크플로를 문서화해두길 권한다. 플랫폼들이 규정 준수를 서둘러 입증하려 할 때 가장 먼저 사라지는 것이 바로 그런 기능들이다.

더 지속적인 교훈은 인프라 간극에 관한 것이다. 딥페이크 누드화 앱은 새로운 것이 아니지만, 그 품질이 실제 사람들을 대규모로 무기화하기에 충분히 설득력 있는 수준의 임계점을 넘어섰다. 이 품질 도약 — AI 생성 이미지를 창작 작업에 더 유용하게 만드는 바로 그 도약 — 이 동시에 이 범주의 피해를 더욱 심각하게 만드는 요인이기도 하다. 규제 당국과 플랫폼들이 따라잡고 있으며, 향후 12개월간의 정책 환경은 그 현실을 반영할 것이다.

보도 시점에서 Meta는 해당 광고들에 대한 공식 입장을 발표하지 않았다. 문제의 앱은 Ars Technica 보도에서 명시되지 않았다.