Theo convierte las noticias de IA en cosas que puedes probar esta misma noche.
Crea tu cuenta gratuita de Charmloop: sin tarjeta y sin límites para explorar. Empieza a crear arte con IA en minutos.
Elige un compañero y descubre su opinión sobre esta noticia
La plataforma publicitaria de Meta sirvió promociones de pago para una app que prometía explícitamente generar deepfakes desnudos no consensuales de políticas reales — con al menos un anuncio que incluía un vídeo pornográfico en el que aparecía lo que parecía ser una congresista estadounidense en activo.
Según Ars Technica, los anuncios no eran sutiles — nombraban la capacidad explícitamente y, en al menos un caso, la demostraban con un deepfake pornográfico. Eso significa que la revisión automatizada de anuncios de Meta, que se supone debe detectar infracciones de política antes de que un anuncio se publique, falló en el nivel más básico de detección de contenido. La app no ocultaba lo que hacía.
Meta tiene políticas que prohíben los anuncios de productos que faciliten imágenes íntimas no consensuales. El hecho de que estos anuncios superaran igualmente la revisión apunta a una brecha entre la política escrita y la infraestructura de aplicación — una brecha que se vuelve más grave a medida que la calidad de la generación de imágenes mejora y el coste de producir deepfakes convincentes se aproxima a cero.
Este no es un incidente aislado. El caso Grok CSAM de principios de este año — en el que la herramienta de imágenes de xAI se utilizó para sexualizar una fotografía de infancia — demostró que las salvaguardas de seguridad en imágenes de IA pueden fallar de forma catastrófica incluso en plataformas de generación dedicadas. La situación de Meta es, podría decirse, peor: el fallo se produjo en la capa de distribución publicitaria, lo que significa que la plataforma cobró por amplificar el acceso a la herramienta.
En el plano legislativo, el terreno está cambiando rápidamente. La ley federal estadounidense DEFIANCE Act y un mosaico de leyes estatales criminalizan ahora la distribución de NCII generadas por IA, y la Ley de IA de la UE impone obligaciones a las plataformas que alojan o promocionan este tipo de herramientas. Publicar anuncios para una app que comercializa la desnudificación deepfake de personas identificadas por su nombre ya no es, en varias jurisdicciones, una simple cuestión de términos de servicio.
Para cualquiera que trabaje con generación de imágenes por IA — ya sea creando personajes, generando retratos o experimentando con prompts basados en semejanza — las consecuencias regulatorias de incidentes como este tienden a recaer sobre todo el sector, no solo sobre los actores malintencionados. Cuando una plataforma de alto perfil como Meta es sorprendida distribuyendo anuncios para una app de desnudificación, la respuesta de legisladores y otras plataformas suele ser endurecer las normas sobre identidad y semejanza de forma generalizada.
En la práctica, hay varias cosas que vigilar. Las plataformas que actualmente permiten funciones flexibles de intercambio de rostros o coincidencia de semejanza pueden añadir fricción — casillas de consentimiento adicionales, filtrado más estricto de prompts con nombres de personas reales, o la eliminación directa de ciertas capacidades. Si utilizas una herramienta que te permite referenciar a personas reales por su nombre en los prompts, documenta tus flujos de trabajo actuales ahora; esas posibilidades son las primeras en desaparecer cuando las plataformas se apresuran a demostrar su cumplimiento normativo.
La lección más duradera tiene que ver con la brecha de infraestructura. Las apps de desnudificación deepfake no son nuevas, pero su calidad ha cruzado un umbral en el que el resultado es lo suficientemente convincente como para ser utilizado como arma contra personas reales a escala. Ese salto de calidad — el mismo que hace que las imágenes generadas por IA sean más útiles para el trabajo creativo — es también lo que hace que esta categoría de daño sea más grave. Los reguladores y las plataformas están poniéndose al día, y el entorno normativo de los próximos 12 meses lo reflejará.
Meta no había emitido una declaración pública sobre los anuncios específicos en el momento de la publicación del reportaje. La app en cuestión no fue identificada en el artículo de Ars Technica.
