Créez votre compte Charmloop gratuit — sans carte bancaire, navigation illimitée. Lancez-vous dans l’art IA en quelques minutes.
Le procureur municipal de San Francisco a ordonné à Apple et Google de retirer les applications d'IA de déshabillage de leurs boutiques d'applications respectives, faisant valoir que les deux entreprises ont profité — vraisemblablement à hauteur de plusieurs millions de dollars en commissions — d'outils conçus pour générer des images intimes sans le consentement des personnes représentées.
Selon Ars Technica, le bureau du procureur municipal a fondé l'affaire essentiellement sur l'argent : Apple et Google ne se contentent pas d'héberger passivement ces applications — elles prélèvent une commission standard de 15 à 30 % sur les achats intégrés et les abonnements. Lorsque les applications de déshabillage se monétisent par abonnement, ces revenus affluent directement vers les plateformes. La théorie juridique est que l'acceptation de cette commission fait des deux entreprises des participantes actives au préjudice, et non de simples intermédiaires neutres.
Cette approche est importante pour l'écosystème plus large de l'art par IA. Les régulateurs traitent de plus en plus la couche d'infrastructure — boutiques d'applications, fournisseurs d'API, hébergeurs cloud — comme juridiquement responsable de ce qui s'y exécute. La même logique qui s'applique aux applications de déshabillage pourrait, dans de futures actions, s'étendre à tout outil de génération d'images que les régulateurs jugeraient produire des contenus nuisibles à grande échelle.
Les applications de déshabillage constituent une catégorie spécifique d'outils d'IA pour l'image : elles prennent une photo habillée d'une personne réelle et génèrent une version nue synthétique sans la connaissance ni le consentement de cette personne. Cela les distingue nettement des générateurs d'images par IA à usage général, où l'utilisateur construit une image à partir d'une invite textuelle ou télécharge des images de référence qu'il contrôle. L'utilisation non consentie de l'image d'une personne réelle est le problème juridique et éthique central, et c'est ce qui sépare cette catégorie des outils créatifs plus larges que les créateurs d'art par IA utilisent quotidiennement sur des plateformes comme le générateur de Charmloop.
Il convient de maintenir cette distinction clairement : cette action n'est pas une attaque en règle contre la génération d'images par IA en tant que pratique. Elle cible un cas d'usage étroit, violant le consentement. Mais l'élan réglementaire qu'elle génère est bien réel, et toute plateforme hébergeant des outils de génération d'images observe désormais attentivement la réponse d'Apple et de Google.
Apple et Google disposent toutes deux de politiques existantes qui interdisent nominalement les applications générant des images intimes non consenties. L'action du procureur municipal est essentiellement une accusation selon laquelle ces politiques n'ont pas été appliquées — que les applications ont échappé à l'examen, sont restées en ligne suffisamment longtemps pour générer des revenus d'abonnement substantiels, et n'ont été retirées (le cas échéant) que sous pression extérieure.
Pour les créateurs utilisant l'IA, cette lacune dans l'application a une conséquence pratique : les boutiques d'applications constituent un canal de distribution peu fiable pour tout outil de génération d'images par IA opérant à la limite des politiques de contenu. Les développeurs qui créent des outils créatifs légitimes se plaignent depuis longtemps que le processus d'examen d'Apple est incohérent et opaque. Cette affaire ajoute une pression politique susceptible de pousser Apple et Google vers des restrictions générales sur les applications de génération d'images par IA — le type de sur-correction qui attrape les outils légitimes dans le même filet que les outils nuisibles.
Le procureur municipal de San Francisco ne dispose pas d'une juridiction fédérale, de sorte que la portée juridique de l'injonction dépend du droit californien et de la volonté d'Apple et de Google de s'y conformer plutôt que de plaider. Aucune des deux entreprises n'a publiquement confirmé qu'elle retirerait les applications signalées. En cas de résistance, l'affaire pourrait créer un précédent — ou exposer les limites de l'autorité municipale sur les plateformes mondiales de distribution d'applications.
Pour les créateurs qui construisent des flux de travail autour d'outils de génération d'images par IA, le signal le plus immédiat est législatif : plusieurs États et le gouvernement fédéral font avancer des projets de loi qui criminaliseraient explicitement les images intimes non consenties générées par IA. Ces lois, contrairement à la lettre d'un procureur municipal, seraient assorties de sanctions exécutoires et pourraient redéfinir ce que les modèles de génération d'images sont autorisés à faire — et quels filtres de sécurité les fournisseurs seraient légalement tenus d'intégrer. Se tenir informé de cette évolution réglementaire est aussi important que de suivre les nouvelles versions de modèles. Notre couverture antérieure du procès d'xAI contre des utilisateurs de Grok pour génération de CSAM montre à quelle vitesse évolue le paysage juridique autour des images nuisibles générées par IA.
