Theo macht aus KI-News Dinge, die man noch heute Abend ausprobieren kann.
Erstelle dein kostenloses Charmloop-Konto — keine Kreditkarte, unbegrenztes Stöbern. In wenigen Minuten startest du mit KI-Kunst.
Wähle einen Companion und erfahre seine Meinung zu dieser Story
Metas Werbeplattform zeigte bezahlte Anzeigen für eine App, die explizit versprach, nicht einvernehmliche nackte Deepfakes echter weiblicher Politikerinnen zu erstellen – wobei mindestens eine Anzeige ein pornografisches Video enthielt, das offenbar eine amtierende US-Politikerin zeigte.
Laut Ars Technica waren die Anzeigen alles andere als subtil – sie nannten die Funktion explizit und demonstrierten sie in mindestens einem Fall mit einem pornografischen Deepfake. Das bedeutet, dass Metas automatisierte Anzeigenprüfung, die Richtlinienverstöße eigentlich erkennen soll, bevor eine Anzeige live geht, auf der grundlegendsten Ebene der Inhaltserkennung versagt hat. Die App versuchte nicht einmal, zu verbergen, was sie tat.
Meta hat Richtlinien, die Werbung für Produkte verbieten, die nicht einvernehmliche intime Darstellungen ermöglichen. Die Tatsache, dass diese Anzeigen die Prüfung dennoch bestanden, weist auf eine Lücke zwischen schriftlicher Richtlinie und Durchsetzungsinfrastruktur hin – eine Lücke, die folgenreicher wird, je besser die Qualität der Bildgenerierung wird und je mehr die Kosten für die Erstellung überzeugender Deepfakes gegen null tendieren.
Dies ist kein Einzelfall. Der Grok-CSAM-Fall Anfang dieses Jahres – bei dem das Bildwerkzeug von xAI dazu verwendet wurde, ein Kindheitsfoto zu sexualisieren – zeigte, dass KI-Bildsicherheitsmaßnahmen katastrophal versagen können, selbst auf dedizierten Generierungsplattformen. Metas Situation ist wohl noch schlimmer: Das Versagen ereignete sich auf der Ebene der Anzeigenverteilung, was bedeutet, dass die Plattform dafür bezahlt wurde, den Zugang zu dem Tool zu verstärken.
Gesetzgeberisch verschiebt sich der Boden schnell. Der US-amerikanische Bundesgesetz DEFIANCE Act und ein Flickenteppich von Landesgesetzen stellen die Verbreitung von KI-generiertem NCII nun unter Strafe, und der EU AI Act legt Plattformen, die solche Tools hosten oder bewerben, Verpflichtungen auf. In mehreren Rechtssystemen ist das Schalten von Anzeigen für eine App, die die Deepfake-Entblößung namentlich genannter Personen vermarktet, keine reine Frage der Nutzungsbedingungen mehr.
Für alle, die mit KI-Bildgenerierung arbeiten – ob Sie Charaktere erstellen, Porträts generieren oder mit ähnlichkeitsbasiertem Prompting experimentieren – tendiert der regulatorische Gegenschlag aus Vorfällen wie diesem dazu, den gesamten Sektor zu treffen, nicht nur die Übeltäter. Wenn eine hochkarätige Plattform wie Meta dabei erwischt wird, Anzeigen für eine Entblößungs-App zu verbreiten, reagieren Gesetzgeber und andere Plattformen in der Regel damit, Identitäts- und Ähnlichkeitsregeln umfassend zu verschärfen.
Praktisch bedeutet das einige Dinge, die es zu beobachten gilt. Plattformen, die derzeit flexible Face-Swap- oder Ähnlichkeitsabgleichsfunktionen erlauben, könnten zusätzliche Hürden einführen – zusätzliche Einwilligungskontrollkästchen, strengere Prompt-Filterung bei namentlich genannten Personen oder die vollständige Entfernung bestimmter Funktionen. Wenn Sie ein Tool verwenden, das es Ihnen ermöglicht, in Prompts auf echte Personen namentlich zu verweisen, dokumentieren Sie Ihre aktuellen Arbeitsabläufe jetzt; diese Möglichkeiten sind die ersten, die wegfallen, wenn Plattformen beeilen, ihre Compliance zu demonstrieren.
Die dauerhaftere Lektion betrifft die Infrastrukturlücke. Deepfake-Entblößungs-Apps sind nicht neu, aber ihre Qualität hat eine Schwelle überschritten, bei der die Ausgabe überzeugend genug ist, um in großem Maßstab gegen echte Menschen eingesetzt zu werden. Dieser Qualitätssprung – derselbe, der KI-generierte Bilder für kreative Arbeit nützlicher macht – ist auch das, was diese Kategorie von Schäden schwerwiegender macht. Regulierungsbehörden und Plattformen holen auf, und das politische Umfeld der nächsten 12 Monate wird dies widerspiegeln.
Meta hatte zum Zeitpunkt der Berichterstattung keine öffentliche Stellungnahme zu den spezifischen Anzeigen abgegeben. Die betreffende App wurde im Ars-Technica-Bericht nicht namentlich genannt.
