Meta wyświetlała reklamy aplikacji obiecującej tworzenie deepfake'owych nagich zdjęć polityczek

Platforma reklamowa Meta wyświetlała płatne promocje aplikacji, która jawnie obiecywała generowanie niedobrowolnych nagich deepfake'ów prawdziwych polityczek — przy czym co najmniej jedna reklama zawierała film pornograficzny przedstawiający osobę łudząco przypominającą urzędującą polityczkę ze Stanów Zjednoczonych.\n\n## Najważniejsze wnioski\n\n- System reklamowy Meta zatwierdził i wyświetlał reklamy aplikacji jawnie promującej możliwość tworzenia nagich deepfake'ów wskazanych z imienia i nazwiska polityczek.\n- Co najmniej jedna reklama zawierała film pornograficzny z deepfake'iem łudząco przypominającym prawdziwą polityczkę ze Stanów Zjednoczonych — według Ars Technica.\n- Incydent ten stanowi bezpośrednią porażkę infrastruktury weryfikacji reklam Meta, a nie jedynie graniczny przypadek moderacji treści.\n- Niedobrowolne intymne materiały (NCII) generowane przez AI są nielegalne w rosnącej liczbie stanów USA i kilku krajach, co oznacza, że platformy hostujące takie reklamy ponoszą coraz większe ryzyko prawne.\n- Dla twórców obrazów AI ten epizod zaostrza otoczenie regulacyjne: w nadchodzących miesiącach należy spodziewać się surowszych ograniczeń dotyczących tożsamości i podobizny na głównych platformach generatywnych.\n\n## Jak reklamy przeszły przez system weryfikacji Meta\n\nWedług Ars Technica, reklamy nie były subtelne — wprost nazywały oferowaną funkcję, a w co najmniej jednym przypadku demonstrowały ją za pomocą pornograficznego deepfake'a. Oznacza to, że zautomatyzowana weryfikacja reklam Meta, która ma wychwytywać naruszenia zasad przed opublikowaniem reklamy, zawiodła na najbardziej podstawowym poziomie wykrywania treści. Aplikacja nie ukrywała swojego przeznaczenia.\n\nMeta posiada zasady zabraniające reklam produktów ułatwiających tworzenie niedobrowolnych intymnych materiałów. Fakt, że reklamy te i tak przeszły weryfikację, wskazuje na lukę między zapisaną polityką a infrastrukturą jej egzekwowania — lukę, która staje się coraz bardziej dotkliwa w miarę jak jakość generowania obrazów rośnie, a koszt tworzenia przekonujących deepfake'ów zbliża się do zera.\n\n## Szerszy problem egzekwowania przepisów dotyczących NCII\n\nTo nie jest odosobniony incydent. Sprawa Grok CSAM z początku tego roku — w której narzędzie do generowania obrazów xAI zostało użyte do seksualizacji dziecięcej fotografii — pokazała, że zabezpieczenia bezpieczeństwa obrazów AI mogą zawieść katastrofalnie nawet na dedykowanych platformach generatywnych. Sytuacja Meta jest pod pewnymi względami gorsza: porażka nastąpiła na warstwie dystrybucji reklam, co oznacza, że platforma została opłacona za amplifikowanie dostępu do narzędzia.\n\nNa poziomie legislacyjnym grunt zmienia się szybko. Federalna ustawa DEFIANCE Act w USA oraz mozaika przepisów stanowych kryminalizują dystrybucję generowanych przez AI materiałów NCII, a unijne rozporządzenie AI Act nakłada obowiązki na platformy hostujące lub promujące takie narzędzia. Wyświetlanie reklam aplikacji marketującej deepfake'owe „rozbieranie" wskazanych z imienia i nazwiska osób jest w kilku jurysdykcjach nie tylko kwestią naruszenia regulaminu.\n\n## Co to oznacza dla platform AI i twórców obrazów\n\nDla każdego, kto pracuje z generowaniem obrazów AI — czy to tworząc postacie, generując portrety, czy eksperymentując z promptami opartymi na podobizny — regulacyjne reperkusje takich incydentów zwykle dotykają całego sektora, nie tylko złych aktorów. Gdy głośna platforma jak Meta zostaje przyłapana na dystrybucji reklam aplikacji do „rozbierania", odpowiedź ustawodawców i innych platform zazwyczaj polega na ogólnym zaostrzeniu zasad dotyczących tożsamości i podobizny.\n\nW praktyce oznacza to kilka rzeczy wartych obserwacji. Platformy, które obecnie umożliwiają elastyczną zamianę twarzy lub dopasowywanie podobizny, mogą wprowadzić dodatkowe utrudnienia — dodatkowe pola zgody, surowsze filtrowanie promptów zawierających imiona i nazwiska osób, lub całkowite usunięcie określonych funkcji. Jeśli korzystasz z narzędzia pozwalającego odwoływać się do prawdziwych osób z imienia i nazwiska w promptach, udokumentuj swoje obecne przepływy pracy już teraz — te możliwości znikają jako pierwsze, gdy platformy spieszą się z demonstrowaniem zgodności z przepisami.\n\nTrwalsza lekcja dotyczy luki w infrastrukturze. Aplikacje do deepfake'owego „rozbierania" nie są nowością, ale ich jakość przekroczyła próg, przy którym wyniki są wystarczająco przekonujące, by można je było wykorzystywać jako broń przeciwko prawdziwym ludziom na masową skalę. Ten skok jakościowy — ten sam, który sprawia, że obrazy generowane przez AI są bardziej użyteczne w pracy twórczej — jest też tym, co czyni tę kategorię szkód poważniejszą. Regulatorzy i platformy nadrabiają zaległości, a otoczenie regulacyjne przez najbliższe 12 miesięcy będzie to odzwierciedlać.\n\nMeta nie wydała publicznego oświadczenia w sprawie konkretnych reklam w chwili publikacji artykułu. Nazwa aplikacji nie została ujawniona w raporcie Ars Technica.