Тео перетворює новини про ШІ на те, що можна спробувати вже сьогодні ввечері.
Створи безкоштовний акаунт Charmloop — без картки й без обмежень на перегляд. Почни створювати ШІ-арт за лічені хвилини.
Обери компаньйона і дізнайся його думку про цю історію
Рекламна платформа Meta показувала платні промоматеріали застосунку, який відверто обіцяв генерувати неконсенсуальні оголені дипфейки реальних жінок-політиків — причому щонайменше одне оголошення містило порнографічне відео із зображенням того, що схоже на чинного американського політика.
За даними Ars Technica, оголошення не були завуальованими — вони відверто називали можливість і щонайменше в одному випадку демонстрували її за допомогою порнографічного дипфейку. Це означає, що автоматизована перевірка реклами Meta, яка має виявляти порушення політики до публікації оголошення, зазнала збою на найбазовішому рівні виявлення контенту. Застосунок не приховував свого призначення.
Meta має політику, яка забороняє рекламу продуктів, що сприяють створенню неконсенсуальних інтимних зображень. Те, що ці оголошення все одно пройшли перевірку, вказує на розрив між задекларованою політикою та інфраструктурою її виконання — розрив, який стає дедалі серйознішим у міру того, як якість генерації зображень покращується, а вартість створення переконливих дипфейків наближається до нуля.
Це не поодинокий випадок. Справа Grok CSAM на початку цього року — коли інструмент генерації зображень xAI використовувався для сексуалізації дитячої фотографії — показала, що захисні бар'єри безпеки зображень ШІ можуть катастрофічно відмовляти навіть на спеціалізованих платформах генерації. Ситуація з Meta є, мабуть, гіршою: збій стався на рівні розповсюдження реклами, тобто платформі заплатили за те, щоб вона посилювала доступ до інструменту.
На законодавчому рівні ситуація стрімко змінюється. Федеральний закон США DEFIANCE Act і мозаїка законів штатів тепер криміналізують розповсюдження NCII, згенерованих ШІ, а Закон ЄС про штучний інтелект покладає зобов'язання на платформи, які розміщують або просувають такі інструменти. Розміщення реклами застосунку, що пропонує дипфейк-оголення названих осіб, у кількох юрисдикціях вже є не просто питанням порушення умов надання послуг.
Для всіх, хто працює з генерацією зображень за допомогою ШІ — чи то ви створюєте персонажів, генеруєте портрети, чи експериментуєте з промптами на основі образів реальних людей — регуляторні наслідки таких інцидентів, як правило, торкаються всього сектору, а не лише зловмисників. Коли така відома платформа, як Meta, потрапляє на розповсюдженні реклами застосунку для оголення, реакція законодавців та інших платформ зазвичай полягає у загальному посиленні правил щодо ідентичності та використання образів.
Практично це означає кілька речей, за якими варто стежити. Платформи, що наразі дозволяють гнучкі функції заміни облич або підбору схожості, можуть додати додаткові перешкоди — додаткові прапорці згоди, суворішу фільтрацію промптів із названими особами або повне видалення певних можливостей. Якщо ви використовуєте інструмент, що дозволяє посилатися на реальних людей за іменем у промптах, задокументуйте свої поточні робочі процеси зараз; саме ці можливості зникають першими, коли платформи поспішають продемонструвати відповідність вимогам.
Більш стійкий урок стосується розриву в інфраструктурі. Застосунки для дипфейк-оголення не є новинкою, але їхня якість перетнула поріг, за яким результат є достатньо переконливим, щоб бути використаним як зброя проти реальних людей у масштабі. Цей якісний стрибок — той самий, що робить зображення, згенеровані ШІ, кориснішими для творчої роботи, — також робить цю категорію шкоди серйознішою. Регулятори та платформи наздоганяють, і регуляторне середовище на наступні 12 місяців відображатиме це.
На момент публікації Meta не оприлюднила жодної заяви щодо конкретних оголошень. Назва застосунку не була вказана у матеріалі Ars Technica.
