Theo yapay zekâ haberlerini bu akşam deneyebileceğiniz şeylere dönüştürür.
Ücretsiz Charmloop hesabını oluştur — kart yok, gezinmede sınır yok. Dakikalar içinde yapay zekâ sanatı yapmaya başla.
Bir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
Meta'nın reklam platformu, gerçek kadın politikacıların rızası alınmadan çıplak deepfake görüntülerini oluşturmayı açıkça vaat eden bir uygulamanın ücretli tanıtımlarını yayınladı — reklamlardan en az birinde, görevdeki bir ABD'li politikacıya benzediği değerlendirilen bir kişiyi konu alan pornografik bir video yer alıyordu.
Ars Technica'ya göre, reklamlar hiç de ince değildi — kapasiteyi açıkça adlandırıyor ve en az bir durumda bunu pornografik bir deepfake ile kanıtlıyordu. Bu durum, bir reklamın yayına girmeden önce politika ihlallerini yakalaması gereken Meta'nın otomatik reklam inceleme sisteminin, içerik tespitinin en temel düzeyinde başarısız olduğu anlamına geliyor. Uygulama, ne yaptığını gizlemiyordu.
Meta'nın, rızasız mahrem görüntüleri kolaylaştıran ürünlerin reklamlarını yasaklayan politikaları bulunuyor. Bu reklamların yine de incelemeyi geçmiş olması, yazılı politika ile uygulama altyapısı arasındaki bir boşluğa işaret ediyor — görüntü oluşturma kalitesi iyileştikçe ve ikna edici deepfake üretmenin maliyeti sıfıra yaklaştıkça bu boşluk daha da kritik bir hal alıyor.
Bu izole bir olay değil. Bu yılın başlarındaki Grok CSAM vakası — xAI'ın görüntü aracının bir çocukluk fotoğrafını cinselleştirmek için kullanıldığı olay — yapay zeka görüntü güvenliği korumalarının özel üretim platformlarında bile feci biçimde başarısız olabileceğini gösterdi. Meta'nın durumu tartışmasız daha kötü: Başarısızlık reklam dağıtım katmanında yaşandı; yani platform, araca erişimi yaymak için para aldı.
Yasama cephesinde zemin hızla kayıyor. ABD federal DEFIANCE Yasası ve bir dizi eyalet yasası artık yapay zeka tarafından üretilen NCII'nin dağıtımını suç olarak tanımlıyor; AB'nin Yapay Zeka Yasası ise bu tür araçlara ev sahipliği yapan veya bunları tanıtan platformlara yükümlülükler getiriyor. Adı geçen bireylerin deepfake çıplaklaştırmasını pazarlayan bir uygulamanın reklamlarını yayınlamak, pek çok yargı bölgesinde artık yalnızca hizmet şartları meselesi olmaktan çıkmış durumda.
Yapay zeka görüntü üretimiyle çalışan herkes için — ister karakter oluşturuyor, ister portre üretiyor, ister benzerlik tabanlı yönlendirme denemeleri yapıyor olun — bu tür olaylardan kaynaklanan düzenleyici tepkiler genellikle yalnızca kötü aktörlere değil, sektörün tamamına yansır. Meta gibi yüksek profilli bir platform, çıplaklaştırma uygulamasının reklamlarını dağıtırken yakalandığında, yasa koyucuların ve diğer platformların tepkisi genellikle kimlik ve benzerlik kurallarını genel olarak sıkılaştırmak yönünde olur.
Pratik açıdan, dikkat edilmesi gereken birkaç nokta var. Şu anda esnek yüz değiştirme veya benzerlik eşleştirme özellikleri sunan platformlar, ek sürtüşme ekleyebilir — ek onay onay kutuları, adı geçen bireyler için daha katı yönlendirme filtrelemesi veya belirli özelliklerin tamamen kaldırılması gibi. İstemlerinizde gerçek kişilere adlarıyla atıfta bulunmanıza olanak tanıyan bir araç kullanıyorsanız, mevcut iş akışlarınızı şimdi belgeleyin; platformlar uyumu kanıtlamak için acele ettiğinde ilk kaldırılanlar bu kolaylıklar oluyor.
Daha kalıcı ders, altyapı boşluğuyla ilgili. Deepfake çıplaklaştırma uygulamaları yeni değil; ancak kaliteleri, çıktının gerçek insanlara karşı büyük ölçekte silah olarak kullanılabilecek kadar ikna edici olduğu bir eşiği aştı. Bu kalite sıçraması — yapay zeka tarafından üretilen görüntüleri yaratıcı çalışmalar için daha kullanışlı kılan aynı sıçrama — bu tür zararları da daha ağır hale getiriyor. Düzenleyiciler ve platformlar yetişmeye çalışıyor; önümüzdeki 12 ayın politika ortamı bunu yansıtacak.
Meta, raporlama anında söz konusu reklamlara ilişkin kamuoyuna herhangi bir açıklama yapmamıştı. Ars Technica haberinde söz konusu uygulamanın adına yer verilmedi.
