Ücretsiz Charmloop hesabını oluştur — kart yok, gezinmede sınır yok. Dakikalar içinde yapay zekâ sanatı yapmaya başla.
San Francisco şehir avukatı, Apple ve Google'a rızasız mahrem görüntü üretmek amacıyla tasarlanmış araçlardan her iki şirketin de —büyük olasılıkla milyonlarca dolar ücret geliriyle— kazanç sağladığını öne sürerek söz konusu yapay zeka çıplaklık uygulamalarını kendi uygulama mağazalarından kaldırmalarını emretti.
Ars Technica'nın haberine göre, şehir avukatlığı davayı doğrudan para ekseninde çerçeveledi: Apple ve Google bu uygulamalara yalnızca pasif bir şekilde ev sahipliği yapmıyor; uygulama içi satın alımlar ve abonelik ücretlerinden standart yüzde 15-30 pay alıyor. Çıplaklık uygulamaları abonelikler aracılığıyla para kazandığında bu gelir doğrudan platformlara akıyor. Hukuki argüman şu: bu payı kabul etmek her iki şirketi de zararın tarafsız bir aracısı değil, aktif bir katılımcısı hâline getiriyor.
Bu çerçeveleme, daha geniş yapay zeka sanat ekosistemi açısından büyük önem taşıyor. Düzenleyiciler, uygulama mağazaları, API sağlayıcıları ve bulut barındırma hizmetleri gibi altyapı katmanlarını, üzerinde çalışan içerikten hukuken sorumlu tutmaya giderek daha fazla yöneliyor. Çıplaklık uygulamalarına uygulanan mantığın, gelecekteki işlemlerde düzenleyicilerin ölçekte zararlı içerik ürettiğine karar verdiği her görüntü üretme aracına kadar genişleyebileceği değerlendiriliyor.
Çıplaklık uygulamaları, belirli bir yapay zeka görüntü aracı kategorisidir: gerçek bir kişinin giyinik fotoğrafını alarak o kişinin bilgisi veya rızası olmaksızın sentetik bir çıplak versiyonunu üretirler. Bu durum onları, kullanıcının bir metin istemi aracılığıyla görüntü oluşturduğu ya da kendi kontrolündeki referans görüntüleri yüklediği genel amaçlı yapay zeka görüntü oluşturuculardan keskin biçimde ayırıyor. Gerçek bir kişinin görünümünün rızasız kullanımı, temel hukuki ve etik sorunun özünü oluşturuyor; bu durum söz konusu kategoriyi, yapay zeka sanat yaratıcılarının Charmloop'un oluşturucusu gibi platformlarda her gün kullandığı daha geniş kapsamlı yaratıcı araçlardan ayırıyor.
Bu ayrımı net tutmak önemli: bu eylem, bir uygulama olarak yapay zeka görüntü üretimine yönelik kapsamlı bir saldırı değil. Dar, rızayı ihlal eden bir kullanım senaryosunu hedef alıyor. Ancak bu sürecin yarattığı düzenleyici ivme gerçek ve görüntü üretme araçlarına ev sahipliği yapan her platform, Apple ile Google'ın nasıl yanıt vereceğini yakından izliyor.
Hem Apple hem de Google, rızasız mahrem görüntü üreten uygulamaları adı üzerinde yasaklayan mevcut politikalara sahip. Şehir avukatının eylemi, özünde bu politikaların uygulanmadığına yönelik bir suçlamadır: uygulamaların inceleme sürecinden sıyrıldığı, önemli miktarda abonelik geliri elde edecek kadar uzun süre yayında kaldığı ve yalnızca dış baskı altında (eğer kaldırıldıysa) kaldırıldığı ileri sürülüyor.
Yapay zeka yaratıcıları için bu uygulama boşluğunun pratik bir sonucu var: uygulama mağazaları, içerik politikasının sınırlarında faaliyet gösteren herhangi bir yapay zeka görüntü aracı için güvenilmez bir dağıtım kanalı. Meşru yaratıcı araçlar geliştiren geliştiriciler, Apple'ın inceleme sürecinin tutarsız ve şeffaf olmadığından uzun süredir şikâyet ediyor. Bu dava, Apple ve Google'ı yapay zeka görüntü üretme uygulamalarına yönelik kapsamlı kısıtlamalara yöneltebilecek siyasi baskıyı artırıyor; bu tür aşırı düzeltmeler, meşru araçları zararlı olanlarla aynı ağa düşürüyor.
San Francisco şehir avukatının federal yargı yetkisi bulunmuyor; dolayısıyla emrin hukuki gücü California yasalarına ve Apple ile Google'ın dava açmak yerine uyum sağlama isteğine bağlı. Her iki şirket de işaretlenen uygulamaları kaldıracağını kamuoyu önünde doğrulamadı. Direnç göstermeleri hâlinde dava bir emsal oluşturabilir ya da belediye otoritesinin küresel uygulama dağıtım platformları üzerindeki sınırlarını gün yüzüne çıkarabilir.
Yapay zeka görüntü araçları etrafında iş akışları oluşturan yaratıcılar için daha acil sinyal yasal alanda: birçok eyalet ve federal hükümet, rızasız yapay zeka kaynaklı mahrem görüntüleri açıkça suç olarak tanımlayacak yasaları ilerletiyor. Bir şehir avukatının mektubunun aksine bu yasalar, uygulanabilir yaptırımlar içerecek ve görüntü üretme modellerinin ne yapmasına izin verileceğini —ve sağlayıcıların yasal olarak hangi güvenlik filtrelerini entegre etmesi gerektiğini— yeniden şekillendirebilecek. Bu düzenleyici süreci takip etmek, model sürümlerini izlemek kadar önemli. xAI'ın Grok kullanıcılarına CSAM üretimi nedeniyle açtığı davaya ilişkin önceki haberimiz, yapay zeka kaynaklı zararlı görüntüler etrafındaki hukuki ortamın ne kadar hızlı değiştiğini gözler önüne seriyor.
