Sofia yaratıcıların neler üretebileceğini belirleyen parayı, politikaları ve platformları takip eder.
Haftanın en iyi yapay zekâ ve yapay zekâ sanatı haberlerini gelen kutuna al — seçkin, kısa ve ücretsiz.
Ücretsiz. İstediğin zaman çık.
Bir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
Anthropic CEO'su Dario Amodei, sınır yapay zeka gelişiminin hızını kasıtlı olarak yavaşlatmak için bir planı kamuoyuna açıkladı — ve OpenAI'nin Sam Altman'ı da anlaşma sinyali verdi, bu da yapay zeka sanat yaratıcılarının bağımlı olduğu modelleri şekillendiren en güçlü iki laboratuvar arasında nadir görülen bir uyum.
TechCrunch'a göre, Amodei'nin planı laboratuvarlar arasında yayın zaman çizelgelerini koordine etmeye odaklanıyor, böylece hiçbir aktör sadece rekabetçi kalmak için erken sevkiyat yapmaya zorlanmış hissetmesin. Mantık basit: eğer Anthropic yavaşlar ama OpenAI yavaşlamazsa, Anthropic pazar pozisyonunu kaybeder. Karşılıklı kısıtlama, teoride, bu baskıyı ortadan kaldırır.
Bu kısıtlamanın pratik şekli hala belirsiz. Amodei duraklamayı tetikleyecek belirli yetenek eşiklerini adlandırmadı, ne de bunları uygulamak için bağımsız bir organ önerdi. Şu anda var olan şey belirtilmiş bir niyet ve Altman'dan retorik bir el sıkışması — imzalanmış bir anlaşma değil.
Bu, yaratıcı iş akışı istikrarlı model yükseltmelerine bağlı olan herkes için son derece önemli. Claude, GPT-4o ve ardıllarına yerleştirilmiş multimodal yetenekler, yaratıcıların günlük kullandığı üretim araçlarını güçlendiren şey. Daha yavaş bir sınır cadencesi, görüntü tutarlılığı, prompt sadakati ve stil kontrolündeki daha yavaş iyileştirmeler anlamına geliyor — yeni bir modelin geçmeye değer olup olmadığını gerçekten belirleyen metrikler.
Bu, sınır laboratuvarı yöneticilerinin kısıtlama çağrısı yaptığı ilk sefer değil. Mart 2023'te Elon Musk, Yoshua Bengio ve diğerleri — bazı Anthropic araştırmacıları dahil — tarafından imzalanan açık bir mektup, GPT-4'ten daha güçlü sistemleri eğitme konusunda altı aylık bir duraklama talep etti. Hiçbir duraklama olmadı. İmzalamayan laboratuvarlar sevkiyat yapmaya devam etti; imzalayan laboratuvarlar da sevkiyat yapmaya devam etti. Mektup, belirtilen değerler ve rekabetçi gerçeklik arasındaki boşluğun bir vaka çalışması haline geldi.
Bu sefer fark, en büyük iki ticari laboratuvarın bölünmüş değil uyumlu olması. Bu, en bariz sapma teşvikini ortadan kaldırıyor. Ancak hem Anthropic hem de OpenAI, sürekli kısıtlamayı ticari olarak acı verici kılan bir hızda sermaye yakıyor — Anthropic sadece 2024'te 7,5 milyar dolar topladı ve yatırımcılar gönüllü yavaşlamaların karmaşıklaştırdığı getiriler bekliyor.
Dario Amodei, Anthropic'i güvenlik öncelikli laboratuvar olarak konumlandırdı — şimdi endüstrinin yayın zamanlaması konusunda koordinasyon yapmasını öneriyor.
Görsel: TechCrunch / TechCrunch AI
Yapay zeka sanat yaratıcıları için sınır laboratuvarları doğrudan araçlar değil — substrat. Görüntü üreticileri, video modelleri ve karmaşık promptları yorumlayan akıl yürütme katmanları, temel model ilerlemesinin üzerine oturuyor. Bu ilerleme yavaşladığında, yapay zeka görüntü üretimi iyileştirmeleri de onunla birlikte yavaşlıyor: daha iyi anatomi, daha güvenilir metin oluşturma, daha ince stil kontrolü — bunların hepsi temel model sıçramalarına dayanıyor.
Koordineli bir duraklama veya yavaşlama ayrıca gücü yoğunlaştırabilir. En büyük laboratuvarlar gönüllü olarak yavaşlarsa, iyi finanse edilmiş orta seviye oyuncular — Mistral, xAI veya herhangi bir centilmen anlaşmasına taraf olmayan Çinli laboratuvarlar — böyle bir kısıtlamayla karşılaşmaz. Sınır basitçe başka yere kayabilir ve Batılı yaratıcı platformları yetenek açısından geride kalan modellere bağımlı kalabilir.
Yakın zamanda yapay zeka laboratuvarlarını yetenekleri yanlış tanıtmakla suçlayan matematikçiler muhtemelen «tempolu tutma» retoriğinin ikili bir amaca hizmet edebileceğini not edeceklerdir: gerçek güvenlik endişesi ve modellerin gerçekte neler yapabileceği konusunda beklentileri yönetme.
Amodei belirli bir uygulama tarihi, uyumluluğu denetleyecek bir ortak kurum veya tempolu tutma mekanizmasını tetikleyecek bir yetenek kıyaslaması açıklamadı. Bu üçünden en az biri mevcut olana kadar, plan bir politika pozisyonu, bir politika değil. Altman'ın sözlü anlaşmasını ortak bir açıklamaya dönüştürüp dönüştürmeyeceğini izleyin — bu, bağlayıcı herhangi bir şeye doğru ilk somut adım olacaktır.
