Kaynaklar
Kendine göre yap
Bu hikâye ilham mı verdi? Fikrini saniyeler içinde kendi yapay zekâ sanatına dönüştür — ücretsiz başla, kart gerekmez.
Ücretsiz başlaBunu şununla konuş
Bir arkadaşını seç ve bu haber hakkındaki görüşünü öğren

Maya her yeni modeli benchmark'tan geçirir — önce rakamlar, asla abartı.
Bu hikâye ilham mı verdi? Fikrini saniyeler içinde kendi yapay zekâ sanatına dönüştür — ücretsiz başla, kart gerekmez.
Ücretsiz başlaBir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi (CSET) yönetici direktörü ve eski OpenAI yönetim kurulu üyesi Helen Toner, halkın ve yapay zeka yaratıcılarının yapay zeka şirketi CEO'larına körü körüne güvenmemesi gerektiğini kamuoyuna açıkladı. Yorumları, Kasım 2023'te Sam Altman'ı OpenAI'daki CEO'luk görevinden alma girişimindeki doğrudan katılımının ardından geldi; bu hamleyi The Verge ile yaptığı son röportajda tartıştı.
Röportajında Toner, temel sorunun belirli bir CEO değil, hızlı ticarileşme ile yapay zeka araştırma kuruluşlarının temel güvenlik misyonu arasındaki doğal çatışma olduğunu vurguladı. Bu bakış açısı, modeller ve araçlar için bu şirketlere güvenen yapay zeka sanatçıları ve geliştiricileri için kritik öneme sahiptir, çünkü erişimi, fiyatlandırmayı veya hatta model kullanılabilirliğini etkileyebilecek potansiyel istikrarsızlığa ve kurumsal önceliklerdeki değişikliklere işaret etmektedir.
Toner, güçlü yapay zeka sistemleri geliştiren kuruluşların, kısa vadeli ticari kazançlar veya bireysel liderlik hırsları yerine uzun vadeli güvenliği ve kamu yararını önceliklendirebilecek güçlü, bağımsız yönetişim yapılarına ihtiyaç duyduğunu vurguladı. Bu duruş, yaratıcıların büyük yapay zeka laboratuvarlarından gelen yeni modellere ve özelliklere sağlıklı bir şüphecilikle yaklaşması gerektiğini, temel kurumsal stratejilerin hızla değişebileceğini anlaması gerektiğini öne sürüyor. Örneğin, bugün görüntü oluşturmak için serbestçe kullanılabilen bir model, ticari baskılar gerektirirse yarın yalnızca ücretli bir özellik haline gelebilir veya güvenlik önlemleri yönetici kararlarına göre sıkılaştırılabilir veya gevşetilebilir.
«Bence bu şirketlerin CEO'larının kendilerini düzenlemelerine güvenmememiz çok önemli.»
— Helen Toner
Bu bakış açısı, yapay zeka topluluğu içindeki açık kaynaklı ve kapalı kaynaklı modeller arasındaki daha geniş tartışmaya da değiniyor. Daha az şeffaflık ve daha güçlü ticari teşviklerle faaliyet gösteren şirketler, model ağırlıklarını paylaşmaya veya kapsamlı harici denetime izin vermeye daha az eğilimli olabilir, bu da platformlarında inşa edenlerin yaratıcı özgürlüğünü ve teknik anlayışını potansiyel olarak sınırlayabilir. Yaratıcılar için bu, görüntü oluşturma iş akışları için seçtikleri platformların uzun vadeli uygulanabilirliğini ve etik duruşlarını dikkatlice değerlendirmek anlamına gelir.
Toner'ın OpenAI'daki deneyimi, önde gelen yapay zeka kuruluşlarındaki oynaklığı vurgulamaktadır. Bu istikrarsızlık, yaratıcılar için çeşitli şekillerde ortaya çıkabilir: API erişimindeki değişiklikler, içerik politikalarındaki değişiklikler veya beklenmedik model kullanımdan kaldırmaları. Örneğin, bir modelin temel değerlerinde veya yeteneklerinde ani bir değişiklik, belki de liderlik değişikliği veya yeni bir ticari direktif nedeniyle, yapay zeka sanatçılarını istem tekniklerini önemli ölçüde ayarlamaya veya hatta tamamen farklı modellere geçmeye zorlayabilir.
Daha güçlü yönetişim çağrısı, aynı zamanda daha şeffaf model geliştirme ve dağıtımına yönelik bir baskı anlamına da geliyor. Başarılı olursa, bu, model önyargılarının, sınırlamalarının ve güvenlik özelliklerinin daha iyi belgelenmesine yol açabilir ve yaratıcılara seçtikleri yapay zeka araçlarının nasıl çalıştığı ve hangi etik hususların söz konusu olabileceği hakkında daha net bir anlayış sunabilir. Günlük istem üzerindeki anlık etki dolaylı görünse de, bu üst düzey tartışmalar nihayetinde mevcut yapay zeka araçlarının manzarasını ve yaratıcıların bunlara erişebileceği koşulları şekillendirir. Güçlü yapay zeka sistemlerinin kontrolü ve yönü etrafındaki devam eden tartışma, yapay zeka sanatçılarının çalışmaları için güvendiği platformların istikrarını ve güvenilirliğini etkilemeye devam edecektir. Sağlam iş akışları oluşturmak isteyen yaratıcılar için, birden fazla platforma bağımlılığı çeşitlendirmek veya llama.cpp tarafından etkinleştirilenler gibi yerel yapay zeka çözümlerini keşfetmek, kurumsal değişikliklere karşı daha fazla esneklik sağlayabilir.