Anthropic'ten Kontrolsüz Yapay Zeka Gelişimine Küresel Fren Çağrısı

Yapay zeka🏷️ alanının önde gelen şirketlerinden Anthropic🏷️, en gelişmiş yapay zeka sistemlerinin geliştirilmesine yönelik küresel ölçekte geçici bir yavaşlama veya duraklatma mekanizmasının değerlendirilmesi gerektiğini savundu. Şirket, yeni nesil modellerin insan müdahalesi olmadan kendi yeteneklerini geliştirebilecek seviyeye yaklaşmasının ciddi güvenlik riskleri doğurabileceği konusunda uyarıda bulundu.

Küresel Koordinasyonun Zorunluluğu

Küresel ölçekte bir duraklamanın pek mümkün görünmediğini belirten Anthropic, yalnızca tek bir şirketin veya ülkenin yapay zeka geliştirme faaliyetlerini yavaşlatmasının pratikte etkili olmayacağını düşünüyor. Şirkete göre böyle bir durumda rakip kuruluşlar çalışmalarına hız kesmeden devam edecek ve rekabet avantajı elde edecek. Raporda, etkili bir duraklatma mekanizmasının hayata geçirilebilmesi için başta ABD ve Çin olmak üzere birden fazla ülkedeki büyük yapay zeka şirketlerinin aynı anda hareket etmesi gerektiği vurgulandı.

Ayrıca, bu sürecin güvenilir olabilmesi için tüm tarafların uyacağı doğrulanabilir kuralların oluşturulmasının şart olduğu ifade edildi. Anthropic, küresel ölçekte ortak bir koordinasyon mekanizması bulunmadığı takdirde şirketlerin ve hükümetlerin güvenlik kararlarını yoğun ticari rekabet ve jeopolitik baskılar altında almak zorunda kalacağını belirtti.

Mythos Modeli🏷️ ve Yöneltilen Eleştiriler

Şirketin bu güvenlik odaklı yaklaşımı, teknoloji🏷️ sektöründeki bazı isimler ve Beyaz Saray🏷️ çevrelerinden eleştiri aldı. Söz konusu eleştirilerde şirketin en kötü senaryolara aşırı odaklandığı ve bu riskleri rakiplerin ilerlemesini yavaşlatmak amacıyla öne çıkardığı yönünde görüşler dile getiriliyor. Buna rağmen ABD yönetimi, Anthropic'in geliştirdiği Mythos isimli yapay zeka modelinin sahip olduğu kapasiteyi kabul ediyor. Şirket, özellikle siber güvenlik alanındaki ileri düzey yetenekleri nedeniyle bu modeli kamuya açmış değil. Mythos şu anda yalnızca sınırlı sayıdaki doğrulanmış kuruluş tarafından kullanılabiliyor.

Öte yandan, Anthropic'in önerisinin siyasi ve sektörel düzeyde destek bulmasının kolay olmayacağı değerlendiriliyor. ABD'li yetkililer ve teknoloji yöneticileri uzun süredir yapay zeka geliştirme hızının düşürülmesinin Çin'e önemli bir stratejik avantaj sağlayabileceğini savunuyor.

Yinelemeli Kendini Geliştirme Tehlikesi

Şirketin raporundaki en dikkat çekici bölüm ise yapay zekanın artık kendi gelişim sürecini hızlandırmaya başlamasıyla ilgili değerlendirmeler oldu. Anthropic'e göre mevcut veriler, yapay zeka sistemlerinin yeni yapay zeka modellerinin geliştirilmesinde giderek daha fazla rol oynadığını gösteriyor. Bu durum zamanla kendi kendini besleyen bir döngü oluşturabilir ve araştırmacıların "yinelemeli kendini geliştirme" (recursive self-improvement) olarak adlandırdığı aşamaya kapı aralayabilir. Bu senaryoda bir yapay zeka sistemi, insan desteğine çok az ihtiyaç duyarak kendi performansını artırmayı ve daha gelişmiş sürümlerini oluşturmayı öğrenebilir. Başka bir ifadeyle sistem, kendi zekasını geliştiren bir mekanizmaya dönüşebilir.

Hazırlık Yetersiz Kalabilir

Anthropic, böyle bir aşamaya henüz ulaşılmadığını ve bunun kaçınılmaz olmadığını özellikle vurguluyor. Ancak şirket, bu tür bir gelişmenin hükümetlerin ve kurumların hazırlık seviyesinden daha erken gerçekleşebileceği konusunda uyarıyor. Raporda ayrıca yapay zeka geliştirme süreçlerinin her aşamasında insan katkısının giderek azaldığına dikkat çekildi. Şirketin değerlendirmesine göre mevcut eğilimler, insanın yapay zeka geliştirme sürecindeki rolünün adım adım daraldığını gösteriyor. Anthropic, önerdiği küresel yavaşlama mekanizmasının önemini vurgulamaktadır.

Kaynak: Anthropic