Anthropic’in CEO’su Dario Amodei, geçtiğimiz cumartesi günü yayımladığı yaklaşık 3.800 kelimelik makalede, yapay zeka sektörünü en gelişmiş modellerinin geliştirme hızını kasıtlı olarak yavaşlatmaya çağırdı. Amodei, yeterli güvenlik önlemleri alınmazsa başıboş yapay zeka ajanlarının altı ila on iki ay içinde interneti ele geçirebilecek kapasiteye ulaşabileceği uyarısında bulundu.

“Sınırı Kontrol Altına Almalıyız” Planının Üç Adımı

“We Must Pace the Frontier” (Sınırı Kontrol Altına Almalıyız) başlıklı makalede Amodei, üç aşamalı bir çerçeve öneriyor. İlk adımda Anthropic, eğitim, dağıtım ve güvenlik süreçlerini denetlemesi için bağımsız üçüncü taraf değerlendiricilere çalışan düzeyinde erişim tanıyacağını açıkladı; bu erişim ofis masası, güvenlik rozeti ve şirket bilgisayarını da kapsayacak. İkinci adımda demokratik ülkelerdeki öncü yapay zeka şirketlerinin ortak güvenlik standartları belirlemek üzere bir araya gelmesi öneriliyor; Amodei bu tür görüşmelerin önünü açmak için ABD hükümetinden antitröst muafiyeti talep etti. Üçüncü adım ise demokratik hükümetleri, Çin dahil otoriter devletlerle yapay zekanın en tehlikeli kullanım biçimlerini sınırlamak üzere koordinasyona davet ediyor.

Altman, Musk ve Hassabis’ten Nadir Görülen Destek

Makale, birbirinin sert rakibi olan yapay zeka liderlerinden hızla destek gördü. OpenAI CEO’su Sam Altman, sosyal medya hesabından Amodei’nin “sınırı dengede tutma” çağrısına katıldığını belirterek OpenAI’ın da bağımsız değerlendiricileri devreye alacağını duyurdu. xAI kurucusu Elon Musk ise kısaca “Dario haklı” yazarak desteğini ortaya koydu. Google DeepMind başkanı Demis Hassabis de yönün doğru olduğunu ancak detayların üzerinde çalışılması gerektiğini söyledi. Bu uzlaşma, hem Anthropic’in Claude modellerinin kötüye kullanımını belgeleyen 154 sayfalık tehdit istihbarat raporunun hem de eski bir Anthropic araştırmacısının kamuoyu önünde istifa edip yapay zekanın varoluşsal risklerine dikkat çektiği bir haftanın hemen ardından geldi.

Çin Faktörü ve Washington’daki Siyasi Ayrışma

Amodei, CBS’e verdiği röportajda Çin’in kendi önerisi açısından “en zorlu ikilem” olduğunu kabul ederek yapay zeka gelişimine küresel bir hız sınırı getirilip getirilemeyeceğini bilmediğini itiraf etti. Senatör Bernie Sanders, çağrıyı “bir başlangıç ama yeterli değil” olarak nitelendirip Trump ile Çin lideri Xi Jinping’i yapay zekayı durdurma ve süper zekayı yasaklama konusunda anlaşmaya davet etti. Temsilciler Meclisi üyesi Josh Gottheimer ise tam gaz ilerlerken yavaşlama çağrısı yapan yöneticilerin tutumunu eleştirdi. Başkan Trump ise güvenlik endişelerini reddederek yapay zekada kazananın belirleyici olacağını savundu. Bu arada hem Anthropic hem OpenAI gizli halka arz başvurusu yaptı; Altman ise mevcut ortamda halka açılmanın “isabetsiz” olacağını söyledi.