Anthropic’in kurucu ortağı Jack Clark, BBC’ye verdiği röportajda yapay zekâ şirketlerinin sistemlerini devre dışı bırakabilecek, üçüncü taraflarca doğrulanmış bir “kapatma anahtarı” bulundurmasının yasal zorunluluk hâline gelmesi gerekebileceğini söyledi. Açıklama, eski Anthropic araştırmacısı Jacob Coxon’ın istifasıyla alevlenen yapay zekâ güvenliği tartışmalarının tam ortasında geldi ve sektörde geniş yankı buldu.

İstifa Sonrası Alevlenen Güvenlik Tartışması

Tartışmanın fitilini, 9 Eylül’de Anthropic’teki görevinden istifa eden 27 yaşındaki araştırmacı Jacob Coxon ateşledi. Coxon, “yapay zekayı geliştirenlerin on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inandığını” yazarak ayrılığını duyurdu ve bu paylaşım X’te 115 milyonu aşkın görüntüleme topladı. Hafta sonu boyunca NBC News ve BBC gibi kanallara konuşan Coxon, yapay zekâ sistemlerinin kapatılmasının “şimdilik mümkün” olduğunu ama bu fırsatın kapanmak üzere olabileceğini savundu. Özellikle sistemlerin internet genelinde otomatik siber saldırılar düzenleyebileceği bir noktada, kapatma anahtarının artık işe yaramayabileceği uyarısını yaptı. Coxon’ın çıkışı, Anthropic CEO’su Dario Amodei’nin sınır düzeyindeki yapay zekâ gelişiminin yavaşlatılması çağrısına da doğrudan destek niteliği taşıyordu.

Sektör Liderleri Kısıtlamada Birleşiyor

Coxon’ın kamuoyu kampanyası, normalde birbirinin amansız rakibi olan isimler arasında sıra dışı bir ittifak doğurdu. Amodei hafta sonu üç ayaklı bir güvenlik çerçevesi önerdi: sınır yapay zekâ şirketlerinin içinde kalıcı üçüncü taraf değerlendiriciler, demokratik uluslar arasında ortak güvenlik standartları ve uluslararası koordinasyon. OpenAI CEO’su Sam Altman, Elon Musk ve Google DeepMind CEO’su Demis Hassabis de bu genel kısıtlama çağrısına destek verdi. Microsoft CEO’su Satya Nadella ise X’teki paylaşımında, inşa edilen yapay zekânın insanlığa fayda sağlamadığı ve insan kontrolü altında olmadığı sürece bu arayışın peşinden gitmeye değmeyeceğini yazdı. Nadella ayrıca yönetişimin “bir avuç kuruluşun” inisiyatifinin ötesine geçmesi gerektiğini savundu.

Kill Switch Yasası Kongre’ye Taşınıyor

Clark, BBC’ye yaptığı açıklamada çoğu laboratuvarın sistemlerini devre dışı bırakmak için zaten çeşitli yöntemleri olduğunu, ancak düzenleyicilerin bu tür önlemleri zorunlu kılması gerekebileceğini söyledi. ABD’de milletvekilleri, şirketleri kapatma mekanizmaları uygulamaya zorlayacak ve devlet kurumlarına belirli araçları devre dışı bırakma yetkisi tanıyacak “Kill Switch Yasası”nı gündeme getirdi. Anthropic’in hizalama araştırmacısı Evan Hubinger, yapay zekânın insanlığı yok etme olasılığının önümüzdeki on yılda yüzde 10’dan fazla olduğuna inandığını açıkladı; Nobel ödüllü Geoffrey Hinton da bu tahmini “akla yatkın” buldu. Ancak herkes hemfikir değil: Başkan Donald Trump yavaşlatma çabalarının Amerika’nın rekabet gücünü zedeleyeceğini savunurken, Birleşik Krallık hükümeti de acil kapatma anahtarı fikrine mesafeli yaklaştı.