Elon Musk’ın da aralarında bulunduğu dünyaca tanınmış kişilerden oluşan bir grup, yapay zekâ yazılımlarının “toplum ve insanlık için derin riskler” oluşturduğunu iddia ediyor. Bu nedenle söz konusu grup, dünyanın dört bir yanındaki yapay zekâ laboratuvarlarını, büyük ölçekli yapay zekâ sistemlerinin geliştirilmesini durdurmaya çağıran açık bir mektuba imza attı.
Kâr amacı gütmeyen Future of Life Institute tarafından yayımlanan mektupta, yapay zekâ laboratuvarlarının şu anda “hiç kimsenin -hatta onları geliştirenlerin bile- anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği” makine öğrenme sistemleri geliştirmek ve dağıtmak için “kontrolden çıkmış bir yarışa” kilitlendiği belirtiliyor.
Mektupta, “Tüm yapay zekâ laboratuvarlarını, GPT-4’ten daha güçlü yapay zekâ sistemlerinin eğitimine en az 6 ay süreyle derhal durdurmaya çağırıyoruz. Bu durdurma, kamuya açık ve doğrulanabilir olmalı aynı zamanda tüm kilit güçleri kapsamalıdır. Böyle bir duraklama, hızlı bir şekilde hayata geçirilemezse hükûmetler devreye girmeli ve bir moratoryum başlatmalıdır.” deniyor.
Bildiriye imza atanlar arasında yazar Yuval Noah Harari, Apple kurucu ortağı Steve Wozniak, Skype kurucu ortağı Jaan Tallinn, Yoshua Bengio, Gary Marcus, Emad Mostaque, politikacı Andrew Yang ve Stuart Russell gibi tanınmış kişiler yer alıyor. Bildiriyi imzalayanların tam listesine haberin sonunda yer alan bağlantı üzerinden ulaşabilirsiniz ancak yeni isimlerin listeye espri olsun diye eklendiğine dair haberler alındığı için dikkatli yaklaşmak gerekiyor. Örneğin, OpenAI CEO’su Sam Altman, yapay zekâdaki mevcut yarış dinamiğinden sorumlu olan bir kişi.
Mektupta belirtildiği gibi OpenAI’ın kendisi bile güvenlik standartlarını karşıladıklarından emin olmak için gelecekteki yapay zekâ sistemlerinin “bağımsız olarak incelenmesi” için potansiyel ihtiyacı dile getirmiş bulunuyor. İmza sahipleri artık söz konusu zamanın geldiğini söylüyorlar.
Mektupta, “Yapay zekâ laboratuvarları ve bağımsız uzmanlar, yapay zekâ uygulamalarının geliştirilmesini sağlamak için bir dizi ortak güvenlik protokolünü birlikte iyileştirmek ve uygulamak adına bu duraklama evresini kullanmalıdır.” diye belirtiliyor.
Mektubun tamamına aşağıda bulunan bağlantı üzerinden ulaşabilirsiniz.
Derleyen: Nazlı Koyuncu
