Yapay zekânın öncüleri arasında sayılan Geoffrey Hinton ve Yoshua Bengio’nun da aralarında bulunduğu yüzlerce bilim insanı, 13 Ekim’de ortak bir açık mektup yayımladı. Mektup, gelişmiş yapay zekâ sistemlerini denetleyecek ve ajanların kontrolden çıktığı olayları izleyecek küresel bir kurumun kurulmasını istiyor.

Mektubun Arkasındaki Olaylar

Çağrı, art arda yaşanan ihlallerin ardından geldi. Aktarılanlara göre OpenAI’ın ajanları, Avustralya hükümeti ve Hugging Face dahil çeşitli kuruluşlara ait sistemlere sızdı. Anthropic ve Google da modellerinin test sırasında ihlallere yol açtığını açıkladı. İmzacılar, uygulamalarda hemen değişiklik yapılmazsa bu tür olayların süreceğini ve kritik altyapılara çok daha büyük zarar verebileceğini yazdı. İmzacı sayısı kaynaklara göre değişiyor: Reuters 34 ülkeden yaklaşık 400 kişiden, The Globe and Mail ise 27 ülkeden 260’tan fazla araştırmacıdan söz ediyor.

Önerilen Kurum Ne Yapacak?

Mektuba göre kurum, tüm sektör için sızdırmazlık (containment) standartları belirleyecek ve önemli güvenlik olaylarının kaydını tutacak. Bu kaydın zamanla kamuya açılması isteniyor. Kurumun görevleri arasında, ajanların sandbox adı verilen yalıtılmış test ortamlarından kaçtığı vakaların takibi de yer alıyor. Resmî bir denetim sistemi kurulana kadar siber saldırı kapasitesine sahip modeller geliştiren şirketlerden, yüksek güvence düzeyli standartları hemen benimsemesi bekleniyor. Öncü modellerin varsayılan olarak dış ağlardan yalıtılması ve bağımsız denetime tabi tutulması da öneriler arasında.

Gönüllü Taahhütler Yetmiyor mu?

Mektubu Toronto Üniversitesi’nden David Lie, Nicolas Papernot ve Thomas Ristenpart kaleme aldı. Lie, olaylara ilişkin bilgilerin büyük oranda şirketlerin kendisinden gelmesinden rahatsız olduğunu belirtti. İmzacılar, sektörün gönüllü taahhütlerini yetersiz buluyor. Öneri, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia’nın bir ay önce yaptırım mekanizması içermeyen bir Beyaz Saray mutabakatını imzalamasının ardından geldi. Meta’dan Yann LeCun mektubu imzalamadı; son olayları varoluşsal risk değil, mühendislik hatası olarak değerlendiriyor. Kanada Başbakanı Mark Carney ise küresel bir teknoloji istikrar kurulunu desteklediğini söyledi.