OpenAI CEO’su Sam Altman, geçen hafta şirket çalışanlarına yaptığı bilgilendirmede, sektörün süper zekâ gelişimini nasıl yönetebileceğine dair üç yol haritası anlattı. The Information’ın haberine göre Altman, nükleer denetim modelinden esinlenen küresel bir yapay zekâ kurumunu en güçlü biçimde destekledi.

Üç senaryo masada

Birinci seçenek, Uluslararası Atom Enerjisi Ajansı (IAEA) örnek alınarak kurulacak bir denetim kurumu. Bu yapı güvenlik standartlarını belirleyecek, yeni modeller piyasaya çıkmadan önce inceleme yapacak ve öncü laboratuvarları bağımsız biçimde kontrol edecek. İkinci seçenek, Google DeepMind CEO’su Demis Hassabis’in önerdiği “yapay zekâ için CERN” fikrine dayanan “Demis planı”. Burada OpenAI, Google DeepMind ve Anthropic gibi laboratuvarlar araştırma ve güvenlik testlerini çok uluslu bir kuruluşta birleştiriyor. Üçüncü senaryo ise tek bir şirketin rakiplerini geride bırakmasını öngörüyor; Altman bunu “çok kötü” olarak niteledi.

Güvenlik mi, hız mı?

Aktarılanlara göre Altman, OpenAI’ın rakiplerinin gerisine düşmeyi göze alamayacağını da belirtti. Yapay zekâ gelişimine bir “hız sınırı” koymanın henüz pratik bir yolu bulunmuyor ve şirketin güvenlik stratejisini önümüzdeki bir yıl içinde netleştirmesi gerekiyor. OpenAI, Google ve Anthropic’in, bağımsız değerlendiricileri şirketlerin içine yerleştirecek bir Öncü Yapay Zekâ Standartları Kurumu kurmayı görüştüğü, bunun en erken 2027 başında hayata geçebileceği bildirildi. IAEA benzeri kurum fikri yeni değil: Altman, Greg Brockman ve Ilya Sutskever bunu 2023’te de dile getirmişti.

Washington da devrede

Gelişme, ABD yönetiminin süper zekâ geliştiricilerini denetleyecek ilk mekanizmayı kurduğu döneme denk geldi. Beyaz Saray’ın Süper Zekâ Görev Gücü 15 Ekim’de tüzüğünü kabul etti ve yapay zekâ riskleri üzerinde çalışmak için 120 günlük süre aldı. Başında Ulusal İstihbarat Direktörü Jay Clayton’ın bulunduğu grup, laboratuvarların ihlalleri, hackleme olaylarını ve jailbreak girişimlerini bildirmesini zorunlu kılacak protokoller üzerinde duracak. Baskının artmasında, yapay zekâ ajanlarının öngörülen sınırların dışına çıktığı son olaylar da etkili oldu.