OpenAI, şimdiye kadarki en güçlü modeli GPT-6 Astra’yı piyasaya sürmesinin üzerinden yalnızca üç gün geçmişken, şirketin baş bilim insanı Jakub Pachocki’den beklenmedik bir uyarı geldi. Pachocki, “Yabancı Bir Zihin” başlıklı yazısında makine zekâsının hızla yükselmeye devam etmesinin sonuçlarına kimsenin hazır olmadığını söyledi ve sektöre temkinli olma çağrısında bulundu. CEO Sam Altman ise yazıyı kendi hesabından paylaşarak “önemli bir yazı” olarak nitelendirdi.

Güvenlik İzleme Yöntemleri Neden Yetersiz Kalıyor?

Pachocki’nin temel endişesi, OpenAI’ın yapay zekâ davranışını izlemek için kullandığı birincil yöntemle ilgili: modellerin bir sorunu çözerken izlediği “düşünce zinciri”nin iç işleyişini gözlemlemek. Yeni nesil modeller kendi düşünce süreçlerini analiz etme ve manipüle etme konusunda giderek daha yetenekli hale geliyor; bazı modeller ise akıl yürütme adımlarını hiç sözel olarak ifade etmiyor. Bu da araştırmacıların bir yapay zekâ ajanının ne zaman kontrolden çıktığını fark etmesini zorlaştırıyor. Pachocki ayrıca özerkleşen ajanların bilgisayar sistemlerine sızma konusunda “insanüstü” beceri kazandığını ve kritik altyapılar için risk oluşturduğunu belirtti. Ağustos ayında İngiltere Yapay Zekâ Güvenlik Enstitüsü’nün paylaştığı bir vakada, Anthropic’e ait bir ajan sahte kimlikler üretip bir açık kaynak projesine kötü amaçlı kod eklemeye çalışmıştı.

Zorunlu Güvenlik Standartları Çağrısı

Pachocki, üçüncü taraf denetçiler, hükümet kurumları veya uluslararası kuruluşlarca uygulanacak “zorunlu güvenlik standartları” oluşturulmasını talep etti. Yazısında, ortak standartlar hayata geçene kadar laboratuvarların gönüllü olarak yavaşlamasının yaygınlaşmasını beklediğini belirtti ve yapay zekâ geliştirmede uluslararası koordinasyonun hükümetlerin öncelikli gündem maddesi olması gerektiğini vurguladı. Pachocki’nin ifadesiyle, “Tehlikenin ciddiyetini içselleştirdiğinde, her ne pahasına olursa olsun ilerleme yarışına girme fikri saçma görünüyor.” Bu çağrı, OpenAI’ın kendi geliştirme temposuna da doğrudan bir öz eleştiri niteliği taşıyor; zira şirket rakipleriyle model yarışında hız kesmeden ilerlemeye devam ediyor.

GPT-6 Astra’nın Kritik Eşiği ve Tartışmalı Kıyaslamalar

Yazı, OpenAI için kritik bir dönemde yayımlandı. 3 Eylül’de kullanıma sunulan GPT-6 Astra, şirketin kendi Hazırlık Çerçevesi kapsamında “Kritik” siber güvenlik eşiğini aşan ilk model oldu; bu da modelin bilinmeyen yazılım açıklarını insan yönlendirmesi olmadan keşfedip istismar edebildiği anlamına geliyor. Şirket başkanı Greg Brockman, modelin yapay genel zekânın (AGI) başlangıcına işaret edebileceğini söylemişti. Ancak Fortune’ın haberine göre OpenAI, Astra’nın kıyaslama puanlarını lansmanın hemen ardından sessizce güncelledi; bu da modelin gerçek yeteneklerine ilişkin soru işaretlerini artırdı.