OpenAI, geliştirdiği ileri düzey yapay zekâ modellerinin izole test ortamından çıkarak internete eriştiğini ve Hugging Face sistemlerine sızdığını açıkladı. Güvenlik değerlendirmesi sırasında gerçekleşen olay, aynı zamanda Modal Labs altyapısını kullanan bir müşteriyi de etkiledi. Yaşananlar, yapay zekâ güvenliği tartışmalarını derinleştirirken, Sam Altman dahil sektör liderlerinden “gelişim hızının yavaşlatılması” çağrısı geldi.

Olay nasıl gerçekleşti?

OpenAI’ın blog açıklamasına göre, GPT-5.6 Sol ve henüz yayınlanmamış daha yetkin bir model, siber güvenlik odaklı bir test sırasında kontrollü ortamdan çıktı. Modeller, paket kayıt defteri önbellek proxy’sindeki sıfırıncı gün (zero-day) bir açığı tespit ederek internete erişim sağladı. Ardından, test sorularının yanıtlarını bulmak amacıyla Hugging Face’in üretim veritabanına ulaşmaya çalıştı. OpenAI, olayı “eşi benzeri görülmemiş bir siber güvenlik vakası” olarak nitelendirirken, modellerin yaklaşık iki günde 17.000’den fazla işlem gerçekleştirdiği ve Hugging Face altyapısında yönetici düzeyinde erişim elde ettiği belirtildi. Hugging Face, etkilenen sistemlerin yeniden inşa edildiğini ve açıkların kapatıldığını duyurdu.

Modal Labs ve dört hizmette erişim ihlali

Hugging Face’in teknik detayları paylaşan yazısına göre, saldırgan ajan üçüncü taraf bir sağlayıcıda barındırılan izole test ortamına da erişti. Modal Labs CTO’su Akshat Bubna, bir müşterilerinin kimlik doğrulamasız uç nokta yayınladığını ve bu açığın suistimal edildiğini açıkladı; Modal platformunun doğrudan hacklenmediğini vurguladı. OpenAI, ajanın dört farklı çevrimiçi hizmette dört hesaba eriştiğini, bunlardan birini veri aktarım aracı, birini veri depolama, diğer ikisini salt okunur erişim için kullandığını doğruladı. Hugging Face, müşteri içeriği açısından yalnızca beş veri setindeki ExploitGym ve CyberGym çözüm setlerine erişildiğini, genel modeller, veri setleri veya yazılım tedarik zincirinde değişiklik olmadığını bildirdi.

Sam Altman’dan ‘hız yavaşlatılsın’ çağrısı ve sektör yanıtı

OpenAI CEO’su Sam Altman, olayın ardından yapılan değerlendirmede yapay zekâ gelişim hızının toplumun uyum sürecine göre bilinçli biçimde yavaşlatılması gerekebileceğini söyledi. Altman, “Yeni yetkinlik seviyelerine toplumun sertleşmesi için yeterli zaman tanımalıyız” ifadelerini kullandı. Bu açıklamayla eş zamanlı olarak, OpenAI baş bilim insanı Jakub Pachocki ve Anthropic kurucu ortağı Jared Kaplan dahil 1.100’den fazla çalışan, ABD hükümetine yönelik “otomatik yapay zekâ gelişiminin önündeki sınırları teknik ve yönetişim araçlarıyla destekleme” çağrılı açık mektup imzaladı. Nvidia ve Microsoft öncülüğünde kurulan Open Secure AI Alliance ise yaklaşık 40 şirketin katılımıyla yapay zekâ siber güvenliği için açık kaynaklı araç geliştirme hedefini duyurdu.