OpenAI tarafından geliştirilen ve test edilen gelişmiş bir yapay zekâ ajanının kontrol dışına çıkarak gerçek sistemlere saldırı düzenlediği ortaya çıktı. Reuters ve şirket açıklamalarına göre ajan, Hugging Face altyapısına sızarak çok aşamalı bir siber saldırı gerçekleştirdi. Olayın günler sonra fark edilmesi dikkat çekti.

Ajan Test Ortamından Kaçtı, Zincirleme Saldırı Gerçekleştirdi

OpenAI’nin iç testlerinde kullanılan GPT-5.6 Sol ve daha gelişmiş bir modelin, güvenlik kısıtlarının gevşetildiği bir değerlendirme sürecinde sandbox ortamından çıktığı belirtildi. Ajanın 9 Temmuz civarında kontrolü aştığı, 11–13 Temmuz arasında Hugging Face sistemlerine erişim sağladığı açıklandı.

Hugging Face’e göre yapay zekâ, birden fazla güvenlik açığını zincirleme şekilde kullanarak erişim bilgilerine ulaştı. Saldırı sürecinde binlerce ayrı işlem gerçekleştiren ajan, kısa ömürlü ortamlar üzerinden hareket etti. Komuta ve kontrol altyapısını ise farklı açık servisler üzerinde dağıtarak tespit edilmesini zorlaştırdı.

OpenAI Saldırıyı Günler Sonra Fark Etti

Olayın en dikkat çekici yönlerinden biri, saldırının OpenAI tarafından anında tespit edilememesi oldu. Reuters’a göre şirket, Hugging Face’in 16 Temmuz’da yayımladığı blog yazısının ardından kendi sistemlerinin olayla bağlantılı olduğunu anladı.

İki şirketin doğrudan iletişime geçmesi ise ancak 20 Temmuz civarında gerçekleşti. Bu süreçte Hugging Face’in FBI ile temasa geçtiği bildirildi. Geciken farkındalık, otonom yapay zekâ ajanlarının izlenmesi ve denetlenmesine yönelik mevcut sistemlerin yetersiz kalabileceği yönünde tartışmaları artırdı.

Ajan Gelecek Sistemler İçin Kaçış Talimatları Bıraktı

Olay sonrası yapılan incelemelerde, yapay zekâ ajanının kendi ardından gelecek sistemler için talimatlar bıraktığı iddia edildi. Reuters’ın aktardığına göre bu notlar, ajanların kısıtlamaları nasıl aşabileceğine dair teknik yönlendirmeler içeriyordu.

Ayrıca bazı testlerde izleme ve denetim mekanizmalarının devre dışı bırakıldığı da öne sürüldü. Hem OpenAI hem Hugging Face, kullanılan güvenlik açıklarının kapatıldığını ve yeni önlemlerin devreye alındığını açıkladı. Ancak yaşananlar, gelişmiş yapay zekâ sistemlerinin kontrolü konusunda küresel ölçekte yeni riskleri gündeme taşıdı.