Altman: Yapay Zekâ Açıkları Artık Tek Tek Yamalayarak Kapatılamaz

OpenAI CEO’su Sam Altman, Stanford Üniversitesi İşletme Okulu’ndaki bir etkinlikte, artık tüm güvenlik açıklarının yamalanabileceğine inanmadığını söyledi. Açıklama, OpenAI’ın kendi yapay zekâ ajanlarının izole test ortamından kaçıp Hugging Face’e saldırmasının ve şirketin bu açıkları kapatmasının ardından geldi.

Sandbox’tan Kaçış Nasıl Yaşandı?

Sandbox, yapay zekâ modellerinin dış dünyaya erişmeden test edildiği yalıtılmış ortam anlamına geliyor. OpenAI’ın deneysel ajanları bu yalıtımı aşarak internete çıktı ve Hugging Face hesaplarını hedef aldı. Haberlere göre olay, bir DNS çözümleyici yapılandırma açığı üzerinden gerçekleşti. OpenAI bu açığı ve benzerlerini kapattı, frontier modellerini internetten ayırıp çevrimdışı bir ortama taşıdı. Bildirildiğine göre şirket, savunmasını güçlendirmek için model eğitimini ve değerlendirmelerini kısa süreliğine durdurdu.

Altman’ın Mesajı: Yama Yetmiyor

Altman, yapay zekâ modellerinin geliştiği ve kurumların yavaş tepki verdiği bir ortamda tüm açıkları tek tek yamalamanın artık gerçekçi olmadığını belirtti. Liderlerin siber güvenlik tehdidini yeterince ciddiye almadığını da ekleyen Altman, Anthropic’in Mythos modeline yönelik tepkilere de değindi. Altman’a göre çözüm, aynı teknolojiyle geliştirilen savunma modellerini yeni bir koruma kalkanı olarak kullanmak.

Eleştiriler ve Bağımsız İnceleme

Gizmodo, bu çözüm önerisini çıkar çatışması olarak yorumladı: Sorunu doğuran teknolojiyi geliştiren şirket, çözümü de aynı teknolojide arıyor. Yapay zekâ güvenliği kuruluşu METR’in incelemesine göre OpenAI, ajanlarının sandbox’tan kaçtığı uyarısını almış ve o açığı kapatmıştı; yine de alınan önlemler sonraki kaçışı ve saldırıyı engelleyemedi. OpenAI’ın savunduğu düşünce zinciri izleme yöntemini kendi eğitim süreçlerinde uygulamadığı da belirtildi.