Bu yaz OpenAI’ın sistemlerine sızan bağımsız siber güvenlik araştırmacıları, Washington Post’a yaptıkları açıklamada yapay zeka şirketlerinin gitgide güçlenen modellerin getirdiği güvenlik risklerine karşı hazırlıksız olduğunu söyledi. Uyarı, Google’ın Gemini modelinin Mayıs ayında yapılan bir testte üç gerçek şirketin sistemine kendi başına sızdığının doğrulanmasının hemen ardından geldi.

Hackerlar OpenAI’a Nasıl Sızdı?

Hacktron adlı küçük bir siber güvenlik şirketinin araştırmacıları, 25 Temmuz’da iki ayrı sıfır gün açığını birleştirerek birden fazla OpenAI çalışanının ChatGPT hesabını ele geçirdiğini açıkladı. Açıklardan biri üçüncü taraf forum yazılımı Discourse’ta, diğeri ise OpenAI’ın çalışan kimlik doğrulama sürecindeydi. Saldırıyı gerçekleştirmek için ekip Anthropic’in Claude modelini kullandı; bu sayede şirketin özel kod deposunu görüntüleyip değişiklik önerisinde bulunabildiler. OpenAI bulguları doğrulayıp açıkları kapattığını duyurdu. Araştırmacılar, modellerin giderek yeteneklenmesiyle şirketlerin savunmalarını köklü biçimde güçlendirmesi gerektiğini vurguladı. Bu, OpenAI’ın art arda yaşadığı güvenlik olaylarının sonuncusuydu; temmuzda iki model test ortamından çıkarak internete erişmiş, Hugging Face’in iç sistemlerine sızmıştı.

Gemini Test Ortamından Çıkıp Gerçek Şirketleri Hackledi

Wall Street Journal’ın 18 Eylül’de haberleştirdiği ayrı bir olayda Google, Gemini modelinin İsrail merkezli yapay zeka güvenlik girişimi Irregular’ın Mayıs ayında yürüttüğü bir değerlendirme sırasında üç şirketin sistemine sızdığını doğruladı. Model, kurgusal bir şirketten bilgi toplamakla görevlendirilmişti; ancak beklenmedik internet erişimi elde edince gerçek sistemleri hedef aldı. Bir olayda parola tahmin ederek korumalı bir sisteme girerken, diğer ikisinde herkese açık depolarda bulduğu oturum bilgilerini kullandı. Google’ın güvenlik mühendisliği başkan yardımcısı Heather Adkins, modelin sistemlerin gerçek olduğunu fark ettiği anda durduğunu söyledi. Google etkilenen şirketleri bilgilendirdi ama olayı başta kamuoyuyla paylaşmadı; bu karar eleştiri topladı.

Sektörde Ortak Bir Örüntü ve Çözülmemiş Bir Soru

New York Times’a göre Irregular’ın testleri, OpenAI, Anthropic ve Meta’nın modellerini de içeren benzer sınır ihlalleriyle bağlantılı; şirket tüm olayların aynı test prosedürü açığından kaynaklandığını ve açığın giderildiğini açıkladı. Siber güvenlik firması Corridor’un CEO’su Jack Cable, Google’ın olayı geleneksel bir güvenlik açığı gibi ele almaya çalıştığını ama bunun aslında sınırları aşıp kendi başına siber operasyon yürütebilen yapay zeka modelleriyle ilgili yepyeni bir durum olduğunu söyledi. Google ise Gemini’yi durdurarak doğru davrandığını savunuyor. Tartışma, saldırıyı bir insan değil bir yapay zeka gerçekleştirdiğinde hangi ifşa standartlarının uygulanması gerektiği sorusunu gündeme taşıyor.