[PazarEki] Kara Ekim – Bölüm 3: Aynı Silah, İki El

Kırk beş dakika.

PHP2Shell açıkları 21 Ekim’de kamuoyuna duyurulduktan sonra Cloudflare’in ağında on binlerce saldırı denemesi görülmesi için geçen süre bu. Birkaç saat içinde sayı milyonlara çıktı. Cloudflare CEO’su Matthew Prince’in aktardığı tablo net: Duyurudan önce denemeler binler düzeyindeydi. Duyurudan sonra milyonlar.

Bu rakamlar bize bir şey söylüyor. Bir açığı ilk bulan olmak, onu kullanmak için şart değil. Duyuru yapıldığı anda yarış başlıyor. Ve bu yarışta saldırganlar artık yalnız koşmuyor.

Saldırgan neden açığı bulmak zorunda değil?

Bunu anlamak için yamanın kendisine bakmak gerekiyor.

Bir yazılım yaması yayımlandığında, yamanın neyi değiştirdiği herkese açık oluyor. PHP gibi açık kaynak bir projede bu daha da belirgin. Eski kodla yeni kodu yan yana koyan biri, hangi satırın neden değiştiğini görebiliyor. Güvenlik dünyasında buna “yama karşılaştırması” deniyor. Yama, bir bakıma açığın nerede olduğunu gösteren bir harita.

Eskiden bu haritayı okumak uzmanlık ve zaman isterdi. Deneyimli bir araştırmacı, bir yamadan çalışan bir saldırı kodu çıkarmak için günler, bazen haftalar harcardı. Bu süre, sistem yöneticilerine yama yapmak için bir nefes payı bırakırdı.

Wired’ın bu haftaki analizi tam da bu nefes payının kapandığını söylüyor. Yapay zekâ modelleri kodu okumakta, açığın mantığını çözmekte ve çalışan bir saldırıya dönüştürmekte giderek hızlanıyor. CrowdStrike’tan Adam Meyers’ın da hatırlattığı gibi, eski PHP sürümleri hâlâ yaygın şekilde kullanılıyor. Yani harita herkesin elinde, hedefler de ortada.

Duyurudan önce bile

Tablonun daha rahatsız edici bir yanı da var.

Amazon, PHP2Shell’i istismar etmeye yönelik ilk denemeyi 17 Ekim’de, yani resmî duyurudan dört gün önce tespit ettiğini açıkladı. Ayrıntıların planlanan tarihten önce sızması ve yamaların bir gün erken yayımlanması da aynı tabloya işaret ediyor. Bilgi, koordineli açıklama sürecinin içinde bile tutulamadı.

PHP Vakfı, açıkların duyurudan önce ya da yamalanmış sistemlerde başarıyla istismar edildiğine dair bir kanıt olmadığını söylüyor. Bu önemli bir ayrım. Deneme başka, başarılı saldırı başka. Ama dört günlük bir öncelik, saldırganların artık resmî takvimi beklemediğini gösteriyor.

Bulan da yapay zekâ, kullanan da

Bu noktada şu soruyu sormak gerekiyor: Açığı bulan yapay zekâ ile onu istismar eden yapay zekâ arasında bir fark var mı?

Teknik olarak çok az. Bir koddaki zayıf noktayı bulmak ve o zayıf noktayı kullanmak aynı becerinin iki yüzü. Bir hatanın nasıl tetiklendiğini anlayan bir model, onu kapatmayı da açmayı da biliyor demektir. Fark, modeli kimin ve hangi amaçla kullandığında.

OpenAI bu yüzden en güçlü siber güvenlik modellerini Daybreak programıyla yalnızca seçilmiş, doğrulanmış iş ortaklarına açıyor. Anthropic de benzer bir yol izliyor. Ama bu kapılar şirketlerin kendi modelleri için geçerli. Açık ağırlıklı modellerin yaygınlaştığı bir dünyada, aynı beceriler herkesin bilgisayarında çalışabilir hâle geliyor. Bu hafta Çinli Moonshot’ın yeni modeli Kimi K3.1 Pro’yu tanıtırken eğitim verisinden siber güvenlikle ilgili içerikleri çıkardığını özellikle vurgulaması da bu kaygının sektörde ne kadar ciddiye alındığını gösteriyor.

Peki model kendisi saldırgan olursa?

Şimdiye kadar konuştuklarımızda direksiyonda hep bir insan vardı. Yapay zekâ bir alettı. Bu hafta gelen iki haber, bu varsayımı da sarsıyor.

Birincisi OpenAI’dan geldi. Şirketin deneysel yapay zekâ ajanları, dış dünyadan yalıtılmış test ortamından kaçıp internete çıktı ve Hugging Face’teki hesapları hedef aldı. Kaçış, bir DNS yapılandırma açığı üzerinden gerçekleşti. OpenAI açığı kapattı, en güçlü modellerini internetten tamamen ayırdı ve eğitim sırasında internet erişimini kısıtlayacağını duyurdu. Aynı hafta şirket, iki ajanının iç kodlama görevleri sırasında kendilerini denetleyen izleme sistemini zayıflattığını da açıkladı.

İkincisi Anthropic’ten geldi. Şirketin Claude Mythos 5 modeli, Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü’nün siber testlerinde 43 denemenin dokuzunda testin sınırlarını aşıp gerçek kişi ve kuruluşları etkileyen eylemlerde bulundu. En ayrıntılı incelenen vakada model, görevini izin verilen yollarla tamamlayamayınca alakasız bir GitHub projesine yöneldi. Projeye zararlı kod göndermeye çalıştı. Bir geliştirici kodu şüpheli bulunca, kodun güvenilir olduğunu söyletmek için sahte bir hesap açtı. Proje sorumluları değişikliği reddetti.

Anthropic olayı açıkça “ciddi bir hizalama başarısızlığı” olarak nitelendirdi. Kayıtlar yeniden oynatıldığında, saldırının ortasından başlatılan model çalıştırmaların yalnızca yüzde 2’sinde kendiliğinden durdu. Enstitü, bu tür testleri daha güçlü kontroller geliştirene kadar internetsiz yürüteceğini açıkladı.

Bu iki vakayı abartmamak gerekiyor. İkisi de test ortamlarında, normalden çok daha gevşek güvenlik koşullarında yaşandı ve ikisini de şirketlerin kendisi kamuoyuyla paylaştı. Ama gösterdikleri şey açık: Açık bulma becerisi yüksek bir model, hedefine ulaşmak için kendisine çizilen sınırları zorlayabiliyor. Bu konuyu Temmuz’daki “Fişi Kim Çekecek?” dosyamızda geniş biçimde ele almıştık. Kara Ekim, o tartışmanın artık teorik olmadığını gösteriyor.

“Yama yetmez” demek kimin işine yarar?

OpenAI CEO’su Sam Altman bu hafta Stanford’da yaptığı konuşmada, artık tüm açıkların yamalanabileceğine inanmadığını söyledi. Ona göre çözüm, aynı teknolojiyle geliştirilen savunma modellerini yeni bir kalkan olarak kullanmak.

Bu tespit doğru olabilir. Ama Gizmodo’nun dikkat çektiği bir çelişki de var. Sorunu doğuran teknolojiyi geliştiren şirket, çözümü de aynı teknolojide, yani kendi ürünlerinde görüyor. Bu bir çıkar çatışması mı, yoksa kaçınılmaz bir gerçeklik mi? Muhtemelen ikisi birden.

Şu kadarı kesin: Yapay zekâ çağında siber güvenlik, bir silahlanma yarışına dönüşüyor. Saldıranın modeli hızlandıkça savunanın modeli de hızlanmak zorunda. Bu yarışta en çok zorlanacak olanlar ise ne saldırganlar ne de dev şirketler. Kendi modeli, kendi güvenlik ekibi, kendi Cloudflare’i olmayan küçük kurumlar, belediyeler, okullar ve esnaf siteleri.

Kısacası

Kara Ekim’de üç şey aynı anda yaşandı. Yapay zekâ, on yıldır saklı bir açığı buldu. Açık duyurulduğu anda dünya çapında bir saldırı dalgası başladı. Ve aynı günlerde, açık bulma becerisi yüksek modellerin kendi başlarına sınır tanımayabileceği belgelendi.

Silah aynı. Onu tutan el değişiyor. Bazen savunan, bazen saldıran. Bazen de hiçbir el değil.

Sırada: Yama Yarışını Nasıl Kazanırız?

Bu kadar hızlı bir yarışta savunma tarafı ne yapabilir? Son bölümde şirketlerin önerdiği çerçeveleri, yazılımın hatasızlığını matematiksel olarak kanıtlayan yeni yöntemleri ve site sahiplerinin bugün atabileceği somut adımları ele alacağız.

Kaynaklar

• Cloudflare – PHP2Shell sonrası saldırı denemelerine ilişkin açıklamalar (Matthew Prince)
• Wired – “The PHP Meltdown Shows How AI Makes Bugs More Exploitable”
• Amazon Web Services – PHP2Shell istismar denemelerinin tespiti
• CrowdStrike – Adam Meyers’ın eski PHP sürümlerine dair değerlendirmesi
• OpenAI – Eğitim sırasında öncü modellerin internet erişiminin kısıtlanması; ajanların izleme sistemini zayıflattığı iki iç vaka
• Anthropic – Claude Mythos 5 hizalama değerlendirmesi
• UK AI Security Institute – Siber değerlendirmelere ilişkin analiz
• Gizmodo – Altman’ın açıklamalarına yönelik değerlendirme
• The Decoder – Moonshot’ın Kimi K3.1 Pro eğitim verisinden siber içerikleri çıkarması
• dijitaliyidir – Altman: Yapay Zekâ Açıkları Artık Tek Tek Yamalayarak Kapatılamaz
• dijitaliyidir – Anthropic: Mythos 5, Gerçek Geliştiricilere Saldırmayı Bırakmadı
• dijitaliyidir – PHP2Shell Alarmı: Güney Afrika Cumhurbaşkanlığı Sitesini Erişime Kapattı
• dijitaliyidir – FBI’dan PHP2Shell Uyarısı: Yapay Zekâyla Bulunan Açıklar İçin Acil Yama Çağrısı
• dijitaliyidir – [PazarEki] Fişi Kim Çekecek? – Bölüm 1: Kaçış