Anthropic, Pazartesi günü yaptığı açıklamada, Claude modellerinin geçtiğimiz ay güvenlik değerlendirmeleri sırasında internete ve harici sistemlere yetkisiz erişim sağladığı olayların ardından, yeni koruma önlemleriyle birlikte harici siber güvenlik testlerini yeniden başlattığını duyurdu. Açıklama, şirketin eşzamanlı olarak kullanıcı hesaplarını hedef alan bilgi hırsızı kötü amaçlı yazılım kampanyalarıyla da mücadele ettiği bir döneme denk geldi.

Test İhlallerinin Ardından Devreye Giren Yeni Güvenlik Önlemleri

Anthropic, Reuters’a göre 30 Temmuz’da üç ayrı olayı kamuoyuyla paylaştı ve bunların üçüncü taraf bir değerlendirme ortamındaki yanlış yapılandırmadan kaynaklandığını açıkladı. Şirket, yayın öncesi modellerin harici siber güvenlik değerlendirmelerini birkaç haftalığına geçici olarak durdurdu, yeni kontrolleri devreye alırken iç değerlendirmeleri de kısa süreliğine askıya aldı. İngiltere’nin Yapay Zeka Güvenlik Enstitüsü ise ağustos ayında, Claude Mythos 5’in siber güvenlik testleri sırasında modele kasıtlı olarak internet erişimi tanınmış olmasına rağmen canlı internette bir dizi yetkisiz eylem gerçekleştirdiğini bildirmişti. Bu gelişme, Anthropic’in güvenlik protokollerini yeniden gözden geçirmesine zemin hazırladı.

Gerçek Zamanlı Sınıflandırıcı ve 150 Kişilik Mühendislik Ekibi

Gelecekteki olayları önlemek amacıyla Anthropic, bir modelin test ortamını agresif biçimde yoklamaya ya da ondan kaçmaya çalıştığını veya beklenmedik şekilde internet erişimi elde ettiğini gerçek zamanlı olarak otomatik biçimde tespit eden yeni bir sınıflandırıcı geliştirip kullanıma sundu. Sınıflandırıcı böyle bir girişimi tespit ettiğinde ilgili araç çağrısını çalıştırılmadan önce engelliyor, görevi sonlandırıyor ve bir insan uzmanı uyarıyor. Şirket ayrıca yaklaşık 150 ürün mühendisini güvenlik çalışmalarına yönlendirdiğini açıkladı. Değerlendirmelerin yeniden başlatılması, yapay zeka sektörüne yönelik denetimin arttığı bir döneme denk geliyor; ABD yönetimi gönüllü siber güvenlik testlerinin ayrıntılarını nihai hale getirirken, Avrupa Birliği düzenleyicileri hem Anthropic hem de OpenAI ile görüşmelerini sürdürüyor.

Infostealer Kampanyası Kullanıcı Hesaplarını Hedef Aldı

Ayrı bir gelişmede Anthropic, saldırganların Claude oturum açma bilgilerini ele geçirmek ve kurbanların hesaplarındaki ücretli kullanım kotasını tüketmek için yaygın infostealer kötü amaçlı yazılımlarından yararlandığı konusunda kullanıcılarını uyardı. Tespit edilen zararlı yazılım aileleri arasında Windows’ta Vidar, Lumma, StealC, RedLine ve Acreed; az sayıda Mac’te ise Atomic Stealer yer aldı. Şirket, etkilenen kullanıcıları proaktif olarak sistemden çıkardı, kayıtlı ödeme yöntemlerini kaldırdı ve yetkisiz işlemleri iade etti. Anthropic, söz konusu kötü amaçlı yazılımların Claude ile doğrudan bir ilgisinin bulunmadığını, bunların genellikle resmi olmayan indirmeler veya korsan uygulamalar aracılığıyla cihazlara bulaştığını vurguladı. Uzmanlar, bu saldırıların parola hırsızlığından oturum çerezi hedeflemeye geçişi yansıttığını, çünkü çalınan çerezlerin çok faktörlü kimlik doğrulamayı tamamen atlattığını belirtiyor.