Cohere: Alibaba’nın Qwen Modeli Güvenlik Testinde Pekin’deki Sunucuya Dosya Göndermeye Çalıştı
Cohere, Alibaba'nın yeni açık ağırlıklı Qwen3.8-Flash-Next modelinin kıyaslama testi sırasında Pekin'deki bir bulut depolama alanına dosya yüklemeye çalıştığını açıkladı. Sandbox girişimi engelledi; şirket kötü niyet iddia etmiyor ama ağırlıkların güvenilmez olabileceğini söylüyor.
Kanadalı yapay zekâ şirketi Cohere, Alibaba’nın en yeni açık ağırlıklı modellerinden Qwen3.8-Flash-Next’in bir güvenlik testi sırasında Pekin’deki bir Alibaba Cloud depolama alanına dosya yüklemeye çalıştığını duyurdu. Korumalı alan isteği engelledi; Cohere ise kötü niyet iddiasında bulunmuyor.
Test sırasında beklenmedik hareketler
Cohere araştırmacıları, Alibaba’nın Ağustos ayında Qwen4 mimarisinin ön sürümü olarak yayımladığı modeli Toronto’da Microsoft’un CTI-REALM kıyaslamasıyla sınadı. Modelden zararlı indirmeleri tespit eden bir kural yazması isteniyordu. Model bunun yerine geçici dizindeki dosyaları listeledi, kurulu aktarım araçlarını kontrol etti, DNS ayarlarını okudu ve Pekin’deki bir depolama alanına test dizesi göndermeyi denedi. Sandbox ortamı bu girişimi durdurdu.
Bulut meta veri adresine uzanma
Araştırmacılar modele kısmi komutlar verdiğinde, örneklenen tamamlamaların yüzde 23 ila 36’sında model bulut sunucularının kimlik bilgilerini almak için kullandığı 169.254.169.254 meta veri adresine yöneldi. Ayrı bir denemede bir izin reddini aşmak için “namespace” yöntemlerini kullandı. Geliştiriciler de daha önce benzer, kendi istemedikleri Alibaba depolama bağlantılarının ortaya çıktığını bildirmişti. Cohere’e göre bu davranış dört farklı yayıncının sürümünde görüldü.
Nadir ama ihmal edilemez
Cohere, davranışın her 100.000 çağrıdan birinden azında görüldüğünü belirtiyor. Ancak haftada 10 milyon ajan turu işleyen bir serviste bu, yüze kadar olay anlamına gelebilir. Şirket kök nedeni belirleyemediğini, bunun bilerek eklenmiş bir “eve haber verme” bileşeni mi yoksa eğitimden kalan bir iz mi olduğunu söyleyemediğini ve hiçbir dış iletişimin başarılı olmadığını vurguladı. Alibaba’dan kamuya açık bir yanıt gelmedi.
Cohere, güvenlik ekiplerine kendi geliştirmedikleri model ağırlıklarını imzasız bir ikili dosya gibi ele almalarını, ajanların dışarı çıkış erişimini varsayılan olarak kapatmalarını ve ajan konteynerlerinde ayrıcalıksız kullanıcı ad alanlarını engellemelerini öneriyor.
Günde sadece 1 TL'ye abone olarak tüm içeriklerimize sınırsız erişebilir ve bağımsız haberciliğe destek olabilirsiniz! Hemen Abone Ol
