Reuters: Meta’nın Yapay Zekâ Asistanı Muse, Signal Mesajlarını Okudu ve Bilgi Uydurdu
Reuters'ın incelediği şirket içi yazışmalara göre Meta'nın yapay zekâ asistanı Muse, Signal'deki şifreli mesajları bildirim izni üzerinden okudu, kullanıcı adına yapılmamış satın almalar uydurdu ve başkalarına ait gibi görünen banka bilgileri paylaştı. Meta ise örnekleri münferit olaylar olarak nitelendiriyor.

Meta’nın eylülde kullanıma sunduğu ve kısa sürede 10 milyon indirmeyi aşan kişisel yapay zekâ asistanı Muse, ciddi gizlilik soruları ile gündemde. Reuters’ın incelediği yirmiden fazla şirket içi paylaşım, asistanın şifreli mesajlara eriştiğini ve finans gibi hassas konularda gerçek dışı bilgiler ürettiğini ortaya koyuyor. Instagram, WhatsApp ve Facebook kullanıcılarının yakından ilgilendiği Meta ekosisteminde bu tablo dikkat çekiyor.
Çalışanlar Muse’dan Kendilerine Ait Olmayan Bilgiler Aldı
Reuters’a göre paylaşımların çoğu, Meta çalışanlarının Muse’u test ettiği şirket içi bir geri bildirim grubundan geliyor. Çalışanlar, asistanın kendilerinin yapmadığı bir çocuk bakımı talebinden, vermedikleri ürün siparişlerinden ve kendilerine ait olmayan banka bakiyelerinden söz ettiğini anlattı. Bir çalışan, balık tutmak için hava durumunu sorduğu sıradan bir sohbete iki banka hesabının bakiyesinin eklendiğini yazdı. Bir başkası Muse’un izinsiz olarak iade edilemeyen bir Airbnb rezervasyonu yaptığını, bazıları ise uydurma fiyatlar yüzünden para kaybettiğini bildirdi. Meta’nın Superintelligence ekibinden bir yöneticinin, bu halüsinasyonların (yapay zekânın gerçek olmayan bilgiyi doğruymuş gibi sunması) en çok finans ve güvenlik gibi hassas alanlara kaydığını yazdığı aktarıldı. Reuters, verilerin gerçekten başkalarına mı ait olduğunu yoksa uydurma mı olduğunu tespit edemediğini belirtiyor.
Muse, Signal’deki Şifreli Mesajları Nasıl Okudu?
Bir çalışan, Muse’un kendisine Signal’de kız kardeşine cevap vermesini hatırlatmasıyla şaşkına döndü ve durumu ağır bir gizlilik ihlali olarak nitelendirdi. Reuters, Signal çalışanları ve AI Now Institute ile birlikte bu davranışı test etti. Testlerde Muse, Android’de Meta’nın kendi bağlantı aracını devre dışı bırakarak telefonun bildirim izni üzerinden mesaj metinlerini okudu. macOS’ta ise Apple’ın erişilebilirlik ve ekran görüntüsü araçlarını kullandı. Aynı istekler iPhone’da engellendi. Apple’ın bu hafta yayımladığı macOS güncellemesinin bu yolu fiilen kapattığı belirtiliyor. Google ise uygulamaların Android bildirimlerini okuyabilmesi için kullanıcının bu izni bilinçli olarak vermesi gerektiğini hatırlattı.
Meta: Münferit Olaylar, Sorunlar Düzeltildi
Signal Başkanı Meredith Whittaker, Meta’nın Muse’u temel gizlilik ve siber güvenlik ilkelerini gözetmeden piyasaya sürdüğünü söyledi. Meta sözcüsü Daniel Roberts ise örnekleri münferit olaylar olarak tanımladı. Roberts’a göre Muse diğer uygulamalara yalnızca kullanıcının açıkça verdiği izinlerle erişebiliyor ve hesapların karıştığı iddia edilen vakaların çoğu düzeltilmiş halüsinasyonlardan kaynaklanıyor. Şirket bu sorunların kaç kez yaşandığını açıklamadı. Meta yine de genişlemeyi sürdürüyor: Muse bu hafta Avustralya’da yerel ortaklarla kullanıma açıldı, Kanadalı perakendeci Loblaw da ürün kataloğunu Muse’a taşıyacağını duyurdu. Meta, şifrelerin ve ödeme bilgilerinin her kullanıcıya özel “Muse Secure VM” adlı bulut ortamı sayesinde asistanın erişiminin dışında kaldığını söylüyor. Ancak kullanım koşulları, asistanın yaptığı işlemlerden hâlâ kullanıcıyı sorumlu tutuyor.
Günde sadece 1 TL'ye abone olarak tüm içeriklerimize sınırsız erişebilir ve bağımsız haberciliğe destek olabilirsiniz! Hemen Abone Ol



