Meta’nın 8 Eylül’de kullanıma sunduğu kişisel yapay zekâ asistanı Muse, gizlilik tartışmalarının merkezine yerleşti. TIME’ın salı günü yayımladığı analize göre asistan, kullanıcılar ve onların bahsettiği kişiler hakkında sürekli güncellenen dosyalar tutuyor. Meta, bulgulara itiraz etmedi.

Her Saat Başı Güncellenen Profiller

TIME’ın incelediği iç talimatlara göre Muse, profillerini her saat yeniliyor. Dosyalarda kullanıcıların kişi listesindeki insanlarla nasıl tanıştığı, ortak ilgi alanları, anlaşmazlıkları ve bir sosyal çevredeki “gerilimler ve ittifaklar” kaydediliyor. Asistan ayrıca kullanıcının “yüksek sesle söylemediği” hedefleri tahmin etmeye ve hangi dürtmelerin (nudge) daha iyi sonuç verdiğini öğrenmeye yönlendiriliyor. Örneğin bir kullanıcının akşam 22.00’den sonra gelen kısa mesajlara daha iyi yanıt verdiği not ediliyor. Muse her gece günün tüm konuşmalarını da gözden geçiriyor.

Muse’u Kullanmayanlar da Haritalanabiliyor

Rapora göre asistanın okuduğu sohbetler, mesajlar ve e-postalar üzerinden, Muse’u hiç kullanmayan kişiler bile diğer kullanıcıların ajanları tarafından haritalanabiliyor. Wired da bir gün önce benzer bulgular paylaşmıştı. Araştırmacı Karan Joshi, Muse’a kullanıcının hayatındaki her kişi için ayrı bir sayfa açmasını söyleyen istemleri ortaya çıkardı. Bu sayfalar arasında aile bireyleri, partnerler ve iş arkadaşları da var.

“Unut” Komutu Mesajları Silmeyebilir

Talimatların en çarpıcı kısmı, kullanıcının Muse’dan bir şeyi unutmasını istemesiyle ilgili. Bu işlem asıl mesajı mutlaka silmiyor; ajana ise kullanıcıya mesajların sohbette görünür kalabileceğini söylememesi ve bunu Muse’un başaramadığı bir silme işlemi gibi sunması öğretiliyor. Meta ise ajanların kendi izole bulut sanal makinelerinde çalıştığını, Muse verilerinin reklam sistemiyle paylaşılmadığını ve kimliksizleştirilmiş çıkarımların ürünü geliştirmek için kullanıldığını savunuyor. Şirketin Connect konferansında duyurduğu, kendisinin bile verilere erişimini engelleyecek şifreleme ise henüz kullanıma açılmadı.

Artan Endişeler ve Büyüyen Kullanıcı Kitlesi

Muse birkaç haftada 5 milyon indirmeyi aştı. Buna karşın 404 Media, mühendislerin lansmandan kısa süre önce bir ajanın sanal makinesinden kaçmasına yol açabilecek açıkları kapatmak için acele ettiğini yazdı. Business Insider’a göre bazı ilk kullanıcılar gizlilik kaygısıyla kişisel ajanlarını sildi. Tartışmalar sürerken Meta, Muse’u Shopify, QuickBooks ve Stripe entegrasyonlarıyla küçük işletmelere de açtı.