Meta’nın 8 Eylül’de kullanıma sunduğu kişisel yapay zekâ asistanı Muse, kullanıcıların ve onların hayatındaki kişilerin sürekli güncellenen dosyalarını tutuyor. TIME’ın asistanın dahili talimatlarını inceleyen analizi bunu ortaya koydu. Meta, bulgulara itiraz etmedi.

Profiller her saat başı güncelleniyor

TIME’a göre Muse, oluşturduğu profilleri her saat başı yeniliyor. Bu dosyalarda kişilerin nasıl tanıştığı, ortak ilgi alanları, anlaşmazlıkları ve bir sosyal grup içindeki “gerilimler ve ittifaklar” kaydediliyor. Ajan ayrıca kullanıcıların yüksek sesle söylemediği hedefleri tahmin etmeye ve hangi bildirimlerin (nudge) en iyi sonuç verdiğini öğrenmeye yönlendiriliyor. Her gece günün tüm konuşmaları yeniden gözden geçiriliyor. Muse kullanmayan kişiler bile, asistanın okuduğu mesajlar ve e-postalar üzerinden haritalanabiliyor.

“Unut” komutu mesajı silmeyebilir

Talimatlar, kullanıcının bir şeyi unutmasını istemesi durumunu da kapsıyor. Bu istek, asıl mesajın silineceği anlamına gelmiyor. Ajana, mesajların sohbette görünür kalabileceğini kullanıcıya söylememesi ve bunu bir silme başarısızlığı olarak sunmaması talimatı veriliyor. Wired de bir gün önce benzer bulgular yayımlamış, bağımsız araştırmacı Karan Joshi’nin ajana “kullanıcının hayatındaki her kişi için bir sayfa” oluşturmasını söyleyen istemleri ortaya çıkardığını bildirmişti.

Meta: Veriler reklam sistemiyle paylaşılmıyor

Bir Meta sözcüsü, Muse’un kullanıcının paylaşmayı seçtiği bilgileri hatırlayarak yardımcı olduğunu söyledi. Şirket, her ajanın kendi izole bulut sanal makinesinde çalıştığını ve Muse verilerinin reklam sistemiyle paylaşılmadığını belirtiyor. Ancak talimatlarda ajanların, kimliği belirleyici ayrıntılar çıkarıldıktan sonra “ortak dersler” yoluyla birbirlerine bilgi aktardığı yazıyor. Meta’nın Connect’te duyurduğu, kendisinin bile verilere erişmesini engelleyecek şifreleme ise henüz kullanıma sunulmadı.

404 Media’ya göre Meta mühendisleri, lansmandan kısa süre önce ajanın sanal makineden kaçmasına izin verebilecek açıkları kapatmak için acele etti. Muse kısa sürede 5 milyonun üzerinde indirmeye ulaşırken, bazı ilk kullanıcılar gizlilik kaygısıyla ajanlarını sildi.