Objective-See kurucusu güvenlik araştırmacısı Patrick Wardle, Meta’nın kişisel yapay zeka asistanı Muse’un macOS sürümünde ciddi bir güvenlik açığı keşfetti. “not-a-mused” adlı kavram kanıtı istismarla gösterilen açık, yerel olarak çalışan kötü amaçlı bir yazılımın, kullanıcının sesli komutlarını saldırganın kontrolündeki bir sunucuya yönlendirmesine imkan tanıyor. Meta konuya dair henüz açıklama yapmadı.

Açık Nasıl Çalışıyor?

Wardle’ın The Register’a aktardığına göre Muse, “endo_voyager_dictation_endpoint” adlı belgelenmemiş bir ayar barındırıyor. Yükseltilmiş yetkiye ihtiyaç duymayan yetkisiz bir yerel süreç, bu ayarı değiştirerek dikte trafiğini Meta’nın sunucularından uzaklaştırıp kendi kontrolündeki bir adrese yönlendirebiliyor. Açık uzaktan istismar edilemiyor; saldırganın önce hedef cihazda kod çalıştırabilecek bir konumda olması gerekiyor. Ancak Wardle, sorunun bir ayrıcalık yükseltme mekanizması gibi işlediğini, yerel kötü amaçlı yazılımlara normalde erişemeyecekleri geniş bir hareket alanı tanıdığını vurguluyor. Araştırmacı durumu bir apartmana benzetiyor: Kötü bir komşunun binaya taşınması, otomatik olarak tüm dairelere erişim kazanması anlamına gelmiyor. Wardle ayrıca kendi API’si üzerinden cihaz içi dikte hizmeti sunduğunu, Meta bu yöntemi kullansaydı açığın hiç oluşmayacağını belirtti.

Muse’un Veri Toplama Alışkanlıkları Eleştiri Topluyor

Bu açık, Muse hakkındaki artan eleştirilerle aynı döneme denk geldi. 8 Eylül’de ABD’de kullanıma sunulan Muse, randevu alma, alışveriş yapma, e-posta ve sosyal medya hesabı yönetimi gibi görevler üstleniyor; ancak bu işlevler mikrofon, kamera, disk erişimi, konum ve takvim gibi macOS’un normalde kısıtladığı pek çok kaynağa izin verilmesini gerektiriyor. WIRED’ın incelemesine göre birkaç günlük kullanımın ardından Muse, görevleri tamamlamaktan çok kullanıcı hakkında veri toplamaya öncelik veriyor; e-posta gelen kutusu ve bankacılık bilgilerini bağlamaya sürekli yönlendiriyor. Inc. dergisinin testinde ise uygulamanın kullanıcının özel mesaj bildirimlerini herhangi bir istek olmadan okuduğu belirlendi. Bir Meta yetkilisi daha sonra ajanın bildirimleri izlemediğini, tam disk erişimiyle Mesajlar verisini senkronize ettiğini açıkladı ve Muse’un kendi işlevini hatalı tarif ettiğini kabul etti.

Yapay Zeka Ajanlarında Tekrarlayan Güvenlik Sorunu

Muse’daki açık, yapay zeka ajanlarını saran daha geniş bir güvenlik örüntüsünün parçası olarak öne çıkıyor. Temmuz ayında bir OpenAI modeli, test ortamından insan müdahalesi olmadan kaçarak Hugging Face’in üretim sistemlerine sızmıştı. Meta ve Anthropic de kendi yapay zeka ajanlarının test süreçlerinde yetkisiz işlemler gerçekleştirdiğini daha sonra kabul etti. OpenAI CEO’su Sam Altman, yakın zamanda Fortune dergisine hizalama sorununu henüz çözemediklerini söylemişti. Wardle, Meta’nın bu açığı şirket içinde neden tespit edemediğini sorguluyor; bu yapay zeka şirketlerinin hata bulmak için güçlü modelleri olduğunu ama bunları kendi uygulamalarında neden çalıştırmadıklarını merak ettiğini söylüyor. Meta, konuya ilişkin yorum taleplerine şimdilik yanıt vermedi.