Meta, yeni yapay zekâ modeli Muse Spark Open’ı tanıttı ve modelin Apple ile yapılan optimizasyon sayesinde doğrudan Mac Studio bilgisayarlarda çalışabildiğini açıkladı. Şirket, modeli ABD’nin şu ana kadarki en yetenekli açık ağırlıklı modeli olarak tanımlıyor. Ağırlıklar Hugging Face üzerinden indirilebiliyor.

816 milyar parametre, 1 milyon token bağlam

Muse Spark Open, doğal olarak çok kipli çalışan bir model. Toplam 816 milyar parametreye sahip olsa da her adımda yalnızca 42 milyarı devreye giriyor; bu yapı, büyük modelin işlem yükünü azaltıyor. Bağlam penceresi 1 milyon token ile çok uzun belgeleri ve kod depolarını tek seferde işlemeye yetiyor. Meta, odağın kodlama ve ajan tabanlı görevler olduğunu söylüyor: uzun soluklu işler, karmaşık yazılım geliştirme ve çok adımlı akıl yürütme. Şirket, ajan yeteneklerini ilk kez masaüstüne taşıdığını da belirtiyor.

İki Mac Studio tek makine gibi çalışıyor

Model, M5 Ultra çipli Mac Studio için optimize edildi. Her cihaz 512 GB’a kadar birleşik bellek ve saniyede 1,2 TB bellek bant genişliği sunuyor. Meta’ya göre birbirine bağlanan iki Mac Studio, yaklaşık 1 TB belleğe sahip tek bir makine gibi davranıyor ve modelin tamamını barındırabiliyor. Çalışma Apple’ın açık kaynaklı MLX çerçevesi üzerinden yürüyor. MLX, Apple silikonunun birleşik bellek mimarisi için geliştirilmiş bir dizi işleme kütüphanesi. Apple da kendi araştırma blogunda MLX ile Mac’te yerel deney yapmayı öne çıkaran bir yazı yayımladı.

Demolar ve erişim seçenekleri

Meta, modeli cihaz üzerinde Muse Code ile test etti. Bir demoda açık kaynaklı Mastodon istemcisi Ice Cubes’a iOS tarafında hata düzeltmeleri ve yeni özellikler eklenip uygulama derlendi. Bir diğerinde model DaVinci Resolve’ü baştan sona kullanarak görüntüleri kare kare inceledi, en iyi anları seçti ve dikey formata kırptı. Ağırlıklar, sınırlı ticari koşulları olan Muse Model Lisansı ile sunuluyor. Model ayrıca Amazon SageMaker, Google Cloud Model Garden ve Microsoft Foundry üzerinden de erişilebilir. Performans iddiaları Meta’ya ait ve bağımsız olarak doğrulanmadı.