Eski DeepSeek Araştırmacısından Linger: Bilgisayarınızda Token Ücretsiz Çalışan Açık Kaynak Yapay Zekâ Ajanı
DeepSeek'in görsel-dil modeli projesini yöneten Zhang Bo, kendi bilgisayarınızda çalışan kişisel yapay zekâ ajanı Linger'ı açık kaynak olarak yayımladı. Ajan e-posta, takvim ve dosyaları okuyabiliyor; ancak hız ve donanım iddiaları henüz bağımsız olarak doğrulanmadı.

ChatGPT, Gemini veya Claude gibi bulut tabanlı asistanlara her kullanımda ödeme yapmak yerine yapay zekâyı kendi bilgisayarınızda çalıştırmak mümkün mü? Eski DeepSeek araştırmacısı Zhang Bo’nun 19 Kasım’da açık kaynak olarak yayımladığı Linger, bu soruya iddialı bir yanıt veriyor. Kod GitHub’da ücretsiz erişime açıldı ve kısa sürede 2.000’den fazla yıldız topladı.
Linger ne yapıyor?
Linger, kullanıcının cihazında çalışan kişisel bir yapay zekâ ajanı; yani yalnızca soru yanıtlamakla kalmayıp sizin adınıza işlem yapabilen bir yazılım. BigGo Finance’in aktardığına göre ajan, bilgisayardaki e-postaları, takvimi ve dosyaları okuyabiliyor; oturumu zaten açık olan tarayıcı ve uygulamaları da kullanabiliyor, böylece şifrelerin yeniden girilmesi gerekmiyor. Okuma işlemleri doğrudan yapılırken e-posta göndermek gibi yazma işlemlerinden önce kullanıcıya bir onay kartı gösteriliyor. “Another Me” adlı çekirdek asistan gelen kutusunu, takvimi ve Slack’i izleyip bekleyen görevleri işaretliyor; gün sonunda da kullanıcının geri bildirimlerine göre kendi kurallarını güncelliyor. Zhang, X’teki paylaşımında yapay zekânın bugün veri merkezlerinde eğitilip kullanıcılara “token token kiralandığını” belirterek Linger’ı buna alternatif olarak sundu.
Hangi donanımda, ne kadar hızlı çalışıyor?
Linger’ı geliştiren, Zhang’ın Singapur’da kurduğu Simplex AI. Şirketin temel iddiası, 125 milyar parametreli bir modelin tüketici sınıfı bir ekran kartında token ücreti ödemeden çalışabilmesi. Bunu sağlayan PolyStrata motoru, uzman karışımı (mixture-of-experts) denen ve her seferinde modelin yalnızca bir bölümünü devreye sokan mimariden yararlanıyor: En sık kullanılan parçalar ekran kartında, kalanı sistem belleğinde ya da SSD’de tutuluyor. Projenin README dosyasına göre şirketin Qwen tabanlı modeli, 12 GB’lık RTX 3060 ve 64 GB RAM’li bir sistemde saniyede 45,5 token üretiyor. Ancak bazı sonuçlar simülasyonla elde edildi ve dosya, gerçek makinelerde hızın daha düşük olabileceğini kabul ediyor; 32 GB RAM’li bir yapılandırmada ilk yanıt için yaklaşık üç dakika beklendiği belirtiliyor.
“Sıfır token ücreti” her şeyi kapsamıyor
Ücretsiz kullanım vaadi yalnızca yerel çalıştırma için geçerli. BigGo’ya göre Gmail gibi uygulamalara bağlanmak üçüncü taraf hizmetlere dayanıyor ve uzak modellere gönderilen istemler de bu sağlayıcılara gidiyor; yani bazı veriler cihazdan çıkabiliyor. Lisans da tamamen serbest değil: Apache 2.0 temel alınsa da başka şirketler izin almadan Linger’ı barındırılan bir hizmet olarak sunamıyor ve markasını kaldıramıyor. Simplex AI’ın kendi bulut sürümü şimdilik bekleme listesiyle erişilebiliyor ve fiyatı açıklanmadı. Zhang ise performans iddialarına yönelik şüphelere, geliştiricileri yayımlanan kodu incelemeye çağırarak yanıt verdi. Zhang daha önce Microsoft Research Asia’da çalışmış, 2023’te katıldığı DeepSeek’te DeepSeek-VL projesine liderlik etmişti.
Günde sadece 1 TL'ye abone olarak tüm içeriklerimize sınırsız erişebilir ve bağımsız haberciliğe destek olabilirsiniz! Hemen Abone Ol



