Yapay zekâ dünyasında yeni bir model türü kısa sürede kalabalık bir rekabet alanına dönüştü. TypeSafe AI’ın eylül ortasında tanıttığı Jev’in ardından OpenAI, Amazon Web Services ve Cloudflare da kendi “karar modellerini” duyurdu. Bu sistemler metin üretmiyor; sabit bir listeden yanıt seçip bunun yanına bir güven skoru ekliyor.

TypeSafe’in Jev’i yarışı başlattı

Eski OpenAI araştırmacısı Diogo Almeida’nın kurduğu TypeSafe AI, Jev’i “System One” adını verdiği modeller kategorisinin ilk örneği olarak tanıttı. Şirkete göre model, kelime yerine olasılık ve güven düzeyiyle birlikte “kalibre edilmiş kararlar” üretiyor. TypeSafe, Jev’in bu görevlerde mevcut büyük dil modelleriyle benzer performans verirken yaklaşık yüz kat daha hızlı çalıştığını söylüyor; ücret ise milyon token başına 0,042 dolar. Girişimin, DCVC liderliğindeki 40 milyon dolarlık tohum yatırımıyla piyasaya çıktığı ve 10 milyar dolarlık değerlemeden söz edildiği aktarılıyor.

OpenAI, Amazon ve Cloudflare günler içinde yanıt verdi

OpenAI, 29 Eylül’deki DevDay etkinliğinde küçük modeli Luna üzerine kurulu Decisions API’yi sınırlı sürümle duyurdu. Amazon’un Strands Labs ekibi 1 Ekim’de, Apache 2.0 lisanslı ve 2 milyar parametreli Strands Decider 2B’yi açtı; model yerel CPU ya da GPU’da onlarca milisaniyede yanıt veriyor. Cloudflare ise aynı gün Workers AI üzerinde barındırılan, açık ağırlıklı 27 milyar parametreli Clef ile 9 milyar parametreli Clef-flash modellerini yayımladı. Şirket, Clef’in birçok testte Jev’i doğruluk ve gecikmede geride bıraktığını, Clef-flash’ın medyan gecikmesinin yaklaşık 39 milisaniye olduğunu belirtiyor. Clef’in maliyeti milyon token başına 0,24 dolar, ağırlıklar ise Hugging Face’ten ücretsiz indirilebiliyor.

Girişimin iş modeli baskı altında

Karar modelleri, yapay zekâ ajanlarının gün boyu verdiği hızlı ve rutin kararları üstleniyor: Bir görevin acil olup olmadığı, devam edilip edilmeyeceği ya da bir eyleme izin verilip verilmeyeceği gibi. Böylece ajanlar her seferinde daha büyük ve yavaş bir dil modelini çağırmak zorunda kalmıyor. Ancak iki büyük altyapı şirketinin benzer bir yeteneği açık lisansla sunması, TypeSafe’in API satışına dayalı modelini zorluyor. Startup Fortune bu eğilimi “sübvansiyonla metalaşma” olarak tanımlıyor. TypeSafe ise Jev’in mimarisini henüz açıklamış değil.