OpenAI Decisions API’yi Herkese Açtı: Jev’e Rakip Hızlı Karar Modeli

OpenAI, hızlı karar vermek için tasarladığı Decisions API’yi 22 Ekim Perşembe günü genel kullanıma açtı. GPT-6 Luna üzerine kurulu araç, uzun metin üretmek yerine olasılık, seçim ya da puan döndürüyor. Bu adım, OpenAI’ı Jev modeliyle bu kategoriyi başlatan TypeSafe ile doğrudan karşı karşıya getiriyor.

Metin yerine doğrudan karar üretiyor

Decisions API, tam metin üretimini atlıyor. Geliştirici bir soru yazıyor, izin verilen yanıtları listeliyor ve bağlamı metin, görsel ya da JSON olarak veriyor. API de uygulamanın doğrudan işleyebileceği bir olasılık, bir seçim ya da bir değerlendirme ölçeği puanı döndürüyor. OpenAI’a göre sınırları belli sorularda sistem, Responses API üzerinden GPT-6 Luna’yı çağırmaya kıyasla 10 kata kadar daha hızlı. Araç 6 Ekim’de beta sürecine girmişti; bu sürede yerel GPT-Live ses entegrasyonu, istem önbellekleme ve ABD ile AB’de çıkarım verisi yerelliği eklendi. İstek başına soru sınırı da 400’e çıkarılarak ikiye katlandı.

Fiyat ve ilk müşteri sonuçları

Fiyatlandırma bir milyon girdi token’ı için 0,10 dolar, bir milyon önbelleğe alınmış token için 0,01 dolar olarak belirlendi. Çıktı token’ları için ücret alınmıyor. Token, yapay zekanın metni işlerken kullandığı en küçük parça anlamına geliyor. Erken dönem müşteriler dikkat çekici hız artışları bildirdi. Box, rota seçiminin yaklaşık 5 kat hızlandığını söyledi. Datadog, yapay zeka ajanlarının ürettiği komutların riskini puanlarken öncü modellere kıyasla p95 gecikmesinin 40 kat düştüğünü belirtti. Dil öğrenme uygulaması Speak ise bir sonraki eyleme geçiş süresini 1,4 saniyeden 0,13 saniyeye indirdi.

TypeSafe ve Jev ile rekabet

TechCrunch’a konuşan OpenAI API ürün lideri Nikunj Handa, şirketin karar işi için ayrı bir model eğitmediğini, bunun yerine Luna’yı daha hızlı ve ucuz çalışacak şekilde yeniden yapılandırdığını söyledi. OpenAI henüz bu alanda lider değil: AIM System One Index ve Artificial Analysis Decision Index’te Jev sırasıyla yedinci ve üçüncü, OpenAI’ın modeli ise sekizinci ve on dördüncü sırada. Jev’in liste fiyatı bir milyon girdi token’ı için 0,042 dolar ve yalnızca metin kabul ediyor. Handa ise görsel sınıflandırmanın OpenAI’a avantaj sağlayabileceğini, gecikme 60 milisaniyeye inerse videodaki her kare için API çağrısı yapmanın bile mümkün olabileceğini belirtti.