OpenAI’dan hızlı karar modelleri pazarına yeni hamle: Decisions API kullanıma sunuldu
GPT-6 Luna altyapısıyla çalışan Decisions API, uygulamaların ve yapay zeka ajanlarının sınıflandırma, yönlendirme ve eylem belirleme gibi işlemleri çok daha kısa sürede tamamlamasına olanak tanıyor.
OpenAI, yazılımların iş süreçleri içinde sürekli karşılaştığı küçük ölçekli ve tekrar eden karar adımlarını hızlandırmak için geliştirdiği Decisions API’ı tüm geliştiricilerin erişimine açtı. Şirketin paylaştığı bilgilere göre, yanıtı önceden belirlenmiş seçeneklerle sınırlı olan sorularda yeni API, GPT-6 Luna modelini Responses API aracılığıyla kullanmaya kıyasla 10 kata varan hız avantajı sunuyor.
Decisions API nasıl çalışıyor?
Geliştiriciler ilk olarak sorulacak soruyu ve verilebilecek yanıtları tanımlıyor, ardından değerlendirilmesini istedikleri içeriği metin, görsel ya da yapılandırılmış veri olarak sisteme iletiyor. API bu girdileri analiz ettikten sonra üç farklı şekilde sonuç üretebiliyor: Bir durumun gerçekleşme ihtimalini hesaplayabiliyor, tanımlanan seçenekler arasından en uygun olanı belirleyebiliyor ya da içeriğe puan verebiliyor. Böylece örneğin gelen bir müşteri talebinin hangi ekibe aktarılacağı veya bir yapay zeka ajanının sıradaki adımda ne yapacağı çok kısa sürede netleşebiliyor.
Genel kullanım sürümüyle gelen yenilikler
Decisions API’ın herkese açık sürümü, beraberinde bazı önemli özellikler de getiriyor. GPT-Live entegrasyonu sayesinde sesli görüşmeler devam ederken anlık kararlar alınabiliyor. Sürekli tekrar eden bağlamlar için önbellekleme desteği sunulurken, ABD ve Avrupa Birliği’nde bölgesel veri işleme seçeneği de kullanıma açıldı. Ayrıca tek bir istek içinde yöneltilebilecek soru sayısının üst sınırı 400’e çıkarıldı.
Müşterilerden somut sonuçlar
OpenAI’ın aktardığı kullanım örnekleri, aracın sahadaki etkisine dair fikir veriyor. Dil öğrenme uygulaması Speak, iki eylem arasında geçen süreyi 1,4 saniyeden 0,13 saniyeye indirmeyi başardı. Finans teknolojisi şirketi Ramp ise yapay zeka harcamalarını ilgili iş kalemleriyle eşleştirdiği süreçte dört kat daha hızlı sonuç aldığını ve maliyetlerini yüzde 30 oranında azalttığını açıkladı.
Fiyatlandırma
Decisions API’ın ücreti, bir milyon girdi token’ı için 0,10 dolar olarak belirlendi. Önbelleğe alınan girdilerde bu rakam 0,01 dolara düşüyor. Çıktı token’ları ise tamamen ücretsiz.
Jev ile kızışan rekabet
OpenAI’ın bu hamlesi, hızlı ve düşük maliyetli karar modelleri alanında giderek sertleşen rekabetin yeni bir halkası olarak değerlendiriliyor. Bu pazarda son dönemde en çok dikkat çeken isimlerden biri, TypeSafe’in geliştirdiği Jev modeli. Decisions API’ın genel kullanıma açılmasıyla birlikte, iki şirket arasındaki yarışın önümüzdeki dönemde daha da hız kazanması bekleniyor.
