Yapay zeka dünyası, metin üretmek yerine doğrudan yazılımların kullanabileceği kararlar sunan yeni bir teknolojiyle tanıştı. TypeSafe AI girişimi tarafından geliştirilen Jev, ChatGPT veya Claude gibi popüler büyük dil modellerinden farklı olarak insan dilinde cümleler kurmuyor. Bunun yerine, bir işlemin güvenli olup olmadığı veya bir müşteri talebinin hangi departmana yönlendirilmesi gerektiği gibi teknik sorunları çözmeye odaklanıyor.
Bilgisayarların dilinden anlayan sistem
TypeSafe AI CEO'su Diogo Almeida, yapay zeka endüstrisinin uzun süre insanlarla konuşan sistemlere odaklandığını, ancak otomasyon süreçlerinde bilgisayarların farklı bir dile ihtiyaç duyduğunu belirtiyor. Jev, bu ihtiyacı karşılamak için üç temel işlev sunuyor: Belirli seçenekler arasından seçim yapma, girdileri puanlama ve evet-hayır şeklinde doğrulama yapma. Bu yapı, yazılımların karmaşık metinleri ayrıştırmasına gerek kalmadan doğrudan veri işlemesine olanak tanıyor.
Hız ve maliyet avantajı
Jev'in en dikkat çekici yönlerinden biri, geleneksel büyük dil modellerine göre sunduğu hız avantajı. Şirket verilerine göre, Jev'in yanıt süresi 70 ila 500 milisaniye arasında değişiyor ve bu durum bazı iş akışlarında 200 kata varan hız farkları yaratabiliyor. Ayrıca, uzun metinler üretmediği için maliyet açısından da oldukça verimli; 1 milyon girdi token'ı başına 0,042 dolarlık bir maliyetle çalışıyor.
Sektörel uygulamalarda da kullanılmaya başlanan Jev, moda trend tahmin platformu T-Fashion tarafından arama filtrelerini otomatize etmek için tercih ediliyor. Ayrıca Gurubase gibi platformlar, büyük doküman havuzlarını tarayarak önemli bilgileri ayıklamak ve maliyetli dil modellerine gönderilecek veriyi optimize etmek amacıyla bu teknolojiden faydalanıyor.
Jev, bağımsız bir sohbet botu olmaktan ziyade, yapay zeka ajanlarının arka planında çalışan bir karar motoru olarak konumlanıyor. Güçlü dil modellerinin denetlenmesi, güvenlik bariyerlerinin korunması ve model yönlendirme gibi kritik görevlerde, yazılım altyapısının bir parçası olarak görev yapması bekleniyor.