ChatGPT’nin mucidinden metin üretmeyen yapay zekâ modeli

ChatGPT’nin geliştirilmesine katkı sağlayan ve insan geri bildirimlerinden pekiştirmeli öğrenme tekniğinin ortaya çıkmasında rol oynayan Diogo Almeida, yapay zekâ modellerinin otomasyonda neden beklenen kadar verimli olmadığını farklı bir yaklaşımla ele alıyor. Almeida’nın iki yıl önce kurduğu TypeSafe AI, bu hafta Jev adlı yeni modelini yayımladı.

Jev, geleneksel büyük dil modellerinden ayrılıyor. Model, kullanıcıya metin üretmek yerine önceden belirlenen seçenekler için olasılık değerleri sunuyor. TypeSafe AI bu çıktıları “kalibre edilmiş kararlar” olarak tanımlıyor. Böylece modelin serbest biçimde yanıt üretmesi yerine, yazılımın kullanabileceği ölçülebilir karar sonuçları elde ediliyor.

Jev neden dil modeli kullanmıyor?

Almeida’ya göre mevcut yapay zekâ sistemleri insan dilini anlamlandırma ve üretme konusunda oldukça başarılı. Ancak bilgisayar otomasyonu için insan dili her zaman en uygun ara katman olmayabilir. Yazılımlar, doğal dilde uzun yanıtlar almak yerine belirli bir sınıflandırma, güvenlik kontrolü veya yönlendirme sonucu isteyebiliyor.

Jev’in metin üretmemesi, modelin bazı sınırlarını da baştan belirliyor. Kullanıcılar olası çıktı kümesini önceden tanımladığı için modelin kendi başına farklı bir yanıt uydurması mümkün olmuyor. Bu yaklaşım, büyük dil modellerinde sıkça tartışılan halüsinasyon riskini azaltmayı amaçlıyor. Ancak elde edilen kararın nasıl kullanılacağı yine yazılımı geliştiren ekibin sorumluluğunda bulunuyor.

Modelin bir diğer avantajı hız ve maliyet tarafında ortaya çıkıyor. Jev’in çıktı token’ları için ücret alınmıyor; girdi token’ları ise milyonlar yerine milyarlar üzerinden ölçülüyor. Bu yapı, çok sayıda isteğin gerçek zamanlı olarak işlendiği yazılım otomasyonlarında maliyeti düşürmeyi hedefliyor.

Geliştiricilerin testlerinde nasıl sonuç verdi?

Jev’e yönelik ilgi, şirketin API hizmetinde kısa süreli kapasite sorunu yaşayacağı kadar yükseldi. Geliştiriciler modeli özellikle güvenlik kontrolleri, e-posta sınıflandırması ve yazılım iş akışlarının otomatikleştirilmesi gibi alanlarda deniyor.

Vercel’de yazılım mühendisi olarak çalışan Pranit Sharma’nın aktardığı testte Jev, komutların güvenliğini inceleyen sınıflandırıcıda daha önce kullanılan bir OpenAI modeliyle karşılaştırıldı. Jev, aynı görevleri 5 ila 18 kat daha hızlı tamamladı ve daha yüksek doğruluk sağladı. Bu sonuç, metin üretmek yerine doğrudan karar vermenin belirli görevlerde gecikmeyi azaltabileceğini gösteriyor.

Bryo AI teknoloji yöneticisi Nikhil Mudholkar ise Jev’i iş e-postalarını sınıflandırmak için Gemini ile karşılaştırdı. Testte Gemini doğruluk açısından bir miktar önde yer aldı. Buna karşın Jev’in 10 ila 20 kat daha düşük maliyetle çalıştığı belirtildi. Mudholkar’ın asıl dikkat çektiği nokta, modelin güven skorlarını gerçek olasılık değerleri olarak sunması oldu. Bu değerler, otomasyon sistemlerinin düşük güvenli sonuçları bekletmesine veya insan onayına göndermesine imkân tanıyabilir.

Jev, büyük dil modellerinin yardımcısı da olabilir

TypeSafe AI, Jev’i yalnızca büyük dil modellerinin alternatifi olarak konumlandırmıyor. Model, başka yapay zekâ sistemlerini denetleyen bir kontrol katmanı olarak da kullanılabilir. Örneğin bir yapay zekâ aracısının işlem kayıtlarını incelemek, güvenlik kurallarının ihlal edilip edilmediğini kontrol etmek veya jailbreak girişimlerini tespit etmek için Jev’den yararlanılabilir.

Bu yöntemde güven skoru kritik rol oynuyor. Pi adlı açık kaynaklı model altyapısını geliştiren Earendil’in teknoloji yöneticisi Armin Ronacher’a göre yüzde 50 olasılık taşıyan bir sonuç kararsız kabul edilebilirken, yüzde 95 seviyesindeki bir sonuç otomatik işleme daha uygun olabilir. Böylece sistem, her kararı körü körüne uygulamak yerine belirsiz sonuçları ayırabilir.

Bir başka kullanım alanı da model yönlendirme. Bir isteğin hangi yapay zekâ modeline gönderilmesi gerektiğini yine büyük bir dil modeliyle tahmin etmek pahalı olabilir. Jev’in hızlı ve düşük maliyetli yapısı, gelen talepleri daha güçlü ya da daha ekonomik modellere gerçek zamanlı olarak dağıtan bir karar katmanı oluşturabilir.

Jev’in yaklaşımı, yapay zekâda her görevin metin üretimiyle çözülmesi gerekmediğini savunuyor. Modelin başarısı, geniş kapsamlı sohbet yeteneğinden çok yazılımlara güvenilir, hızlı ve ölçülebilir kararlar sağlayabildiği senaryolarda belirlenecek.