Açık yapay zekâ modelleri, kapalı modellere yaklaşıyor

Yapay zekâ alanında kapalı ve açık ağırlıklı modeller arasındaki performans farkı hızla azalıyor. Mozilla’nın 15 Eylül’de yayımladığı State of Open Source AI raporuna göre Çinli şirketlerin geliştirdiği en başarılı açık modeller, ABD merkezli teknoloji şirketlerinin en gelişmiş kapalı modelleriyle arasındaki farkı 4,4 aya kadar indirmiş durumda.

Bu tablo, şirketlerin yapay zekâ yatırımlarında maliyet hesabını yeniden yapmasına neden oluyor. Açık ağırlıklı modeller, modelin temel bileşenlerinin indirilmesine ve kurum içinde çalıştırılmasına izin veriyor. Böylece kullanıcılar her işlem için model sağlayıcısına erişim ücreti ödemek zorunda kalmıyor. Buna karşılık kapalı modeller, geliştiricilerin kontrolündeki sunucular üzerinden sunuluyor ve kullanım genellikle daha yüksek bir maliyet getiriyor.

Kimi K3 ile Fable 5 arasındaki fark daraldı

Raporda karşılaştırılan modellerden biri, Moonshot AI tarafından geliştirilen Kimi K3. Artificial Analysis Intelligence Index üzerindeki bileşik performans puanına göre Kimi K3, Anthropic’in kapalı ve üst düzey modeli Fable 5’in yalnızca üç puan gerisinde bulunuyor.

Performans farkının sınırlı kalmasına karşın iki modelin kullanım maliyeti arasında belirgin bir ayrım var. Rapora göre Kimi K3, Fable 5’in maliyetinin yaklaşık yüzde 30’u seviyesinde çalışıyor. Bu fark, özellikle yüksek hacimli ve tekrarlanan görevlerde açık modelleri daha cazip hâle getiriyor.

Mozilla’nın değerlendirmesi, çoğu kuruluşun iş yüklerinin büyük bölümünde açık modelleri varsayılan seçenek olarak değerlendirmesi gerektiği yönünde. Rutin metin işlemleri ve benzer yoğunluktaki görevlerde daha ucuz bir modelin kullanılması, şirketlerin üst düzey modellere yalnızca gerçekten ihtiyaç duyulan durumlarda başvurmasına imkân tanıyabilir.

Kapalı modeller hangi alanlarda avantaj sağlıyor?

Rapora göre kapalı modeller tüm kullanım senaryolarında geride kalmıyor. Mozilla Teknoloji Direktörü Raffi Krikorian’ın değerlendirmesine göre bu modeller özellikle uzmanlık gerektiren profesyonel çalışmalarda, yoğun bilgi getirme işlemlerinde ve uzun bağlam gerektiren görevlerde sundukları ek değerle yüksek fiyatlarını gerekçelendirebiliyor.

Bu nedenle model seçimi, kuruluşun tamamı için tek bir kararla belirlenmek yerine iş yüküne göre yapılabilir. Günlük ve standart işlemler açık ağırlıklı modellerle yürütülürken daha karmaşık, hata maliyeti yüksek veya çok uzun belgelerle çalışan görevler kapalı modellere bırakılabilir.

Maliyet dışında işletme yükü de hesaplanıyor

Açık modellerin daha düşük kullanım maliyeti, onları her kurum için otomatik olarak en iyi seçenek hâline getirmiyor. Model bileşenlerini indirmek ve kendi altyapısında çalıştırmak isteyen şirketlerin teknik ekip, sunucu kaynakları ve bakım süreçlerini yönetmesi gerekiyor.

Açık ağırlıklı modellerde temel model bileşenleri paylaşılabilse de eğitim verileri, veri işleme hattı ve eğitim kodu gibi kritik bilgiler çoğu zaman kullanıcılara sunulmuyor. Bu durum, modelin tamamen şeffaf ve yeniden üretilebilir olduğu anlamına gelmiyor.

Kapalı model sağlayıcıları ise çalışır durumdaki hizmetin yanında uyumluluk paketleri, teknik destek ve hesap verebilirlik gibi kurumsal hizmetler sunuyor. Kendi yapay zekâ altyapısını kuracak personeli bulunmayan kuruluşlar için bu hizmetler, daha yüksek erişim ücretini karşılamaya değer kılabiliyor.

Mozilla’nın raporu, açık ve kapalı modeller arasındaki rekabetin tek ölçütünün ham performans olmadığını gösteriyor. Performans farkı daraldıkça maliyet, teknik işletim kapasitesi ve iş yükünün niteliği birlikte değerlendirilecek. Kapalı modeller uzmanlık isteyen dar bir kullanım alanında değerini korurken, açık modellerin daha geniş bir görev grubunda varsayılan seçeneğe dönüşmesi beklenebilir.