Meta Muse Ember’ı tanıttı: Ajan görevleri daha ucuza

Meta, yapay zekâ ajanlarının sık tekrarladığı işleri daha düşük maliyetle yerine getirmesi için Muse Ember adlı modelini duyurdu. Şirketin ajan görevlerine yönelik en küçük ve verimli modeli olarak tanımladığı Ember; araç kullanımı, veri çıkarma, yönlendirme, kodlama alt görevleri ve uzun belgeleri okuma gibi işlere odaklanıyor.

Ajan sistemleri, bir isteği tamamlamak için çoğu zaman çok sayıda küçük işlem yapıyor. Uygulamalar arasında bilgi taşıma, araçları sırayla çalıştırma veya bir kodlama oturumunda alt görevleri yerine getirme bu işlemler arasında. Meta’nın yaklaşımında Muse Ember, bu tekrarlanan adımları üstlenerek daha büyük modellerin daha zor problemlere zaman ayırmasını sağlıyor.

Daha düşük görev maliyeti hedefleniyor

Meta’nın açıkladığı karşılaştırmada, Muse Spark 1.3 ile 2,39 dolar tutan bir görevin maliyeti Muse Ember kullanıldığında 0,14 dolara düşüyor. Bu fark, özellikle aynı ajan oturumunda modelin defalarca çağrıldığı iş akışlarında önem kazanabilir. Tek bir istekteki maliyetin yanı sıra, çok sayıda küçük adımın toplam gideri de ajan hizmetlerinin işletme maliyetini belirliyor.

Meta ayrıca Muse Ember’ın Claude Haiku 5.5’in ulaştığı en yüksek puana yaklaşık üçte bir maliyetle eriştiğini belirtiyor. Şirketin aktardığı Artificial Analysis değerlendirmesinde modelin Intelligence Index skoru 36. Muse Spark 1.3 ise aynı ölçümde 37 puan alıyor. Ember’ın puanı kardeş modeline yakın olsa da Meta, giriş ve çıkış token fiyatlarının daha düşük olduğunu vurguluyor.

Şirketin değerlendirmesine göre Ember, farklı akıl yürütme ayarlarında dolar başına daha fazla performans sunuyor. Meta, modelin GPT-6 Luna’nın tüm ayarlarını geride bıraktığını da öne sürüyor. Bunlar şirket tarafından aktarılan kıyaslama sonuçları; farklı test koşulları ve kullanım senaryoları modellerin gerçek performansını etkileyebilir.

Metin, görüntü, ses ve video desteği

Muse Ember yalnızca metinle çalışmıyor. Model; görüntü, ses ve videoyu da doğrudan işleyebiliyor. Meta’nın verdiği kullanım örnekleri arasında ekran görüntülerini, grafikleri ve taranmış belgeleri incelemek; toplantı kayıtları ile ses notlarını anlamlandırmak ve bilgisayarı ekran görüntülerinden hareketle kullanmak bulunuyor. Uzun ve gerçek dünyadan alınmış belgelerle çalışma da modelin hedeflenen görevleri arasında.

Ember’ın bağlam penceresi 1 milyon token, üretebildiği çıktı için belirtilen sınır ise 512 bin token. Bu kapasite, geniş içeriklerin tek bir çağrıda ele alınmasına imkân tanıyabilir. Meta, modelin tüm bir kod tabanını tek çağrıda işleyebileceğini söylüyor. Ancak bu kapasitenin uygulamadaki karşılığı; görev türüne, kullanılan araçlara ve iş akışının nasıl kurulduğuna bağlı olacak.

Meta, Muse Ember’ı sözleşme incelemesinden kod üretimine kadar farklı alanlarda iş ortaklarının erken testlere aldığını belirtiyor. Kodlama tarafında modelin, bir ajanın oturum boyunca yüzlerce kez gönderebileceği küçük alt görevleri yerine getirmesi planlanıyor. Daha karmaşık problemlerdeyse şirket, planlama için Muse Wonder’ın; tekrarlanan işleri büyük ölçekte yürütmek için Muse Ember’ın kullanılmasını öneriyor.

Meta güvenlik değerlendirmelerini de paylaştı

Meta, modeli kullanıma sunmadan önce kendi Superintelligence Scaling Framework’ü kapsamında değerlendirdiğini açıkladı. Şirketin incelemeleri kimyasal ve biyolojik risklerin yanı sıra siber güvenlik ve kontrol kaybı senaryolarını da kapsıyor. Meta’ya göre Muse Ember, incelenen kategorilerde yüksek risk eşiklerinin altında kaldı ve daha küçük boyutuna rağmen aynı temel güvenlik eğitiminden geçti.

Ajanların kullanıcı adına işlem yapması, küçük bir modelin bile yalnızca doğru yanıt üretmesinin yeterli olmadığı anlamına geliyor. Araç çağırma ve uygulamalar arasında işlem yapma gibi yetenekler, performansın yanında modelin sınırlarının da değerlendirilmesini gerektiriyor. Muse Ember’ın düşük maliyet ve geniş girdi desteğiyle ajan altyapılarında nasıl konumlanacağı, gerçek kullanım sonuçlarıyla daha net ortaya çıkacak.