Meta Muse Spark Open, Mac Studio’da yerel yapay zekâ sunuyor

Meta, yapay zekâ modelleri arasındaki rekabeti masaüstü bilgisayarlara taşıyan yeni modeli Muse Spark Open’ı kullanıma sundu. Şirketin açıklamasına göre model; kodlama, çok adımlı akıl yürütme ve uzun süren yapay zekâ ajanı görevleri için geliştirildi. Modelin ağırlıkları artık Hugging Face üzerinden erişilebiliyor.

Muse Spark Open, Meta’nın natively multimodal olarak tanımladığı bir model. Yani metinle sınırlı kalmadan farklı veri türleriyle çalışabiliyor. Model, toplam 816 milyar parametre içeriyor ancak görev sırasında 42 milyar parametreyi aktif olarak kullanıyor. Ayrıca 1 milyon token’lık bağlam penceresi sunuyor. Bu kapasite, uzun kod dosyaları, geniş proje yapıları ve çok aşamalı görevlerin tek bir çalışma akışında ele alınmasını mümkün kılmayı hedefliyor.

M5 Ultra’lı iki Mac Studio birlikte çalışıyor

Meta’nın duyurusunu Apple kullanıcıları açısından farklılaştıran nokta ise modelin Mac Studio için özel olarak optimize edilmesi. Şirket, Apple’ın MLX adlı açık kaynaklı makine öğrenimi çatısının en güncel sürümünden yararlandığını belirtiyor. MLX, Apple Silicon çiplerinin birleşik bellek mimarisiyle çalışacak şekilde tasarlanıyor ve araştırmacıların yapay zekâ modellerini yerel olarak denemesine yardımcı oluyor.

M5 Ultra işlemcili Mac Studio’nun grafik işlemcisi, sistem başına 512 GB’a kadar birleşik belleği kullanabiliyor. Meta, iki Mac Studio’nun birlikte çalışmasıyla Muse Spark Open’ın tamamının sistem üzerinde tutulabildiğini ifade ediyor. Bu kurulumda toplam birleşik bellek kapasitesi 1 TB’a ulaşıyor. M5 Ultra’nın 1,2 TB/s bellek bant genişliği de modelin her token için ihtiyaç duyduğu veri bölümünü hızlı biçimde okuyabilmesine yardımcı oluyor.

Bu yapı, iki ayrı bilgisayarın yapay zekâ modeli açısından tek bir yüksek kapasiteli sistem gibi davranmasını sağlıyor. Böylece modelin bulut sunucusuna gönderilmeden, doğrudan masaüstünde çalıştırılması hedefleniyor. Yerel kullanım; veri gizliliği, internet bağlantısına bağımlılığın azalması ve geliştiricilerin deneylerini kendi sistemlerinde yürütmesi açısından önem taşıyor. Bununla birlikte, bu kurulumu kullanabilmek için iki yüksek bellek kapasiteli Mac Studio ve M5 Ultra donanımı gerekiyor.

Model hangi görevlerde kullanıldı?

Meta, Muse Spark Open’ı Muse Code aracılığıyla farklı yapay zekâ ajanı iş akışlarında test etti. Şirketin örneklerinden biri, açık kaynaklı Mastodon istemcisi Ice Cubes üzerinde gerçekleştirildi. Modelin iOS uygulamasında hata düzeltmeleri ve yeni özellikler geliştirdiği, ardından projenin derleme sürecini tamamladığı aktarıldı.

Bir diğer testte model, DaVinci Resolve üzerinde uçtan uca bir video düzenleme akışını yönetti. Muse Spark Open, görüntüleri kare kare inceleyerek güçlü anları belirledi ve bu bölümleri dikey video formatına uyarladı. Örnekler, modelin yalnızca metin üretmek yerine yazılım geliştirme araçları ve yaratıcı uygulamalarla etkileşime girebilen bir ajan olarak konumlandırıldığını gösteriyor.

Meta, Muse Spark Open’ı bugüne kadar yayımladığı en yetenekli ABD merkezli açık ağırlıklı model olarak tanımlıyor. Bu ifade şirketin kendi değerlendirmesi; bağımsız performans karşılaştırması anlamına gelmiyor. Modelin gerçek kullanım deneyimi, farklı donanımlardaki performansı ve büyük projelerdeki kararlılığı zaman içinde daha net ortaya çıkacak.

Apple ve Meta arasındaki iş birliği

Apple ile Meta’nın bu projede birlikte çalışması, iki şirketin geçmişteki mesafeli ilişkisinin ardından dikkat çekici bir tablo oluşturuyor. Meta AI yöneticisi Alexandr Wang, şirketlerin birkaç aydır birlikte çalıştığını açıkladı. Wang, eski Apple yöneticisi Daniel Gross’un iki taraf arasındaki iş birliğinin kurulmasında etkili olduğunu belirtti.

Apple da MLX’in Mac üzerindeki kullanımına ilişkin yeni bir araştırma yazısı yayımladı. Şirket, bu altyapının yapay zekâ araştırmacıları ve geliştiricilerine güncel modelleri özel bir ortamda yerel olarak deneme imkânı verdiğini vurguluyor. Muse Spark Open’ın Hugging Face üzerinden yayımlanması, modelin yalnızca Meta ve Apple donanımına kapalı kalmadığını; farklı geliştiricilerin de modeli inceleyip kendi iş akışlarında değerlendirebileceğini gösteriyor.