Meta, Muse yapay zekâ ajanındaki açığı yamadı

Meta, macOS işletim sistemi için sunduğu Muse uygulamasında ortaya çıkan güvenlik açığını yayımladığı yamayla kapattı. Uygulamadaki kusur, belirli koşulları karşılayan saldırganların yapay zekâ ajanının çalışma düzenini değiştirmesine ve ses kayıtlarının işlendiği veri akışına müdahale etmesine izin verebiliyordu.

Muse, kullanıcıların ses kayıtlarını yazıya dönüştürmek için kullandığı yapay zekâ destekli bir uygulama olarak çalışıyor. Güvenlik araştırmacısı Patrick Wardle tarafından incelenen sorun, uygulamanın kullanıcı arayüzünde görünmeyen bir ayarıyla bağlantılıydı. Bu ayarın kötüye kullanılması, transkripsiyon işlemlerinin normal akışından çıkarılabilmesine neden oluyordu.

Transkripsiyon verileri farklı bir adrese gönderilebiliyordu

Muse’un ses kayıtlarını yazıya dönüştürme işlemleri normal koşullarda Meta’nın sunucuları üzerinden gerçekleştiriliyor. Ancak saldırganın hedef Mac’te yerel kod çalıştırabilmesi durumunda, uygulamanın bu işlem için kullandığı uç nokta değiştirilebiliyordu. Böylece Muse tarafından işlenen transkripsiyon verileri saldırganın kontrol ettiği bir sunucuya aktarılabiliyordu.

Bu senaryoda risk, yalnızca uygulamanın yanlış bir sunucuya bağlanmasından ibaret değildi. Muse hesabıyla ilişkili verilere ulaşmak için de kullanılabilecek bir yol ortaya çıkıyordu. Başka bir yöntemle bilgisayarda kod çalıştırma yetkisi elde eden saldırgan, uygulamanın görünmeyen ayarından yararlanarak hem veri akışını değiştirebiliyor hem de hesap erişimini etkileyebilecek işlemler gerçekleştirebiliyordu.

Buradaki yerel kod çalıştırma koşulu, açığın uzaktan ve tek başına herhangi bir Muse kullanıcısına uygulanabildiği anlamına gelmiyor. Saldırganın öncelikle hedef bilgisayarda kod çalıştırabilecek bir konuma gelmesi gerekiyor. Buna rağmen bilgisayara başka bir güvenlik açığı, kötü amaçlı yazılım veya farklı bir saldırı yöntemiyle erişen kişi için Muse’un dahili yapılandırması ek bir fırsat oluşturabiliyordu.

Belgelendirilmemiş ayar güvenlik sınırını zayıflattı

Wardle’ın incelemesine göre problemin merkezinde, kullanıcıların normal kullanım sırasında görmediği bir ayarın değiştirilebilmesi bulunuyordu. Uygulama içindeki bu seçenek, ses verilerinin yazıya dönüştürülmesi sırasında kullanılan işlem yolunu etkiliyordu. Kullanıcı arayüzünde yer almayan ayarların dışarıdan değiştirilebilmesi, uygulamanın hangi sunucuyla iletişim kurduğuna dair kontrol mekanizmasını zayıflatıyordu.

Yapay zekâ destekli masaüstü uygulamaları, görevlerini yerine getirebilmek için çoğu zaman ses kayıtları, metinler ve hesap bilgileri gibi hassas verilere erişiyor. Bu nedenle yalnızca yapay zekâ modelinin doğruluğu veya uygulamanın kullanım kolaylığı değil, verilerin nerede işlendiği ve hangi koşullarda dışarı aktarıldığı da güvenlik değerlendirmesinin parçası oluyor.

Muse örneğinde sorun, yapay zekâ ajanının bir görevi yerine getirmesinden çok, bu görev sırasında kullanılan verilerin hedefinin değiştirilebilmesiyle ilgiliydi. Kullanıcı açısından görünmeyen bir yapılandırma seçeneğinin veri akışını etkileyebilmesi, masaüstü uygulamalarında iç ayarların da saldırı yüzeyinin parçası olduğunu gösteriyor.

Meta, macOS uygulaması için yama yayımladı

Meta, güvenlik açığının bildirilmesinin ardından Muse’un macOS sürümü için bir güncelleme yayımladı. Yama, gizli ayarın kötüye kullanılarak transkripsiyon işlemlerinin saldırganın belirlediği uç noktalara yönlendirilmesini engellemeyi hedefliyor. Muse kullanan kişilerin uygulamayı güncel tutması, düzeltmeden yararlanmak için atılabilecek temel adım olarak öne çıkıyor.

Sıfırıncı gün açığı ifadesi, geliştiricinin sorunu gidermek için yeterli zamanı olmadan keşfedilen veya kötüye kullanılma ihtimali bulunan güvenlik kusurlarını tanımlamak için kullanılıyor. Bu olayda da uygulamanın belgelenmemiş bir seçeneğinin güvenlik sınırlarını aşacak biçimde kullanılabilmesi, sorunun tespit edilmesini ve hızlı bir düzeltme yayımlanmasını gerekli kıldı.

Meta, açığın kaç kullanıcıyı etkilediğine veya düzeltmenin hangi sürüm numarasıyla dağıtıldığına ilişkin ayrıntıları paylaşmadı. Bu nedenle mevcut bilgiler, kusurun nasıl çalışabildiğini ve yamanın hangi riski ortadan kaldırmayı amaçladığını ortaya koyuyor; ancak gerçek dünyada kaç hesabın ya da cihazın etkilendiği konusunda kesin bir tablo sunmuyor.

Yayımlanan güncelleme, Muse’un ses verilerini işlerken kullandığı iletişim yolunun saldırgan tarafından değiştirilmesini önlemeye yönelik çözümü sağlıyor. Uygulamanın güncel sürümünü kullanmak, özellikle bilgisayarında başka bir güvenlik sorunu nedeniyle yerel kod çalıştırma riski bulunan kullanıcılar açısından önem taşıyor.