AI karar modelleri içerik moderasyonunu nasıl değiştirebilir?

Yapay zekâ destekli içerik moderasyonunda bugüne kadar genellikle belirli görevler için eğitilmiş sınıflandırıcılar kullanıldı. Musubi ise karar modellerini bu alana taşıyan PolicyLM-1.7B ile farklı bir yaklaşım sunuyor. Şirketin 6 Ekim 2026’da duyurduğu model, açık ağırlıklarla yayımlandı ve platformların kendi moderasyon süreçlerinde çalıştırılmak üzere tasarlandı.

PolicyLM-1.7B’nin temel amacı, doğal dilde yazılmış bir içerik politikasını mesajlara gerçek zamanlı olarak uygulamak. Musubi, modelin bir mesajı 50 milisaniyenin altında değerlendirebileceğini belirtiyor. Bu hız, modelin sosyal platformlarda kullanılan yapay zekâ sınıflandırma sistemleriyle benzer maliyet ve performans hedeflerine sahip olmasını sağlıyor.

İçerik politikaları değiştiğinde yeniden eğitim gerekmeyecek

Musubi’nin yaklaşımını farklılaştıran nokta, moderasyon kuralının modelin eğitim sürecinden ayrılması. Platform yöneticileri, hangi içeriğin belirli bir kategoriye girdiğini doğal dil kullanarak tanımlayabiliyor. Politika değiştiğinde ise modelin baştan eğitilmesi gerekmiyor. Böylece insan moderasyon ekipleri ve ürün yöneticileri, kuralları ihtiyaçlarına göre güncelleyebiliyor.

Bu yapı özellikle çok sayıda mesajın işlendiği platformlarda önem taşıyor. İçerik hacmi arttıkça her gönderiyi insan çalışanların incelemesi pratik olmaktan çıkıyor. Klasik sınıflandırıcılar hızlı çalışsa da çoğu zaman belirli ve dar görevler için eğitiliyor. Politika değişiklikleri, bu sistemlerde yeni veri hazırlama ve yeniden eğitim ihtiyacı doğurabiliyor.

Karar modelleri, büyük dil modellerinden farklı olarak uzun metinler üretmek yerine önceden belirlenmiş sonuçlara odaklanıyor. Genel yaklaşımda model, farklı sonuçların olasılıklarını sunabiliyor. PolicyLM-1.7B ise moderasyon senaryosunda ikili bir değerlendirme yapıyor: İçerik belirlenen kategoriye giriyor ya da girmiyor. Çıktı seçeneklerini sınırlamak, modelin daha hızlı ve daha düşük maliyetle çalışmasına yardımcı oluyor.

Karar modellerine yönelik ilgi artıyor

Karar modelleri, Typesafe AI tarafından eylül ayında yayımlanan Jev modelinin ardından yapay zekâ sektöründe daha fazla konuşulmaya başladı. Kısa süre sonra OpenAI ve Amazon da benzer türde modeller duyurdu. Bu modellerin ortak özelliği, klasik sohbet sistemleri gibi yanıt üretmek yerine belirli bir kararın olasılığını veya sonucunu vermeleri.

Musubi’nin kurucu ortağı ve baş yapay zekâ sorumlusu Filip Jankovic, karar modellerine olan ilgisinin Jev’den daha önce başladığını belirtiyor. Jankovic bu yaklaşımın geçmişini, aynı tekniklerin bir bölümünü kullanan 2024 tarihli GLiNER projesine dayandırıyor. GLiNER, Genel Amaçlı Adlandırılmış Varlık Tanıma modeli olarak tanımlanıyor.

Karar modellerinin ilk kullanım alanlarından biri, yapay zekâ ajanlarının uygunsuz davranışlarını sınırlamak oldu. Musubi, aynı teknolojinin insan kullanıcıların ürettiği içerikleri denetlemek için de kullanılabileceğini savunuyor. Şirketin yaklaşımında amaç yalnızca içerikleri engellemek değil; platform ekiplerinin hangi tür içeriklerin üretildiğini daha hızlı ve ölçülebilir biçimde anlamasına yardımcı olmak.

Platform yöneticileri için ne anlama geliyor?

PolicyLM-1.7B’nin açık ağırlıklarla sunulması, kuruluşların modeli kendi altyapılarında çalıştırabilmesine ve moderasyon politikalarını kendi ihtiyaçlarına göre uyarlayabilmesine imkân tanıyor. Bununla birlikte modelin duyurusu, belirli platformlarda ne kadar başarılı olduğu veya hangi hata oranlarına ulaştığı konusunda bir sonuç paylaşmıyor.

Bu nedenle modelin pratik değeri, hız ve esneklik hedeflerinin yanı sıra gerçek kullanım koşullarındaki performansıyla da ölçülecek. Yine de doğal dilde tanımlanan kuralları yeniden eğitim gerektirmeden uygulama fikri, içerik moderasyonunda yazılım ekipleriyle politika ekipleri arasındaki çalışma biçimini değiştirme potansiyeli taşıyor. Musubi, karar modeli yaklaşımını doğrudan moderasyon için geliştirerek bu teknolojinin sohbet yanıtlarından çok daha geniş görevlerde kullanılabileceğini göstermeyi amaçlıyor.