Meta, çocuk istismarına yönlendiren reklamları AI ile buluyor

Meta, çocukların cinsel istismarına ilişkin içeriklerle mücadele için Facebook ve Instagram’da kullandığı yapay zekâ araçlarını genişletiyor. Şirket, 2026’nın ilk yarısında iki platformda çocukların cinsel sömürüsüyle bağlantılı 33,2 milyon içerik hakkında işlem yaptığını açıkladı. Meta’nın sistemleri, bu içeriklerin yüzde 97’sinden fazlasını kullanıcılar bildirmeden önce tespit etti.

Yeni araçlar yalnızca doğrudan yasa dışı içerikleri aramıyor. Şirket, normal bir reklam gibi görünen ancak kullanıcıları platform dışındaki yasa dışı materyallere yönlendirebilecek reklamları ve hesapları da incelemeye başladı. Bu yaklaşım, reklamın kendi içeriğinin yanı sıra kullanıcıyı nereye gönderdiğini de güvenlik değerlendirmesine dahil ediyor.

Meta, reklamın gittiği adresi de analiz edecek

Meta, kötü niyetli kişilerin tespit edilmemek için yöntemlerini değiştirdiğini ve son dönemde “işaretleme” olarak tanımladığı bir taktikle karşılaştığını belirtiyor. Bu yöntemde reklam, ilk bakışta sıradan veya zararsız görünebiliyor. Ancak reklamın bağlantısı, kullanıcıyı çocukların cinsel istismarına ilişkin materyallerin bulunduğu ya da başka zararlı faaliyetlerin yürütüldüğü dış sitelere taşıyabiliyor.

Şirket bu nedenle reklam metnine, görseline veya hedeflemesine bakmakla yetinmeyecek. Reklamın yönlendirdiği adresi de analiz edecek. Kuralları ihlal eden internet siteleri ya da diğer hedefler engellenebilecek; bu bağlantıları kullanan hesaplar hakkında da işlem yapılabilecek.

Meta, bu amaçla yeni bir büyük dil modeli tabanlı sistem geliştirdi. Sistem, doğrudan yasa dışı materyal içermeyen fakat kullanıcıları bu tür içeriklere ulaştırabilecek reklamları belirlemeye çalışıyor. Şirket, kötü niyetli ağların davranışlarını daha iyi öğrendikçe tespit sürecine yeni sinyaller ekleyeceğini söylüyor.

Kaçırılan içerikler ve geri dönen hesaplar için ek kontroller

Platform, önceki güvenlik sistemlerinin gözden kaçırmış olabileceği çocuk istismarı içeriklerini bulmak için ek yapay zekâ taramaları da yürütüyor. Bu taramalar, mevcut yöntemlerin yanında çalışacak ve Meta’nın öğrendiği yeni davranış kalıplarını değerlendirecek.

Şirketin duyurduğu araçlardan biri de kendi güvenlik önlemlerini test eden “kırmızı takım” yapay zekâ ajanı. Bu ajan, kötü niyetli kişilerin platform korumalarını aşmak için kullanabileceği zayıflıkları arıyor. Meta’ya göre bu yöntem, yeni kötüye kullanım biçimleri yaygınlaşmadan önce tespit edilmelerine yardımcı olabilir.

Meta ayrıca daha önce kaldırılmış hesapların ardından yeni hesaplarla platforma dönen kişileri belirleme sistemlerini geliştiriyor. Bu kontrol, aynı kişilerin farklı hesaplar açarak daha önce uygulanan yaptırımları aşmasını zorlaştırmayı hedefliyor.

Çocuk güvenliği baskısı sürüyor

Yeni yapay zekâ özellikleri, Meta’nın çocukların platformlardaki güvenliği konusunda artan eleştiri ve hukuki baskıyla karşı karşıya olduğu bir dönemde geliyor. Şirket, sosyal medya hizmetlerinin genç kullanıcılar üzerindeki riskleri nedeniyle milletvekillerinin eleştirileriyle ve davalarla karşılaştı.

Meta, ağustos ayında ABD’deki 29 eyaletin dahil olduğu bir çocuk güvenliği davasını sonuçlandırmak için 18 milyar dolara kadar ödeme yapmayı kabul etti. Anlaşma, çocukların çevrim içi ortamda korunmasına ilişkin endişeleri ele alıyor.

Şirket yıl içinde çocuk güvenliğine yönelik başka özellikler de duyurdu. Meta AI için ebeveyn denetimleri, WhatsApp’ta ergenlik öncesi kullanıcı hesapları ve çocukların Instagram’da kendine zarar verme içerikleri araması durumunda ebeveynlere gönderilen uyarılar bunlar arasında yer alıyor.

Eylül ayında WhatsApp, ebeveynlerin çocuklarının Kanallar özelliğini nasıl kullanacağını sınırlamasına, durum güncellemelerini kimlerin görebileceğini belirlemesine ve çocuklarını gruplara kimlerin ekleyebileceğini kontrol etmesine izin veren seçenekler sundu. Ebeveynler ayrıca belirli grup etkinlikleri hakkında bildirim almayı seçebiliyor.

Meta’nın son hamlesi, çocuk güvenliğinde yalnızca platform içinde yayınlanan içerikleri kaldırmanın yeterli olmadığını gösteriyor. Reklamların ve hesapların platform dışındaki bağlantılarla birlikte incelenmesi, kötü niyetli kişilerin kullandığı daha örtülü yönlendirmeleri hedefliyor.