Apple, Sahte Çıplak Görsel Üreten Uygulamaları Yasaklıyor

Apple, App Store’da yapay zekâ kullanarak sahte çıplak görüntüler üreten uygulamalara ve mağaza incelemesini atlatmak için işlevlerini gizleyen yazılımlara karşı kurallarını sertleştirdi. Güncellenen geliştirici ilkeleri, uygulamanın inceleme sırasında tanıtılan özellikleriyle kullanıcıların daha sonra eriştiği işlevlerin tutarlı olmasını gerektiriyor. Onay aldıktan sonra güncelleme veya sunucu tarafındaki değişikliklerle sakıncalı özellikler açan uygulamalar mağazadan kaldırılabilecek.

Düzenleme, yalnızca uygunsuz içerik sunduğunu açıkça belirten uygulamaları hedeflemiyor. Zararsız bir araç gibi görünüp farklı yeteneklerini inceleme ekibinden saklayan yazılımlar da kuralların kapsamına giriyor. Böylece uygulamaların ilk gönderilen sürümü kadar, sonradan eklenen veya uzaktan etkinleştirilen özellikleri de geliştiricilerin beyanlarıyla uyumlu olmak zorunda.

İnceleme sırasında gizlenen özellikler risk oluşturuyor

Bir uygulama mağazada basit bir ürün olarak tanıtılabilir, ardından bazı işlevleri uzaktan açılabilir ya da sonraki bir güncellemeyle eklenebilir. Apple’ın güncel ilkeleri, onay almak amacıyla bu tür özelliklerin inceleme ekibinden saklanmasını kabul etmiyor. Uygulamanın onaylanan sürümünde bulunmayan, belgelenmemiş yetenekler tespit edilirse yazılım App Store’dan çıkarılabilecek.

Bu yaklaşım, uygulama incelemesini yalnızca mağazaya gönderilen dosyanın kontrolü olmaktan çıkarıyor. Geliştiricilerin ürünün çalışma biçimini ve sonradan devreye alınabilecek işlevlerini de kurallara uygun tutması gerekiyor. Özellikle sunucu üzerinden özellik açabilen uygulamalarda, ilk onaydan sonra yapılan değişikliklerin de denetlenebilir olması önem taşıyor.

Yapay zekâ araçları metin ve görsellerden yeni içerikler oluşturabiliyor. Bu imkânların kötüye kullanılması, kişilerin rızası olmadan cinsel içerikli sahte görüntüler hazırlanması gibi ciddi zararlara neden olabiliyor. Apple’ın kuralları, bu tür materyalleri üreten uygulamaların yanında kullanıcıların oluşturduğu içerikleri yayımlayabildiği veya paylaşabildiği servislerin sorumluluğuna da işaret ediyor.

İçerik denetimi ve bildirim araçları

Kullanıcıların içerik yükleyebildiği ya da yapay zekâ özellikleriyle içerik oluşturabildiği hizmetlerin, sakıncalı materyalleri tespit edip filtreleyecek mekanizmalar sunması bekleniyor. Apple, kullanıcıların rahatsız edici içerikleri bildirebilmesini ve taciz amacıyla kullanılan hesapları engelleyebilmesini sağlayan araçları da geliştiricilerin sorumlulukları arasında sayıyor.

Bu koşullar, moderasyon yükünün yalnızca App Store inceleme ekibine bırakılmadığı anlamına geliyor. Uygulamayı işleten geliştiricilerin de kendi hizmetlerinde yayımlanan içerikler için önlem alması, bildirimleri değerlendirmesi ve kullanıcıların güvenliğini destekleyen işlevler sağlaması gerekiyor. Yapay zekâ özellikleri sunan bir ürün için içerik filtreleri ve hesap engelleme seçenekleri, yalnızca ek araçlar değil, hizmetin güvenli biçimde çalışmasının parçaları hâline geliyor.

Apple, hukuki şartlar bölümündeki düzenlemelerde insan ticaretini veya çocukların istismarını teşvik eden uygulamalara yönelik yasakları da pekiştirdi. Bu maddeler, App Store’da yayımlanabilecek ürünlere ilişkin sınırları ve geliştiricilerin uyması gereken yükümlülükleri açıklığa kavuşturuyor.

Apple’ın denetim verileri

Şirketin paylaştığı verilere göre Apple, geçen yılki incelemelerinde dolandırıcılık ve suistimal gerekçeleriyle 150.000’den fazla uygulamanın kullanıcılara ulaşmasını önledi. Aynı dönemde 193.000 geliştirici hesabı da silindi. Bu veriler, kuralların yalnızca yazılı politikalardan ibaret olmadığını; Apple’ın uygulama ve geliştirici hesapları üzerinde yaptırım uyguladığını gösteriyor.

Geliştiriciler için temel sonuç, uygulamanın mağazaya sunulurken açıklanan özellikleriyle gerçek kullanım biçimi arasındaki uyumun daha yakından önem kazanması. Gizli işlevlerin sonradan etkinleştirilmesi uygulamanın kaldırılmasına yol açabilir. Kullanıcı içeriklerine ev sahipliği yapan servislerin ise içerik filtreleme, bildirim ve hesap engelleme gibi güvenlik araçlarını hizmetlerine dâhil etmesi bekleniyor.

Yapay zekâ ile içerik üretme imkânları yaygınlaştıkça, uygulama mağazalarının değerlendirdiği konu yalnızca bir özelliğin teknik olarak çalışıp çalışmadığı değil; bu özelliğin nasıl kullanıldığı ve kötüye kullanımı önlemek için ne tür önlemler bulunduğu oluyor. Apple’ın güncellediği kurallar, geliştiricilerin hem inceleme sürecinde doğru bilgi vermesini hem de uygulama yayımlandıktan sonra kullanıcı içeriklerini denetlemesini şart koşuyor.