Apple, App Store kurallarını yapay zekâ için sıkılaştırdı

Apple, App Store’da yayınlanan uygulamalara yönelik inceleme kurallarını güncelledi. Şirketin değişiklikleri; kullanıcıların rızası olmadan mahrem görüntü üreten yapay zekâ araçlarını, inceleme sürecinde gerçek amacını gizleyen uygulamaları ve çocukların istismarını kolaylaştıran hizmetleri hedefliyor.

Güncellemeler, son aylarda App Store çevresinde yaşanan çeşitli tartışmaların ardından geldi. Özellikle yapay zekâ kullanarak kişilerin fotoğraflarını izinsiz biçimde çıplaklaştıran uygulamalar, platform güvenliğiyle ilgili endişeleri artırmıştı. Apple’ın yeni metni, geliştiricilerin yalnızca uygulamayı yayınlamakla yetinemeyeceğini; kullanıcı tarafından oluşturulan içeriklerde ortaya çıkabilecek ihlallere karşı uygun korumaları uygulaması gerektiğini açıkça belirtiyor.

Kullanıcı içerikleri için geliştirici sorumluluğu genişliyor

App Review Guidelines’ın 1.2 numaralı bölümü, kullanıcıların içerik oluşturabildiği, yükleyebildiği, paylaşabildiği veya başka yollarla katkı sunabildiği uygulamaları kapsıyor. Apple bu bölümde fikrî mülkiyet ihlallerinin yanı sıra rıza dışı mahrem görüntüleri ve anonim zorbalığı da özel riskler arasında sayıyor.

Yeni ifadeye göre gerekli güvenlik önlemlerini almayan ya da kendisine bildirilen ihlalleri gidermeyen geliştiriciler, Apple’ın Geliştirici Davranış Kuralları’nı ihlal etmiş kabul edilebilecek. Bu yaklaşım, uygulama mağazasındaki içeriklerin yalnızca ilk inceleme sırasında değil, yayın sonrasında da takip edilmesini geliştiricilerin sorumluluğuna bağlıyor.

Değişikliğin arka planında, App Store’da yapay zekâ destekli “nudify” uygulamalarının bulunmasıyla ilgili araştırmalar yer alıyor. Ocak ayında onlarca benzer uygulamanın mağazada listelendiği ortaya çıkarılmış, nisan ayında yapılan takip çalışmasında ise App Store arama önerileri ve reklamlarının bazı kullanıcıları bu uygulamalara yönlendirdiği belirtilmişti.

Temmuz ayında San Francisco yetkilileri, rıza dışı mahrem görüntü oluşturabilen sekiz uygulamanın kaldırılmasını istemişti. Aynı dönemde, basit oyun veya yardımcı araç gibi görünen bazı uygulamaların belirli bir ülkeden bağlanan kullanıcılara gizli bahis platformları sunduğu da ortaya çıkmıştı. Bu uygulamalar Brezilya dışındaki IP adreslerinde tanıtıldıkları gibi çalışırken, Brezilya IP adreslerinde farklı işlevler gösteriyordu.

Gizli özellik kullanan uygulamalara daha sert yaptırım

Apple, inceleme sırasında gerçek işlevini saklayan ve onay aldıktan sonra zararlı özelliklerini açığa çıkaran uygulamalara yönelik kuralları da netleştirdi. Yeni oluşturulan 2.5.19 numaralı bölüm, uygulamalarda gizli, pasif durumda bekleyen veya belgelenmemiş işlevlere izin vermiyor.

Şirket, uygulamanın sunduğu işlevlerin hem kullanıcılar hem de App Review ekibi tarafından anlaşılabilir olması gerektiğini söylüyor. Geliştiricilerin, uygulamanın ikili dosyasındaki işlevleri kod gizleme veya benzeri yöntemlerle saklamaya çalışması, uygulamanın App Store’dan kaldırılmasına ve geliştirici hesabının sonlandırılmasına yol açabilecek.

Gizli işlev yasağı daha önce 2.3.1 numaralı bölümde de yer alıyordu. Ancak yeni düzenleme, kod gizleme yöntemlerini doğrudan anarak yaptırım kapsamını daha anlaşılır hâle getiriyor. Böylece uygulamanın inceleme sırasında farklı, kullanıcıya sunulduktan sonra farklı davranması daha açık biçimde kural ihlali sayılacak.

Çocuk istismarı ve insan kaçakçılığı için alternatif dağıtım da kapatılacak

Apple, kuralların yasal düzenlemeleri ele alan 5. bölümünde insan kaçakçılığını veya çocukların istismarını kolaylaştıran uygulamalarla ilgili ifadeleri de güçlendirdi. Bu tür uygulamalar yalnızca App Store’dan kaldırılmayacak; alternatif uygulama dağıtım kanallarında da engellenecek.

Bu ifade, Apple’ın yaptırımı kendi mağazasıyla sınırlı tutmayacağını gösteriyor. Uygulama dağıtımının farklı kanallara açıldığı bir ortamda şirket, çocuk güvenliği ve ağır suçlarla bağlantılı hizmetlerin ekosistem içinde başka yollarla kullanıcıya ulaşmasını da önlemeyi amaçlıyor.

Kuralların güncellenmesi, yapay zekâ uygulamalarının sunduğu özellikler konusunda daha fazla şeffaflık gerektirecek. Özellikle fotoğraf ve video düzenleme araçları geliştiren şirketlerin, rıza dışı mahrem görüntü üretimini engelleyen korumaları uygulaması ve ürünün tüm işlevlerini inceleme sürecinde açıkça göstermesi gerekecek. Apple’ın yeni metni, kurallara uyulmaması hâlinde yalnızca tek bir uygulamanın değil, geliştirici hesabının da risk altında olabileceğini ortaya koyuyor.