New York, TikTok’u çocuklara sahte güvenlik sunmakla suçladı

New York eyaleti, TikTok’un çocuklar ve gençler için sunduğu güvenlik araçlarından birini bazı kullanıcılarda gerçekte çalışmadığı hâlde aktifmiş gibi gösterdiğini öne sürdü. Eyaletin platforma karşı açtığı davada yer alan iddialara göre binlerce kullanıcı, öneri akışını yenilemeye yarayan “Algo Refresh” özelliğini kullandığını düşündü. Ancak deneye dahil edilen hesaplarda, özelliğin tam sürümünü kullanan diğer hesaplarda görülen değişiklikler meydana gelmedi.

Davada tartışılan özellik, kullanıcıların karşılarına çıkan içerikler üzerinde daha fazla kontrol sahibi olmasını amaçlıyor. Algo Refresh, öneri sistemini yenilemek ve kullanıcıların istemedikleri ya da potansiyel olarak zararlı içerikleri daha az görmesine yardımcı olmak üzere tasarlanmış bir araç olarak tanımlanıyor. New York’a göre test grubundaki kişiler, bu aracı etkinleştirdiklerine inanıyordu. Buna karşın öneri akışları büyük ölçüde aynı kalıyordu.

Güvenlik özelliği çocuk hesaplarında da test edildi

Dava dosyasındaki anlatıma göre deneylere yalnızca yetişkinler katılmadı. Güvenlik araçlarını kullanmayı seçen gençler ve çocuklar da test grupları arasında yer aldı. Bu durum, TikTok’un öneri sistemi ve güvenlik özellikleriyle ilgili deneylerinin yaşça küçük kullanıcıları da kapsadığı iddiasını gündeme getirdi.

Bir güvenlik aracının işlevini yerine getirmeden kullanılabilir görünmesi, çocuk kullanıcılar bakımından ayrı bir risk oluşturabilir. Kullanıcılar zararlı veya istemedikleri içerikleri azaltmak için bir ayarı açtıklarını düşünürken sistemin arka planda aynı şekilde çalışmaya devam etmesi, güvenlik tercihiyle platformun gerçek davranışı arasında fark yaratabilir. Kullanıcının aldığı karar, aracın gerçekten etkili olduğu varsayımına dayanırken öneri sistemi bu beklentiye uygun davranmamış olabilir.

New York’un davası, TikTok’un çocuklar üzerindeki etkisine ilişkin eyaletler tarafından açılan davalardan biri. Bu davalarda platformun çocukları ve gençleri daha uzun süre uygulamada tutacak şekilde tasarlandığı ve güvenlik önlemleri hakkında kullanıcıları yanılttığı ileri sürülüyor. Ancak New York’un iddiaları henüz mahkeme tarafından kesinleşmiş bir hüküm niteliği taşımıyor. Davanın ilerleyen aşamalarında tarafların sunduğu deliller ve platformun test süreçlerine ilişkin açıklamalar incelenecek.

TikTok, ürün testlerini savunuyor

TikTok, platformda ürün ve özellik testleri yapıldığını doğruladı. Şirket, bu çalışmaların yeni araçların kullanıcı deneyimini değerlendirmek ve gerçek kullanım koşullarında nasıl çalıştıklarını anlamak amacıyla gerçekleştirildiğini belirtti. TikTok’a göre testler, ürünlerde düzenli iyileştirmeler yapılmasına yardımcı oluyor.

Şirket, New York davasında yer alan tüm iddialara ilişkin ayrıntılı bir yanıt vermedi. Dava dosyasındaki tartışma da yalnızca Algo Refresh özelliğiyle sınırlı değil. Başka deneylerde bazı güvenlik araçlarının milyonlarca ABD kullanıcısından gizlendiği iddia ediliyor. Bu iddia, platformun bir özelliği herkese aynı şekilde sunup sunmadığı ve kullanıcıların hangi deney grubunda yer aldığını bilip bilmediği sorularını gündeme getiriyor.

Önceki iddialara göre bu deneylerden biri yaklaşık 15 milyon ABD kullanıcısını etkiledi. Bu grubun içinde bir gencin de bulunduğu ve söz konusu kişinin daha sonra intihar ederek hayatını kaybettiği ifade edildi. Dava kapsamında bu olayla platformdaki deney arasında nasıl bir ilişki bulunduğu ayrıca ele alınacak. Mevcut bilgiler, doğrudan bir nedensellik sonucuna varmak için yeterli değil.

Davanın merkezinde kullanıcıların bilgilendirilmesi var

New York’un suçlamaları, sosyal medya platformlarında güvenlik özelliklerinin yalnızca menüde yer almasının yeterli olup olmadığı sorusunu gündeme getiriyor. Bir aracın görünür biçimde sunulması ile gerçekten çalışması arasındaki fark, özellikle reşit olmayan kullanıcıların korunması bakımından kritik olabilir. Kullanıcıların bir test grubuna dahil edilmesi de tek başına tartışmanın tamamını açıklamıyor; asıl mesele, bu testlerin nasıl yürütüldüğü ve kullanıcıların süreç hakkında ne kadar bilgilendirildiği.

Davanın ilerleyen aşamalarında TikTok’un yaptığı testlerin kapsamı, Algo Refresh özelliğinin hangi hesaplarda nasıl çalıştığı ve öneri akışlarının ne ölçüde değiştiği daha ayrıntılı biçimde incelenecek. Mahkemenin değerlendirmesi, platformların güvenlik araçlarını tasarlarken ve test ederken çocuk kullanıcılar için hangi sorumlulukları taşıdığı konusunda da belirleyici olabilir.