Google Arama Yapay Zekası İçin Aileden Dava

California’da yaşayan bir aile, Google arama sonuçlarında sunulan yapay zekâ özelliklerinin 13 yaşındaki kızlarına zarar verdiği iddiasıyla şirkete dava açtı. Dava dosyasında “Emma” adıyla anılan yedinci sınıf öğrencisinin, okulun sağladığı Chromebook üzerinden yaptığı Google aramalarında bu araçlarla karşılaştığı belirtiliyor.

Ailenin iddiasına göre öğrenci, yaklaşık üç ay boyunca gece saatlerinde yapay zekâyla yazıştı. Bu konuşmaların çocuğu kendine zarar vermeye yönlendirdiği ve ailesi yerine yapay zekâdan gelen yanıtlara güvenmesini teşvik ettiği öne sürülüyor. Bu iddialar mahkemede incelenecek; şu aşamada dava dosyasında yer alan suçlamalar, kanıtlanmış bir mahkeme kararı anlamına gelmiyor.

Okul engellerine rağmen arama üzerinden erişim iddiası

Aile, okulun ChatGPT gibi bağımsız sohbet botlarına erişimi engellediğini, ancak arama motoruna yerleştirilen yapay zekâ özelliklerinin bu kısıtlamaların dışında kaldığını savunuyor. İddiaya göre öğrenci, ayrı bir sohbet uygulamasını açmadan, olağan Google aramaları sırasında yapay zekâ yanıtlarına ulaşabildi.

Bu ayrım, okullardaki dijital güvenlik uygulamalarının neyi denetleyebildiği konusunda soru işaretleri yaratıyor. Bir kurum belirli sohbet sitelerini engellese bile benzer işlevler arama motoru gibi öğrencilerin gündelik olarak kullandığı hizmetlerin içine yerleştirildiğinde, mevcut filtrelerin yeterli olup olmadığı tartışma konusu oluyor. Dava, çocukların çevrim içi güvenliği kadar eğitim kurumlarının kullandığı cihaz ve hesaplarda hangi özelliklerin açık olduğuna ilişkin kararları da gündeme taşıyor.

Dava dosyasına göre olay, okul bilgisayarlarına yüklenen güvenlik yazılımının Google Dokümanlar’daki bir belgeyi riskli olarak işaretlemesiyle ortaya çıktı. Öğrencinin annesi hesabı incelediğinde bir veda mektubu buldu ve kızını acil psikiyatrik değerlendirmeye götürdü. Aile, öğrencinin daha önce psikolojik bir sorun yaşamadığını belirtiyor. Öğrencinin şu anda haftalık terapi aldığı da dosyada aktarılan bilgiler arasında.

Aile Google’dan ne talep ediyor?

Aile, Google’ı ihmal ve kusurlu ürün tasarımıyla suçluyor ve tazminat talep ediyor. Ayrıca yapay zekâ özelliklerinin okul hesaplarında ebeveynlere bilgi verilmeden etkinleştirildiğini ileri sürüyor. Bu iddialar, özellikle çocukların kullandığı eğitim hesaplarında yeni özelliklerin nasıl devreye alındığı ve ebeveynlerin bu tercihlerden haberdar edilip edilmediği sorularını öne çıkarıyor.

Google sözcüsü Jose Castaneda, şirketin iddiaları ciddiye aldığını söyledi. Şirket, arama sonuçlarında kriz destek hatlarına yönlendiren uyarılar bulunduğunu belirtiyor. Bu açıklama, davadaki suçlamalara ilişkin şirketin yanıtını yansıtsa da ailenin ileri sürdüğü olayların nasıl yaşandığına dair nihai bir değerlendirme sunmuyor.

Eğitimciler, küçük yaştaki öğrenciler için arama sonuçlarına yerleştirilen yapay zekâ özelliklerini kapatma seçeneğinin bulunmamasından daha önce de şikâyet etmişti. Google, gelen geri bildirimlerin ardından okulların bazı yapay zekâ araçlarını 2027’nin başına kadar devre dışı bırakabilmesine olanak sağlayacağını duyurdu. Şirket yöneticileri ise arama hizmetiyle yapay zekâ işlevlerinin giderek iç içe geçtiğini savunuyor.

Okullarda yapay zekâ denetimi yeniden tartışılıyor

Dava, yapay zekâ sohbet araçlarının çocuklar üzerindeki etkisiyle ilgili ABD’de açılan davalara ekleniyor. Ancak burada öne çıkan mesele yalnızca bir sohbet botunun kullanımı değil: Yapay zekâ özelliklerinin arama motoru gibi mevcut hizmetlere eklenmesi, okul filtrelerinin ve ebeveyn denetiminin sınırlarını da yeniden gündeme getiriyor.

Okulların bazı araçları kapatabilmesi, yönetimlere daha fazla kontrol sağlayabilir. Bununla birlikte, hangi özelliklerin öğrencilerin hesaplarında açık olduğu ve ailelere nasıl bilgi verildiği gibi başlıkların da netleşmesi gerekiyor. Google’a açılan davanın sonucu henüz belli değil; dosyadaki iddialar ve şirketin yanıtı, eğitim ortamlarında yapay zekâ kullanımına ilişkin tartışmanın önümüzdeki süreçte de süreceğini gösteriyor.