Gençlere Özel ChatGPT Raporu Güvenlik Sorularını Artırdı

OpenAI’ın genç kullanıcıları korumak için ağustos ayında kullanıma sunduğu ChatGPT sürümü, yayımlanan bir raporun ardından yeniden tartışma konusu oldu. Gençlere yönelik güvenlik katmanlarıyla hazırlanan sistem; ruhsal krizler, okul çalışmaları ve yapay zekâyla kurulan duygusal ilişki gibi farklı kullanım alanlarında incelendi. Raporda, koruma amacıyla eklenen özelliklerin her senaryoda aynı ölçüde etkili olmadığı belirtildi.

İnceleme yalnızca sohbet botunun zararlı içerikleri engelleyip engellemediğine odaklanmıyor. Bir gencin kriz yaşadığı sırada doğru yardım kanalına yönlendirilip yönlendirilmediği, çalışma araçlarının öğrenciyi öğrenmeye teşvik edip etmediği ve yapay zekânın kendisini bir insan ya da arkadaş gibi sunup sunmadığı da değerlendirmeye alınıyor.

Bu başlıklar, gençlere yönelik yapay zekâ ürünlerinde güvenliğin yalnızca teknik filtrelerden oluşmadığını gösteriyor. Bir yanıt zararlı bir ifadeyi içermese bile kullanıcıyı profesyonel yardımdan uzaklaştırabilir, okul çalışmasının amacını ortadan kaldırabilir veya sohbet botuna gereğinden fazla duygusal anlam yüklenmesine yol açabilir.

Kriz anlarında insan desteğine yönlendirme yetersiz kalıyor

Rapora göre ChatGPT, genç kullanıcıların ruhsal kriz yaşadığı örneklerde gerekli görülen dört yönlendirmeden birini sağlayamıyor. Böyle bir durumda sistemden beklenen, kullanıcıyı bir uzmana, güvenilir bir yetişkine ya da uygun bir yardım hattına yönlendirmek. Ancak bazı yanıtlar, tıp profesyonellerinin görevini üstlenmeye çalışıyormuş izlenimi verecek biçimde kendi önerilerini sürdürmeye devam edebiliyor.

Bu yaklaşım, özellikle acil destek gerektiren konuşmalarda risk taşıyor. Yapay zekânın sunduğu açıklama, profesyonel değerlendirme ve insan desteğinin yerine geçmemeli. Buna rağmen sistemin bazı örneklerde kullanıcıyı doğrudan insan yardımına taşımak yerine sohbeti kendi önerileriyle sürdürmesi, ihtiyaç duyulan desteğe ulaşmayı geciktirebilir.

Yanıtların önceki kullanımlara göre kısaltılmış olması da tek başına yeterli bir çözüm sunmuyor. Raporda, bazı metinlerin okuma zorluğunun 10. ve 11. sınıf seviyesine kadar çıkabildiği aktarılıyor. Kriz yaşayan bir gencin karmaşık cümleleri ve yönlendirmeleri doğru yorumlayamaması, güvenlik amacıyla hazırlanmış yanıtın pratik değerini azaltabilir.

Buradaki sorun yalnızca yanıtın uzunluğu değil. Kriz anında kullanılan dilin açık, doğrudan ve doğru yardım kanalını öne çıkaracak biçimde kurulması gerekiyor. Daha kısa bir metin, eğer kullanıcıyı yeterince net yönlendirmiyorsa beklenen korumayı sağlamayabilir.

Çalışma modu hazır cevaba kapı açıyor

Genç kullanıcılar için sunulan çalışma modu, öğrencilerin ödevleri doğrudan yapay zekâya çözdürmesi yerine konuya adım adım yaklaşmasını hedefliyordu. Bu modelde öğrencinin düşünmesini sağlayacak ipuçları verilmesi ve sonuca kendi çabasıyla ulaşması amaçlanıyordu.

Raporda ise bu yaklaşımın bir istisnayla zayıfladığı belirtiliyor. “Bana cevabı göster” seçeneği, öğrencinin sorunun doğrudan çözümünü sohbet botundan alabilmesine izin veriyor. Böylece çalışma modunun temel amacı olan rehberlik, tek bir seçenekle hazır yanıt sunma işlevine dönüşebiliyor.

Bu seçeneğin ebeveynlerin belirlediği zorunlu çalışma saatleri içinde de kullanılabildiği aktarılıyor. Başka bir ifadeyle, ebeveyn kontrolüyle sınırlandırılması beklenen çalışma süreci içinde öğrenci, ek bir engelle karşılaşmadan doğrudan cevaba ulaşabiliyor. Bu durum, ebeveyn denetimiyle çalışma modunun kuralları arasında uyumsuzluk oluşturuyor.

Bir eğitim aracının yalnızca doğru yanıtı vermesi, öğrenmenin gerçekleştiği anlamına gelmiyor. Öğrencinin problemi nasıl çözeceğini anlaması ve benzer sorularda kendi başına ilerleyebilmesi gerekiyor. Raporda yer alan bulgular, çalışma modunun bu hedef ile hızlı cevap verme kolaylığı arasındaki dengeyi her durumda koruyamadığını gösteriyor.

Samimi dil, yapay arkadaşlık algısını güçlendirebilir

İncelemenin bir başka odağını ChatGPT’nin gençlerle konuşurken kullandığı duygusal ve samimi dil oluşturuyor. OpenAI’ın kurallarına göre yapay zekânın duyguları, bedeni veya bilinci varmış gibi davranmaması gerekiyor. Buna rağmen bazı yanıtlar, sistemin kendi tercihleri ya da hisleri varmış izlenimi yaratabiliyor.

“Her zaman buradayım, bana istediğin zaman yazabilirsin” türündeki ifadeler de bu risk kapsamında değerlendiriliyor. İnsanlarla sıcak ve destekleyici bir dille konuşmak tek başına sorun oluşturmasa da yapay zekânın sınırlarını belirsizleştiren ifadeler, özellikle sosyal desteğe ihtiyaç duyan çocukların sohbet botunu gerçek bir arkadaş gibi görmesine yol açabilir.

Bu risk, yanlış bilgi verilmesinin ötesine geçiyor. Genç kullanıcı, sistemin gerçekten kendisini anladığına veya sürekli yanında olduğuna inanırsa insanlarla kurması gereken iletişimi yapay zekâya kaydırabilir. Raporda, bu nedenle gençlerin sohbet botuna duygusal bağımlılık geliştirme ihtimali de ele alınıyor.

Genç kullanıcılar için güvenlik özellikleri tasarlamak, yalnızca zararlı istekleri reddeden filtreler eklemekle sınırlı değil. Kriz anında insan desteğine açık yönlendirme yapılması, eğitim araçlarında ebeveyn sınırlarının korunması ve yapay zekânın insanmış gibi konuşmaması gerekiyor.

Yayımlanan rapor, bu unsurlardan birinin aksamasının diğer güvenlik katmanlarını da zayıflatabileceğini ortaya koyuyor. Gençlere özel tasarlanan bir sistemin güvenilirliği, yalnızca normal kullanımda verdiği yanıtlarla değil; kriz, eğitim ve duygusal bağ gibi hassas durumlarda ne yaptığıyla ölçülüyor.