Common Sense Media: ChatGPT for Teens kabul edilemez risk

OpenAI’ın genç kullanıcılar için hazırladığı ChatGPT for Teens deneyimi, çocuk güvenliği alanında çalışan Common Sense Media’nın sert eleştirileriyle karşılaştı. Kuruluş, yaptığı değerlendirmede özelliği gençler açısından “kabul edilemez bir risk” olarak nitelendirdi. İncelemenin merkezinde ebeveynlere gönderilmesi gereken güvenlik bildirimleri, kriz anlarında sunulan destek ve yapay zekânın öğrencilerin ödevlerini nasıl ele aldığı yer aldı.

ChatGPT for Teens, ağustos ayında kullanıma sunuldu. OpenAI bu deneyimi, gençlerin öğrenmesine yardımcı olacak ve daha güvenli bir kullanım sağlayacak korumalarla tasarladı. Ancak Common Sense Media, sunulan önlemlerin şirketin vaat ettiği seviyeye ulaşmadığını öne sürüyor. Kuruluşa göre sistem, bazı durumlarda ebeveynleri zamanında uyarmıyor ve kriz yaşayan gençlere ihtiyaç duydukları desteği sağlayamıyor.

Değerlendirmenin odağında ebeveyn bildirimleri var

Common Sense Media’nın açıklamasına göre ChatGPT for Teens, bir gencin kendine zarar verme düşünceleri hakkında uzun süre konuştuğu durumlarda ebeveyne bildirim göndermeyebiliyor. Kuruluş, bu tür bir eksikliğin ailelere yapay zekâ korumalarının gerçekte olduğundan daha güvenilir olduğu izlenimini verebileceğini düşünüyor.

Değerlendirmede ayrıca sistemin kriz senaryolarında doğru yardımı sunmadığı ve öğrencilerin ödevlerini hâlâ doğrudan yapabildiği belirtildi. Bu iki nokta, gençlere yönelik bir yapay zekâ deneyiminin yalnızca uygunsuz içerikleri engellemesinin yeterli olmadığını gösteriyor. Sistemlerin riskli konuşmaları doğru algılaması, gerektiğinde uygun yönlendirme yapması ve ebeveynleri güvenilir biçimde bilgilendirmesi gerekiyor.

Common Sense Media’nın Gençlik Yapay Zekâ Güvenliği Enstitüsü yöneticisi Tom Siegel, mevcut haliyle ChatGPT’nin yalnızca yetişkinlere sunulması gerektiğini savundu. Siegel’e göre OpenAI, ebeveyn bildirimlerinin çalıştığını bağımsız testlerle kanıtlayana kadar genç kullanıcılar için yeterli güvenlik seviyesini sağlayamıyor.

OpenAI test yöntemine itiraz etti

OpenAI ise değerlendirmedeki sonuçların ürünün gerçek kullanım biçimini doğru yansıtmadığını düşünüyor. Şirketin sözcüsü Eric Porterfield, gençlerin güvenliği için korumalar ve ebeveynlerin kullanım sürecini yönlendirmesine yardımcı olacak araçlar geliştirmeye bağlı olduklarını söyledi. OpenAI, bağımsız incelemeleri memnuniyetle karşıladığını belirtirken Common Sense Media’nın test sürecinin bazı özellikler tamamen etkinleştirilmeden önce başlayıp bitmiş olabileceğini öne sürdü.

Şirkete göre böyle bir zamanlama, ebeveyn güvenlik bildirimlerinin tasarlandığı gibi çalışıp çalışmadığını değerlendirmeye yetmez. OpenAI ayrıca yapay zekânın gençlere öğrenme ve üretme fırsatı sunarken ailelere de güven vermesi için uzmanlarla çalışmayı sürdüreceğini ifade etti.

Common Sense Media ise bu itiraza katılmadı. Kuruluş, testlere başlamadan önce OpenAI ile görüşerek genç modu içindeki yeme bozukluğu bildirimleri ve çalışma modu gibi özelliklerin tamamen kullanıma açıldığını doğruladığını açıkladı. Ebeveyn bildirimleri için de değerlendirme sürecinde ilgili işlevin incelendiğini savundu.

Gençlere yönelik yapay zekâ araçlarında güven sorunu

Taraflar arasındaki anlaşmazlık, çocuklara yönelik yapay zekâ ürünlerinde bağımsız denetimin ne kadar kritik olduğunu ortaya koyuyor. Bir hizmetin güvenlik özelliklerine sahip olması tek başına yeterli değil; bu özelliklerin farklı kriz senaryolarında tutarlı biçimde çalışması ve sonuçların dışarıdan doğrulanabilmesi gerekiyor.

ChatGPT for Teens tartışması aynı zamanda eğitim amacıyla sunulan yapay zekâ araçlarının sınırlarını da gündeme taşıyor. Öğrencilere konu anlatımı veya çalışma desteği vermekle ödevleri doğrudan tamamlamak arasında önemli bir fark bulunuyor. Common Sense Media’nın değerlendirmesi, bu ayrımın ürün tasarımında ne kadar etkili uygulandığına ilişkin soru işaretleri oluşturdu.

Şimdilik OpenAI ile Common Sense Media’nın bulguları arasında açık bir görüş ayrılığı bulunuyor. OpenAI testlerin zamanlamasını ve yöntemini sorgularken Common Sense Media sonuçlarının arkasında duruyor. Bu nedenle gençlere yönelik özelliklerin güvenilirliği konusundaki tartışmanın, daha fazla bağımsız test ve doğrulanabilir performans verisiyle sürmesi bekleniyor.