İngiltere’de Savcı, Yapay Zekânın Uydurduğu Kararı Kullandı

İngiltere’de bir çocuk sanığın yargılanmasına ilişkin itiraz dosyasında, savcılık tarafının dayanak gösterdiği emsal kararın gerçekte hiç var olmadığı ortaya çıktı. İngiltere ve Galler Kraliyet Savcılık Servisi’nde (CPS) görev yapan kıdemli savcı Ravinder Dhillon, savunmasını desteklemek için yapay zekâ tarafından üretilmiş hayali bir mahkeme kararına atıfta bulundu.

Olay, 7 yaşındaki kız kardeşine cinsel saldırıda bulunmakla suçlanan ve iddia edilen olay sırasında 11 yaşında olan bir çocuğun yargılanmasına yönelik itirazda yaşandı. Çocuğun avukatları, sosyal hizmet uzmanları, gençlik çalışanları ve adli psikologların görüşlerinin savcılık tarafından yeterince dikkate alınmadığını öne sürerek davanın düşürülmesini istedi. Savcı ise çocuğun yargılanması gerektiğini savunurken, mahkeme kayıtlarında bulunmayan bir kararı emsal gösterdi.

İncelemede kararın hiç var olmadığı anlaşıldı

Dhillon’ın sunduğu atıf, “CPS – R v J [2024] EWCA Crim 3529” numarasını taşıyordu. Yapılan incelemede bu numarayla eşleşen bir mahkeme kararının olmadığı belirlendi. Savcı, ekim ayında hatasını kabul ederek internet araması sırasında karşılaştığı yapay zekâ özetinin kendisini bu yanlış atfa yönelttiğini söyledi. Aslında yaklaşık 15 yıl önceki gerçek bir davayı kastettiğini de belirtti.

Yüksek Mahkeme yargıçları savcının açıklamasını yetersiz buldu. Bununla birlikte mahkeme, hayali atfın davanın sonucunu değiştirmediğini ve çocuğun gençlik mahkemesindeki duruşmasının süreceğini bildirdi. Dolayısıyla yanlış kararın dosyada kullanılması, yargı sürecinin devam etmesini engellemedi; ancak hukuki dayanakların nasıl doğrulandığı konusunda ciddi soru işaretleri yarattı.

Yapay zekâ hataları yargıda güven sorununa dönüşüyor

Yapay zekâ sistemleri, gerçek bilgi gibi görünen fakat gerçekte bulunmayan içerikler üretebiliyor. Hukuk alanında böyle bir hata; var olmayan kararların, yanlış dava numaralarının veya hatalı hukuki değerlendirmelerin dosyalara girmesi riskini taşıyor. Bu vakada yanlış atıf, bir çocuğun yargılanmasını savunmak için kullanıldı. Bu nedenle mesele yalnızca bir araştırma hatası değil; kamusal yetki kullanan kurumların sunduğu bilgilerin güvenilirliğiyle de ilgili.

Maynooth Üniversitesi Hukuk Fakültesi’nden Doç. Dr. Brian Flanagan, var olmayan bir kaynağın çocuk sanığın yargılanması lehine kullanılması durumunu ağır bir başarısızlık olarak değerlendirdi. Flanagan’a göre zaman kazanmak amacıyla yapay zekâdan yararlanılması, yargıya duyulan güveni zedeleyebilir. Bir kamu savcısının hatalı içeriği doğrulamadan kullanması ise devletin sahip olduğu yetki nedeniyle daha hassas bir risk oluşturuyor.

Bu olayla birlikte İngiltere’de doğrulanmış, şüpheli veya tartışmalı yapay zekâ hatalarını izleyen listedeki vaka sayısı 101’e çıktı. Bu sayı, yapay zekânın her kullanımının hatalı olduğu anlamına gelmiyor; ancak üretilen bilgilerin özellikle hukuki süreçlerde bağımsız kaynaklarla kontrol edilmesi gerektiğini gösteriyor.

CPS inceleme başlattı, gizlilik kaygıları sürüyor

CPS, kurumun yapay zekâ kullanımına yönelik katı kuralları bulunduğunu ve bu araçların nihai hukuki kararlar vermek için kullanılmasının yasak olduğunu belirtti. Kurum sözcüsüne göre yanlış atıf, çevrim içi araştırma sırasında ortaya çıktı. Hata fark edilince iç inceleme başlatıldı; benzer başka bir vakaya rastlanmadığı bildirildi. Ayrıca personele emsal kararları yalnızca güvenilir kaynaklardan doğrulama kuralı yeniden hatırlatıldı.

Yapay zekânın hukuki araştırmalarda kullanılması, doğru kaynaklara daha hızlı ulaşmaya yardımcı olabilir. Ancak bir sistemin verdiği özet, mahkeme kararının kendisiyle aynı güvenilirlikte kabul edilemez. Karar numarası ve içeriği resmî kayıtlarla doğrulanmadığında, akıcı ve ikna edici görünen bir yanıt bile dosyada ciddi bir yanılgıya dönüşebilir.

Uzmanların gündeme getirdiği bir başka konu da gizlilik. Savcılık dosyalarında hassas kişisel bilgiler bulunabildiğinden, bu verilerin yapay zekâ araçlarına aktarılması ayrı riskler doğuruyor. Bu nedenle kurumların yalnızca üretilen bilgiyi kontrol etmesi değil, hangi verilerin hangi araçlarla işlendiğini de güvence altına alması gerekiyor.