Yapay zekâ hatası avukata 5 bin dolarlık ceza getirdi

New Mexico Yüksek Mahkemesi, bir cinayet mahkûmiyetine itiraz edilen temyiz dosyasında yapay zekâ tarafından üretilen yanlış bilgilerin kullanılmasına ilişkin karar verdi. Mahkeme, avukat Stephen Aarons’a 5 bin dolar para cezası uyguladı ve avukatı mahkemeye saygısızlık kapsamında sorumlu tuttu.

Dosyadaki sorun, yapay zekâdan destek alınmasıyla sınırlı kalmadı. Aarons’ın mahkemeye sunduğu temyiz başvurusunda, gerçekte bulunmayan tanıklara ve var olmayan polis ifadelerine yer verildi. Başvuruda kullanılan bazı hukuki dayanakların ve olgusal iddiaların da gerçek kayıtlarla karşılaştırılmadığı belirlendi.

Karar, hukuk alanında yapay zekâ kullanan profesyonellerin ortaya çıkan metni doğrudan mahkemeye sunamayacağını bir kez daha ortaya koydu. Otomatik olarak hazırlanan bir metin, içerdiği kişi, olay, belge veya mahkeme kararlarının gerçek olduğu anlamına gelmiyor.

Temyiz dosyasında uydurma bilgiler yer aldı

Stephen Aarons, bir cinayet mahkûmiyetine karşı yapılan temyiz başvurusunda müvekkilini temsil ediyordu. Hazırlanan başvuruda davanın temel unsurlarından biri olan tanıklıklar ve polis ifadeleriyle ilgili, gerçek dosya kayıtlarında bulunmayan bilgiler kullanıldı.

New Mexico Yüksek Mahkemesi, çarşamba günü yayımlanan dosyada avukatın yapay zekâ tarafından oluşturulan metindeki bilgileri ve hukuki kaynakları kontrol etmediğine hükmetti. Mahkemenin değerlendirmesine göre bir avukat, mahkemeye sunduğu belgelerdeki iddiaların doğruluğundan sorumlu. Metnin bir yapay zekâ aracı tarafından hazırlanmış olması bu sorumluluğu ortadan kaldırmıyor.

Bu tür hatalar, yalnızca yanlış bir isim veya eksik bir ayrıntıdan ibaret değil. Gerçekte yaşamamış ya da dosyada bulunmayan bir tanığın varmış gibi gösterilmesi, savunmanın dayandığı olay örgüsünü doğrudan etkileyebiliyor. Aynı durum, mahkeme kayıtlarında bulunmayan polis ifadeleri için de geçerli.

Ceza, aracın kullanımına değil denetimsizliğe dayandı

Mahkemenin verdiği 5 bin dolarlık ceza, avukatın yapay zekâdan yararlanmış olmasından kaynaklanmıyor. Yaptırımın temelinde, yapay zekânın ürettiği bilgilerin kontrol edilmeden hukuki başvuruda kullanılması bulunuyor.

Aarons’ın başvurusunda yer alan hukuki otoritelerin de doğrulanmadığı belirtildi. Bu durum, yapay zekâ sistemlerinin ikna edici görünen ancak gerçekte var olmayan mahkeme kararları, kaynaklar veya olaylar üretebilmesiyle bağlantılı. Bir metnin dili tutarlı ve profesyonel görünse bile içerdiği bilgilerin gerçekliği ayrıca incelenmek zorunda.

Mahkeme kararı, sorumluluğun kullanılan yazılımda değil, başvuruyu hazırlayıp sunan kişide kaldığını gösteriyor. Avukatlar, otomatik araçlardan aldıkları taslakları gerçek dava dosyaları, resmi kayıtlar ve doğrulanabilir hukuki kaynaklarla karşılaştırmak zorunda. Son denetim yapılmadan gönderilen bir belge, hatanın kaynağı yapay zekâ olsa bile profesyonel sonuçlar doğurabiliyor.

Hukuki belgelerde küçük hata, büyük sonuç yaratabilir

Yapay zekânın ürettiği yanlış bir bilgi, günlük bir içerikte düzeltilebilir bir hata olarak kalabilir. Ancak mahkeme dosyasındaki yanlış tanık, uydurma ifade veya doğrulanmamış karar çok daha ağır sonuçlar doğurabilir. Hukuki başvurular kişilerin özgürlüğünü, mahkûmiyet kararlarını ve yargılama süreçlerini etkilediği için doğrulama yükümlülüğü kritik önem taşıyor.

New Mexico’daki dosya, yapay zekânın hukuk alanında tamamen kullanılamayacağını göstermiyor. Araçlar taslak hazırlamak, metinleri düzenlemek veya araştırma sürecine yardımcı olmak için kullanılabilir. Buna karşılık ortaya çıkan metin, mahkemeye sunulmadan önce dosyadaki gerçeklerle ve resmi hukuki kaynaklarla ayrı ayrı kontrol edilmeli.

Özellikle tanık beyanları, polis raporları, dava tarihleri ve mahkeme kararları gibi somut unsurların otomatik sistemlere bırakılmaması gerekiyor. Bir avukatın imzasıyla mahkemeye giren belgenin doğruluğu için nihai sorumluluk yine avukata ait.

Stephen Aarons hakkında verilen 5 bin dolarlık ceza ve mahkemeye saygısızlık kararı, yapay zekâ destekli hukuki çalışmalarda insan denetiminin zorunlu olduğunu gösteren somut bir örnek oldu. Mahkeme, kullanılan aracın değil, doğrulanmadan sunulan içeriğin yaptırıma konu edildiğini ortaya koydu.