ChatGPT’li dilekçe: Avukata 5 bin dolar ceza

Yeni Meksika Yüksek Mahkemesi, cinayet temyiz dosyasına ChatGPT’nin uydurduğu tanık ifadelerini koyan avukat Stephen Aarons’u 5 bin dolar para cezasına çarptırdı ve mahkemeyi aşağılama (contempt) kararı verdi. The Verge ile Reuters’ın aktardığına göre mahkeme, avukatın yapay zekâyla üretilmiş dilekçedeki olgusal iddiaları doğrulamamasını gerekçe gösterdi.

Olay, hukuk dünyasında bir süredir artan “AI halüsinasyonu” tartışmasını yeniden alevlendirdi. Bu kez sorun yalnızca uydurma içtihat numarası değildi: Cinayet dosyasında tamamen hayali tanıklar ve sahte polis ifadeleri vardı.

Mahkeme ne buldu?

Çarşamba günkü karara göre Aarons’un sunduğu dilekçe, “tamamen uydurulmuş tanıklardan sahte ifadeler” içeriyordu. Mahkeme ayrıca nişancının kıyafeti ve görünümü hakkında da yanlış, yapay zekâ kaynaklı anlatımlar tespit ettiğini belirtti. Justice C. Shannon Bacon, Ağustos’taki duruşmada Aarons’un ChatGPT kullandığını ve bunun “kurşun geçirmez bir özet” üreteceğini sandığını itiraf ettiğini hatırlattı.

Bacon’ın Reuters’ta yer alan sözleri sertti. Haberleri, radyoyu veya dünyada olup bitenleri takip edip etmediğini sordu; avukatların AI halüsinasyonuna güvenmesinin “her gün manşet” olduğunu vurguladı.

Santa Fe New Mexican ve Yahoo News’in aktardığı ek ayrıntılara göre mahkeme Aarons’u Las Cruces bölgesindeki cinayet temyizinden çıkardı, 30 gün içinde müvekkil koruma fonuna 5 bin dolar ödemesini istedi ve konuyu Disiplin Kurulu’na sevk etti. Aarons, 40 yılı aşkın deneyimli bir Santa Fe avukatı. ChatGPT’ye mahkeme tutanaklarını ve dosya belgelerini yüklediğini, aracın “sıfırdan uydurma tanık, ifade, alıntı ve merciler” üretebileceğini öngörmediğini yazdı.

Neden önemli?

Son yıllarda mahkemeler, uydurma içtihat atıfları yüzünden onlarca avukatı uyardı veya cezalandırdı. Bu dosya bir adım öteye gidiyor: Ceza temyizinde, olaya dair tanık anlatıları bile model tarafından üretilebiliyor. Guardian ve Channel News Asia’nın özetlediği gibi mahkeme paneli, Aarons’un müvekkiline karşı “yetersiz pişmanlık ve ilgi” gösterdiğini de kaydetti.

Aarons Reuters’a yaptığı açıklamada “dürüst bir hata” olduğunu, disiplin kurulunun bunu dikkate almasını umduğunu söyledi. Öte yandan mahkeme kaydı, doğrulanmamış AI çıktısının savunma hakkını fiilen sabote edebileceğini gösteriyor. Uydurma tanık anlatısı, temyiz heyetinin delil değerlendirmesini kirletebilir; bu da yalnızca meslek etiği değil, adil yargılanma meselesidir.

Hukukta AI kullanımına dair bağlam

• ABD federal mahkemelerinde AI kaynaklı uydurma atıflar için yaptırımlar artıyor; bazı bölgeler avukatların AI kullanımını belgede beyan etmesini istiyor.
• MyPillow davası gibi yüksek profilli dosyalarda da AI’nin yanlış alıntı ve sahte referans ürettiği için cezalar görüldü.
• Yeni Meksika örneği, “özet” diye sunulan çıktının olgu katmanına da sızabileceğini somutlaştırıyor.
• Mahkeme, Aarons’un Yüksek Mahkeme önünde görünmesini disiplin süreci bitene kadar kısıtladı; ek yaptırımlar Disiplin Kurulu’na kaldı.

Kullanıcı ve sektör için anlamı

Üretken yapay zekâ hukuki yazımda hız kazandırabilir; ama doğrulama olmadan hız, delil zincirini bozar. Bu karar, ChatGPT gibi araçların “araştırma asistanı” gibi kullanılabileceğini, nihai dosyada her cümlenin kaynak ve tutanakla eşleştirilmesi gerektiğini hatırlatıyor.

Hukuk teknolojisi ürünleri, stajyerler ve solo avukatlar için pratik çıkarım net: Modelin akıcı dil üretmesi, doğru tanık veya doğru içtihat ürettiği anlamına gelmez. Bir sonraki adımda disiplin kurulu süreci ve olası ek yaptırımlar izlenecek.