Yapay zekâ hatası, ABD’nin askerî operasyonunu durdurdu

ABD ordusunda kullanılan bir yapay zekâ sohbet botunun ürettiği hatalı analiz, Çin’e ait bir gemiye karşı planlanan silahlı operasyonun son anda iptal edilmesine yol açtı. Geminin nükleer silah programında kullanılabilecek parçalar taşıdığı yönündeki değerlendirme, askerî uçaklar görev için havalandıktan sonra yanlış çıktı.

Hatanın fark edilmesiyle operasyon durduruldu. Böylece yapay zekâ tarafından hazırlanan ve yeterince doğrulanmayan bir istihbarat değerlendirmesinin uluslararası gerilimi artırabilecek bir müdahaleye dönüşmesi engellendi. Olay, yapay zekânın askerî karar zincirine dahil edilmesinin yalnızca hız avantajı sağlamadığını, aynı zamanda ciddi denetim gerektirdiğini de gösteriyor.

Yanlış sonuç hangi süreçte ortaya çıktı?

Hatalı istihbarat, İran’la yaşanan savaş sırasında ABD Özel Operasyonlar Komutanlığı bünyesinde görev yapan bir analist tarafından hazırlandı. Analist, açık kaynaklardan topladığı bilgileri gizli sinyal istihbaratıyla bir araya getirerek bir değerlendirme oluşturmak istedi.

Bu amaçla bir yapay zekâ sohbet botundan yararlanıldı. Ancak sistem, Çin’e ait geminin kargo manifestosunu doğru yorumlayamadı. Analiz sonucunda gemide, nükleer silah programında kullanılabileceği düşünülen parçaların bulunduğu yönünde gerçeği yansıtmayan bir değerlendirme oluştu.

Analist, yapay zekâ aracını ikinci kez kullanarak ilk değerlendirmedeki bulguları resmî bir istihbarat özetine benzeyen biçimde düzenledi. Böylece başlangıçta hatalı olan yorum, daha güvenilir ve kurumsal bir rapor görünümüne kavuştu. Hazırlanan belge daha sonra komuta kanalları üzerinden dağıtıldı.

İstihbaratın yanlış olduğu, operasyon için gönderilen askerî uçaklar havalandıktan sonra anlaşıldı. Bunun üzerine plan iptal edildi. Mevcut bilgilerde operasyonun hangi bölgede yapılacağına ya da kaç uçağın görevlendirildiğine ilişkin ayrıntı bulunmuyor.

Askerî karar süreçlerinde hata payı neden büyüyor?

ABD ordusu, yapay zekâyı karar alma süreçlerini hızlandırmak ve Çin karşısındaki askerî kapasitesini korumak amacıyla daha yoğun kullanmaya çalışıyor. Pentagon, bu sistemlerin hedef belirleme ve askerî müdahale süreçlerinde analiz süresini kısaltabileceğini savunuyor.

Yapay zekânın hızlı yanıt üretmesi, özellikle çok miktarda verinin incelenmesi gereken durumlarda avantaj sağlayabilir. Fakat sistemin oluşturduğu sonuçlar otomatik olarak doğru kabul edildiğinde aynı hız bir güvenlik sorununa dönüşebiliyor. Bu olayda da hatalı bir kargo yorumu, insan uzmanlar tarafından yeterince sorgulanmadan komuta zincirine taşındı.

Yapay zekâ modellerinin gerçeğe dayanmayan ancak ikna edici görünen yanıtlar üretmesine “halüsinasyon” adı veriliyor. Bu tür hatalar günlük kullanımda yanlış bir bilgiyle sınırlı kalabilirken askerî istihbaratta çok daha ağır sonuçlar doğurabilir. Hedef belirleme, operasyon planlama veya silahlı müdahale kararı gibi alanlarda yanlış bir değerlendirme can kaybına ve uluslararası çatışmaya yol açabilir.

Uzmanlar insan denetiminin sürmesini istiyor

GovAI araştırmacısı ve eski ABD Ordusu subayı Jake Steckler, askerlerin büyük dil modellerinin belirsizliklerini ve hata üretme biçimlerini anlaması gerektiğini belirtiyor. Steckler’e göre hedefleme, istihbarat analizi ve operasyon planlaması gibi güç kullanımıyla sonuçlanabilecek süreçlerde bu gereklilik daha da kritik.

Steckler, yaşanan olayın yapay zekâ kullanımının tamamen bırakılmasını gerektirdiği anlamına gelmediğini düşünüyor. Ona göre asıl ihtiyaç, bu araçların kullanılacağı alanları doğru belirlemek ve daha güçlü güvenlik önlemleri uygulamak. Yapay zekâ uygun görevlerde ve etkili kontroller altında kullanıldığında fayda sağlayabilir; ancak sistemlerin yaygınlaştırılması, doğrulama süreçlerinden daha hızlı ilerlememeli.

Bu nedenle yapay zekâ tarafından hazırlanan bir istihbarat raporu tek başına operasyon gerekçesi olarak kullanılmamalı. Silahlı müdahale ihtimali bulunan kararlar için farklı kaynaklarla karşılaştırma yapılması, insan uzmanların raporu incelemesi ve sistemin belirsizliklerinin açıkça belirtilmesi gerekiyor.

ABD ordusu yapay zekâyı karar alma zincirine daha fazla dahil etmeye çalışırken yaşanan olay, hız ile güvenilirlik arasındaki dengenin önemini ortaya koydu. Bir sohbet botunun kargo manifestosunu yanlış yorumlaması, insan doğrulaması zamanında yapılmasaydı uluslararası sonuçları olabilecek bir askerî operasyona dönüşebilirdi.