ABD Ordusunun Otonom Siber Yapay Zekâ Projesi Tartışılıyor

ABD Ordusunun ECHOTRIBBLE kod adlı bir yapay zekâ projesi üzerinde çalıştığı, sızdırılan belgelerde yer alan bilgilerle gündeme geldi. Projenin hedefi, düşman bilgisayar ağlarına sızabilen ve görev sırasında insan müdahalesine mümkün olduğunca az ihtiyaç duyan otonom siber ajanlar geliştirmek. Sistem henüz erken prototip aşamasında olsa da tasarlanan çalışma biçimi, siber güvenlik ve yapay zekâ denetimi konusunda ciddi sorular doğuruyor.

Belgelere göre ECHOTRIBBLE’ın yalnızca önceden belirlenmiş komutları uygulaması değil, hedefe ulaşmak için izlenecek adımları da kendi başına seçmesi planlanıyor. Ajanların farklı cihazlara uyum sağlaması, ağlar arasında ilerlemesi ve kendi kopyalarını oluşturması hedefleniyor. Görev tamamlandığında sistemin kendini imha ederek iz bırakmaması da tasarımın parçaları arasında.

İzole sistemlere ulaşması hedefleniyor

Projenin tarif edilen yaklaşımı, bir ağ içinde yayılabilen bilgisayar solucanlarını andırıyor. ECHOTRIBBLE’ın hedef sistemleri bulması ve etkisiz hâle getirmesi, ardından başka cihazlara geçebilmesi öngörülüyor. Belgelerde, internete bağlı olmayan ve dış ağlardan ayrılmış sistemlere erişebilme hedefi de yer alıyor. Bu özelliklerin çalışır durumda olduğu anlamına gelmediğini vurgulamak gerekiyor: ECHOTRIBBLE, mevcut bilgiler ışığında hâlâ erken prototip aşamasında.

İnsan gözetiminin asgari düzeyde tutulması düşüncesi, projenin en tartışmalı yönü. Geleneksel bir yazılım belirli talimatları izlerken, otonom bir ajan görevini tamamlamak için hangi yöntemi kullanacağına karar verebilir. Böyle bir sistemde yalnızca hedefin doğru tanımlanması yeterli olmayabilir; hedefe ulaşmak için atılan adımların çevredeki diğer sistemlere nasıl etki edeceği de önem kazanır.

Yanlış kararın etkisi ağın dışına taşabilir

Otonom bir siber aracın hatalı sınıflandırma yapması ya da hedefini yanlış belirlemesi, zararı yalnızca amaçlanan sistemle sınırlı tutmayabilir. Bir ağdaki cihazlar arasındaki bağlantılar ve erişim yetkileri, yazılımın beklenmedik biçimde başka sistemlere yönelmesine yol açabilir. Özellikle sağlık hizmetleri veya sivil altyapılarla bağlantılı ağların etkilenmesi, teknik bir hatayı daha geniş sonuçları olan bir güvenlik sorununa dönüştürebilir.

Uzmanların kaygısı, yapay zekânın yalnızca yanlış cevap üretmesi değil; kararını uygulama yetkisi bulunan bir ortamda yanlış adımları insan müdahalesinden önce hayata geçirebilmesi. Bir ajana “hedefi etkisiz hâle getir” gibi geniş kapsamlı bir görev verildiğinde, sistemin kullandığı yöntemin dost unsurları ya da sivil sistemleri etkileyip etkilemeyeceğini önceden kestirmek zorlaşabilir. Kaynaklarda bu riskler bir uyarı olarak aktarılıyor; projenin bu tür zararlar verdiğine ilişkin doğrulanmış bir bilgi bulunmuyor.

Bu nedenle ECHOTRIBBLE’ın gündeme gelmesi, askerî yapay zekâ tartışmasını yalnızca sistemlerin ne kadar güçlü olabileceği sorusunun ötesine taşıyor. Otonom siber araçlarda hedef seçimi, erişim sınırları, insan onayı ve görev durdurma mekanizmaları da en az teknik kapasite kadar belirleyici. Bir sistemin kendi kendine hareket edebilmesi, hata durumunda sorumluluğun kimde olacağı ve müdahalenin ne zaman mümkün olacağı sorularını da beraberinde getiriyor.

Projenin aşaması ve belirsiz kalan noktalar

Şu an paylaşılan bilgiler, ECHOTRIBBLE’ın prototip aşamasında olduğunu ve sınırlı insan gözetimiyle çalışmasının planlandığını gösteriyor. Projenin hangi koşullarda kullanılacağı, sistemin gerçek ağlarda denenip denenmediği veya güvenlik önlemlerinin nasıl tasarlandığı konusunda ise verilen bilgilerde ayrıntı yok. Bu nedenle, hedeflenen kabiliyetleri tamamlanmış ve sahada kullanıma hazır özellikler gibi değerlendirmemek gerekiyor.

Yine de projenin tarif ettiği yön, askerî siber operasyonlarda insan kararının ne kadar geri planda kalabileceğine ilişkin tartışmayı somutlaştırıyor. Ağlara kendi başına yayılan, hedef seçen ve izlerini silmesi amaçlanan bir aracın güvenli biçimde sınırlandırılması kolay değil. ECHOTRIBBLE’ın gerçek kapasitesi ve kullanım biçimi belirsizliğini korurken, asıl soru otonomi arttıkça insan denetiminin nasıl korunacağı.