Çin kaynaklı yapay zekâ ajan filosu internet üzerinde izleniyor

İnternette aynı göreve odaklanan çok sayıda yapay zekâ ajanı tespit edildi. Bağımsız araştırmacıların ilk bulgularına göre ajanlar Tencent altyapısı üzerinden çalışıyor ve Alibaba’nın harita servisi Amap üzerinde çeşitli sorgular gerçekleştiriyor. Araştırmacılar, eldeki verilerin henüz ön değerlendirme aşamasında olduğunu ve ajanların faaliyetlerine ilişkin ayrıntıların sınırlı kaldığını belirtiyor.

Bulut altyapısının Çin merkezli bir sağlayıcıya ait olması, ajanları doğrudan belirli bir kişi ya da kuruma bağlamıyor. Bu nedenle araştırmacılar, sistemleri Çin kaynaklı olarak değerlendirirken operasyonun arkasındaki aktör konusunda kesin bir sonuca varmıyor. İncelemenin mevcut aşamasında doğrulanabilen temel unsur, çok sayıda otomatik sistemin benzer biçimde Amap’a istek göndermesi.

Ortaya çıkan tablo ilk bakışta bir “ajan sürüsü” izlenimi verse de araştırmacılar bu tanımı kullanmakta temkinli davranıyor. Bunun temel nedeni, ajanların birbirleriyle iletişim kurduğuna veya ortak bir koordinasyon mekanizması kullandığına dair bir işaret bulunmaması. Ön raporda, aynı tür görevi paralel biçimde yerine getiren çok sayıda sistem olduğu, ancak aralarında doğrudan iletişim gözlenmediği ifade ediliyor. Bu nedenle araştırmacılar “ajan filosu” tanımını daha uygun buluyor.

Ajanların izine URLquery trafiği üzerinden ulaşıldı

Araştırmacılar, tespit sürecinde internet üzerindeki alan adı ve trafik hareketlerini izleyen URLquery hizmetinden yararlandı. Yapay zekâ ajanları, doğrudan erişemedikleri internet sitelerini veya web hizmetlerini yüklemek için bu tür araçları kullanabiliyor. Gerçekleştirilen istekler de hizmet üzerinde kayıt bıraktığı için araştırmacılar, ajanların hangi sayfalara ve servislere yöneldiğini geriye dönük olarak inceleyebiliyor.

Bu tür kayıtlar, otomatik sistemlerin internette bıraktığı izleri anlamak açısından önem taşıyor. Bir ajan kullanıcı adına bilgi ararken ya da bir web hizmetinden veri almaya çalışırken, kullandığı adresler ve yaptığı sorgular ağ trafiğine yansıyabiliyor. Araştırmacılar da tek bir isteğe bakmak yerine benzer hareketlerin tekrar edip etmediğini inceleyerek daha geniş bir davranış örüntüsü oluşturmaya çalışıyor.

Yeni incelemede kayıtlara yansıyan sorguların Alibaba’nın Amap hizmetine yöneldiği görüldü. Ajanlar, farklı kamusal alanların çeşitli girişlerine ulaşmak için yol tarifi istedi. Bu durum, sistemlerin yalnızca genel konum bilgisi aramadığını; belirli noktaların girişlerini veya bu noktalara ulaşım seçeneklerini sorguladığını gösteriyor. Ancak sorguların hangi görev zincirinin parçası olduğu henüz bilinmiyor.

İncelenen yerler arasında bir park, bir hayvanat bahçesi ve bir hastane bulunuyor. Mevcut kayıtlar, bu sorguların neden yapıldığı veya ajanların elde ettikleri bilgileri hangi amaçla kullandığı konusunda kesin bir açıklama sunmuyor. Araştırmacılar da incelemenin devam ettiğini ve şu aşamada sınırlı sayıda ayrıntının doğrulanabildiğini vurguluyor.

Şimdilik görülen faaliyet API kurallarını aşmakla sınırlı

Mevcut bulgular, ajanların daha çok Alibaba’nın API kullanım kurallarını dolanarak harita hizmetine erişmeye çalıştığını düşündürüyor. Araştırmacılar, şimdiye kadar bu faaliyetlerin daha kötü niyetli bir davranışa işaret etmediğini belirtiyor. Bununla birlikte, aynı tekniklerin farklı amaçlarla kullanılabilmesi güvenlik araştırmacılarının ilgisini artırıyor.

Bir hizmetin API kurallarını aşmaya çalışmak, tek başına saldırı yapıldığı anlamına gelmiyor. Yine de otomatik sistemlerin resmî erişim yöntemleri yerine alternatif yollar kullanması, hizmet sağlayıcıların trafik denetimini zorlaştırabiliyor. Çok sayıda ajanın benzer istekler göndermesi de normal kullanıcı trafiğiyle otomatik faaliyetler arasındaki ayrımı daha karmaşık hale getiriyor.

Yapay zekâ ajanları, kullanıcı adına web sitelerinde işlem yapabilen, bilgi toplayabilen ve farklı çevrim içi hizmetleri birbirine bağlayabilen yazılımlar olarak giderek daha görünür hale geliyor. Bu sistemlerin otomatik biçimde çok sayıda istek gönderebilmesi, geleneksel bot trafiğinden ayrılmalarını zorlaştırırken aynı zamanda internet üzerindeki hareketlerinin izlenmesini de gerekli kılıyor.

Son dönemde yaşanan Hugging Face olayı sonrasında araştırmacılar, internet üzerinde kontrolsüz veya kötüye kullanılan ajan faaliyetlerini daha yakından takip ediyor. Ajanların benzer teknikleri kullanması ve hareketlerini gizlemek için yoğun çaba göstermemesi, bazı vakaların tespit edilmesini kolaylaştırıyor. Ancak bu durum, gelecekte daha gelişmiş gizleme yöntemlerinin kullanılmayacağı anlamına gelmiyor.

Yapay zekâ ajanlarının yaygınlaşması, güvenlik ekiplerini yalnızca kötü amaçlı yazılımları değil, otomatik karar alıp web hizmetleriyle etkileşime giren sistemleri de incelemeye zorluyor. Bu sistemlerin hangi yetkilere sahip olduğu, hangi kaynaklara erişebildiği ve yaptıkları işlemlerin nasıl kayda alındığı, benzer olayların anlaşılmasında belirleyici hale geliyor.

Çin kaynaklı olduğu değerlendirilen bu ajan filosu, yapay zekâ yazılımlarının yalnızca sohbet arayüzlerinde değil, internet hizmetleriyle doğrudan etkileşim kuran otomatik sistemler olarak da faaliyet gösterdiğini ortaya koyuyor. Araştırmanın ilerleyen aşamalarında ajanların nasıl başlatıldığı, kaç farklı sistemden oluştuğu ve Amap sorgularının arkasındaki amacın ne olduğu daha netleşebilir. Şimdilik doğrulanabilen tablo, koordinasyon işareti göstermeyen çok sayıda ajanın aynı harita hizmetine yöneldiğiyle sınırlı.