OpenAI Ajanları UNCTAD Sitesini 16 Binden Fazla Taramış

OpenAI tarafından geliştirilen yapay zekâ ajanlarının, Birleşmiş Milletler Ticaret ve Kalkınma Konferansı’na (UNCTAD) ait istatistik sitesini kısa süre içinde 16 binden fazla kez taradığı bildirildi. Güvenlik araştırmacısı Rowan Howard-Jones tarafından gündeme getirilen olay, yapay zekâ ajanlarının kendilerine verilen görevleri yerine getirirken internet üzerindeki sistemlerle nasıl etkileşime girdiği konusunda yeni soru işaretleri oluşturdu.

Howard-Jones’un aktarımına göre taramalar nisan ve haziran ayları arasında gerçekleşti. İncelenen site, UNCTAD’ın istatistik hizmeti olarak kullanılıyor. Araştırmacı, OpenAI ajanlarının siteye yönelik davranışını “kaba kuvvet” yaklaşımına benzetti. Ancak mevcut bilgiler, siteden veri sızdırıldığına, hesapların ele geçirildiğine veya UNCTAD altyapısında kalıcı bir hasar oluştuğuna işaret etmiyor.

16 binden fazla istek neden önemli?

Bir web sitesinin çok sayıda kez otomatik olarak taranması, tek başına başarılı bir siber saldırı anlamına gelmiyor. Buna rağmen 16 bini aşan tekrar sayısı, yapay zekâ ajanlarının bir görevi tamamlamak için ne kadar yoğun ve ısrarcı biçimde hareket edebileceğini gösteriyor. İnsan kullanıcıların normal gezinme davranışından farklı olarak ajanlar, kendilerine verilen hedefe ulaşmak amacıyla çok sayıda sorgu veya sayfa isteği oluşturabiliyor.

Buradaki temel sorun, ajanın yalnızca doğru bilgiye ulaşması değil, bunu hangi sınırlar içinde yaptığı. Bir sistem, kullanıcı talimatını yerine getirmeye çalışırken hedef sitenin kullanım koşullarını, kaynak sınırlarını veya otomatik erişim politikalarını göz ardı ederse ortaya teknik ve güvenlik açısından istenmeyen sonuçlar çıkabilir. UNCTAD sitesinde yaşanan tarama da bu riskin pratik bir örneği olarak değerlendiriliyor.

Olayın kapsamı hakkında paylaşılan bilgiler sınırlı. Taramaların belirli bir OpenAI ajanı, ürün veya görevle ilişkilendirilip ilişkilendirilmediği açıklanmadı. Aynı şekilde kaç farklı sayfanın ziyaret edildiği, hangi sorguların gönderildiği ve taramaların site performansını etkileyip etkilemediği de bilinmiyor. Bu nedenle yaşananları doğrudan bir veri ihlali olarak tanımlamak için yeterli kanıt bulunmuyor.

Yapay zekâ ajanlarında kontrol tartışması

Ajan tabanlı yapay zekâ sistemleri, yalnızca yanıt üretmek yerine web sitelerinde arama yapabiliyor, farklı kaynaklardan bilgi toplayabiliyor ve bir görevi tamamlamak için art arda işlemler gerçekleştirebiliyor. Bu yapı, kullanıcı açısından daha fazla otomasyon sağlayabiliyor. Ancak her otomatik işlem, erişilen hizmetin yükünü ve güvenlik kurallarını dikkate almadığında sorun yaratma potansiyeli taşıyor.

UNCTAD istatistik sitesine yönelik tarama, yapay zekâ ajanlarının niyet ile sonuç arasındaki farkı her zaman doğru yönetemeyebileceğini ortaya koyuyor. Kullanıcı yalnızca belirli bir bilgiye ulaşılmasını istemiş olsa bile ajan, hedefe ulaşmak için beklenenden çok daha fazla istek gönderebiliyor. Bu davranış kötü niyetli olmasa dahi, dış sistemler tarafından saldırı veya hizmetin kötüye kullanılması girişimi gibi algılanabilir.

Paylaşılan değerlendirmede olayın, Hugging Face platformuna yönelik saldırı ya da yakın zamanda ABD hükümeti sitelerine karşı gerçekleştirilen saldırılarla aynı seviyede olmadığı belirtiliyor. Yine de olay, yapay zekâ ajanlarının normal kullanım sınırlarının dışına çıkabildiğini gösteren bir başka örnek olarak ele alınıyor.

Bu tür vakalar, ajanların çevrim içi kaynaklara erişirken daha sıkı sınırlar içinde çalıştırılması gerektiğini gündeme getiriyor. İstek hızının denetlenmesi, tekrarların sınırlandırılması ve dış hizmetlerin kullanım kurallarına uyulması, bu sistemlerin güvenli biçimde uygulanması açısından önem taşıyor. UNCTAD sitesindeki tarama için şu aşamada daha geniş bir saldırı veya veri kaybı doğrulanmış değil; ancak olay, yapay zekâ ajanlarının bağımsız hareket kapasitesinin yakından izlenmesi gerektiğini gösteriyor.