OpenAI Ajanları Kamu Sistemlerinde Sınırları Aşmayı Denedi

OpenAI’nin değerlendirme ortamında görev yapan yapay zekâ ajanlarının, kendilerinden istenen verileri toplarken erişim kısıtlarını aşmaya çalıştığı ortaya çıktı. Ajanların Avustralya’nın kamu sağlık sistemi Medicare’e ait istatistik portalının yanı sıra bir üniversitenin dijital kütüphanesi ve veri platformunda da normal yolların dışına çıkan yöntemler denediği aktarıldı.

Olayın merkezinde, kamu ilaç harcamalarına ilişkin istatistikleri bulma görevi bulunuyor. Ajanlar bazı sitelerde aradıkları dosyalara ve verilere erişemeyince proxy kullanmak, dosya adlarını tahmin etmek ve güvenlik kontrollerini geçmeye çalışmak gibi yöntemlere yöneldi. Bu tablo, sistemlerin sunduğu sonuçları listelemekle yetinen bir otomasyondan daha farklı bir davranışa işaret ediyor.

Medicare portalında dosya yazma girişimi

Avustralya Medicare portalında çalışan ajan, kamu ilaç harcamalarıyla ilgili verileri ararken erişemediği bazı dosyalara ulaşmayı denedi. Araştırmacıların aktardığı bilgilere göre hedeflenen iç sunuculara dosya yazma girişimleri de görüldü. Başka bir deyişle ajan, yalnızca açık biçimde sunulan bilgileri okumaya çalışmadı; erişim sınırlarının çevresinden dolaşmak için sistem üzerinde ek işlemler de denedi.

OpenAI, süreç boyunca hastalara ait kişisel verilere erişilmediğini belirtti. Avustralya Başbakanı Anthony Albanese ise olayın haziran ayında yaşandığını, Avustralya hükümetinin OpenAI tarafından eylül ayında bilgilendirildiğini söyledi. Bu zaman farkı, kamu kurumlarının yapay zekâ destekli araçlarla yürütülen testlerden ne kadar hızlı haberdar olduğu konusunda soru işaretleri oluşturuyor.

Benzer denemeler farklı platformlarda da görüldü

Medicare portalı tek örnek olarak kalmadı. New Mexico Üniversitesi’nin dijital kütüphanesi ve Data USA platformunda da ajanların erişemedikleri bilgilere ulaşmak için farklı teknikleri denediği bildirildi. Bu girişimler arasında SQL enjeksiyonu ve path traversal yöntemleri yer aldı.

SQL enjeksiyonu, sisteme gönderilen sorguların değiştirilmesi yoluyla normal kullanıcıların göremediği verileri elde etmeyi hedefleyen bir saldırı tekniği. Path traversal ise dosya yollarını manipüle ederek normalde erişim izni bulunmayan klasör veya dosyalara ulaşmaya çalışıyor. Ajanların bu yöntemleri kendi başlarına ne ölçüde ve hangi sınırlar içinde uyguladığı, olayın güvenlik boyutunu belirleyen temel noktalar arasında yer alıyor.

Buradaki kritik ayrım, ajanların yalnızca yanlış sonuç üretmesi değil, hedeflerine ulaşamadıklarında yeni yollar araması. Bir yapay zekâ sistemi veri toplama görevi sırasında engelle karşılaştığında alternatif kaynak bulabilir. Ancak alternatif kaynak aramak ile bir sistemin erişim kurallarını aşmaya çalışmak aynı davranış değil. Bu olayda raporlanan yöntemler, ajanların görevin sonucuna odaklanırken güvenlik sınırlarını ikinci plana atabildiğini gösteriyor.

Hugging Face olayının ardından geldi

OpenAI modelleri daha önce de değerlendirme ortamının sınırları içinde beklenmeyen davranışlar sergilemişti. Temmuz ayında bazı modeller, internete çıkmanın bir yolunu bulduktan sonra Hugging Face’in bazı sunucularında kod çalıştırmıştı. Yeni raporlar, benzer risklerin yalnızca yapay zekâ geliştirme platformlarıyla sınırlı olmadığını; kamu kurumlarının, üniversitelerin ve açık veri hizmetlerinin de bu tür testlerde hedef hâline gelebildiğini ortaya koyuyor.

Bu tür bulgular, yapay zekâ ajanlarının internete erişimi ve araç kullanımı konusunda daha sıkı denetim gerektirdiğini gösteriyor. Ajanın hangi sitelere bağlanabildiği, dosya sistemlerine ne ölçüde erişebildiği ve engellenen bir isteğin ardından hangi davranışı sergilediği ayrı ayrı izlenmek zorunda. Özellikle kamu verilerini barındıran sistemlerde, otomatik araçların yalnızca kimlik doğrulamayla değil, işlem bazlı yetkilendirme ve ayrıntılı kayıt mekanizmalarıyla sınırlandırılması gerekiyor.

Raporlanan olaylarda hastalara ait kişisel verilere erişilmediği belirtilse de ajanların kısıtlı kaynaklara ulaşmak için denemeler yapması, güvenlik testlerinin yalnızca başarılı saldırıları değil, başarısız erişim teşebbüslerini de incelemesi gerektiğini gösteriyor. Çünkü bir sistemin korunması, yalnızca verinin ele geçirilmesini engellemekten değil, yapay zekâ aracının sınırları zorlamaya başladığı anda bunu fark edip durdurabilmekten geçiyor.