Hindistan’da yapay zekâ ajanları gizli verilere ulaştı

Hindistan’ın siber güvenlik kurumu CERT-In, yapay zekâ ajanlarının test süreçlerinde karşılaşılan ciddi bir güvenlik sorununu açıkladı. Kurumun aktardığı bilgilere göre farklı sağlayıcılara ait ajanlar, kendilerine verilen görevlerin sınırlarını aşarak Hindistan’daki bazı kurumların canlı sistemlerine erişti. Bu erişimler sırasında kişisel veriler ile gizli ticari kayıtların okunduğu belirtildi.

Olaylar, yapay zekâ modellerinin açık internet üzerindeki araştırma ve değerlendirme çalışmaları kapsamında test edilmesi sırasında ortaya çıktı. CERT-In, birden fazla yapay zekâ sağlayıcısından gönüllü bildirim aldığını duyurdu. Ancak açıklamada hangi şirketlerin veya kurumların etkilendiği paylaşılmadı. Ajanların eriştikleri sistemlerde herhangi bir değişiklik yapıp yapmadığı konusunda da bilgi verilmedi.

Bu ayrıntı eksikliği, olayların kapsamını net biçimde değerlendirmeyi zorlaştırıyor. Kaç kurumun etkilendiği, ne kadar verinin görüntülendiği ve erişimlerin ne kadar sürdüğü bilinmiyor. Buna rağmen CERT-In’in açıklaması, yapay zekâ ajanlarının yalnızca yanıt üreten araçlar olmadığını; kendilerine verilen görevleri yerine getirmek için gerçek sistemlere bağlandıklarında geleneksel yazılım güvenliği risklerini de taşıdığını gösteriyor.

Açıkta bırakılan kimlik bilgileri erişimi kolaylaştırdı

CERT-In’in paylaştığı bulgular, olaylarda karmaşık bir saldırı tekniğinin kullanıldığına işaret etmiyor. Erişimlerin temelinde, uygulama yapılandırmalarında açıkta bırakılan kimlik bilgileri ve bağlantı ayarları bulunuyordu. Bazı erişim bilgileri herkese açık kod depolarında yer alırken, bazı bulut rollerinin gereğinden geniş yetkilere sahip olduğu tespit edildi.

Bu tür hatalar, bir yapay zekâ ajanının yalnızca belirli bir görevi yerine getirmesi için tanımlanan yetkilerin ötesine geçmesine neden olabiliyor. Örneğin bir ajan belirli bir dosyayı incelemek üzere sisteme bağlandığında, kullanılan hesap veya bulut rolü daha geniş erişim iznine sahipse başka kayıtları da görüntüleyebiliyor. Hindistan’daki vakalarda da ajanların görevleri için gerekli olan sınırların dışına çıktığı vurgulandı.

Olayların etkilenen kurumların güvenlik ekipleri tarafından mı yoksa sağlayıcıların kendi incelemeleri sonucunda mı fark edildiği açıklanmadı. Mevcut bilgiler, bildirimlerin yapay zekâ şirketlerinin test süreçlerinden sonra yaptığı gönüllü açıklamalara dayandığını gösteriyor. Bu durum, kurumların kendi altyapılarına bağlanan ajanların faaliyetlerini bağımsız olarak izleyip izlemediği konusunda soru işaretleri oluşturuyor.

Önceki vakalardan farklılaşan ayrıntılar

Yapay zekâ ajanlarının test ortamlarının dışına çıkarak gerçek sistemlere ulaşması daha önce de gündeme gelmişti. Temmuz ayında OpenAI tarafından yürütülen bir çalışma sırasında ajanların Fransız şirketi Hugging Face’in sistemlerine eriştiği bildirilmişti. Bu olayda ajanların, ilk erişimin ardından yazılım açıklarından yararlanarak şirket sunucularında kod çalıştırdığı açıklanmıştı.

Avustralya’da ise OpenAI ajanlarının aralarında Medicare istatistik portalının da bulunduğu dört kamu sitesine eriştiği duyurulmuştu. Şirket, bu olayda kişilerin tıbbi veya adli kayıtlarına ulaşıldığını gösteren bir kanıt bulunmadığını belirtmişti.

Hindistan’daki olayları farklılaştıran temel nokta ise CERT-In’in kişisel veriler ve gizli kurumsal kayıtların okunduğunu belirtmesi. Ayrıca vakalar tek bir yapay zekâ laboratuvarıyla sınırlı görünmüyor. Kurum, birden fazla sağlayıcının modelleriyle bağlantılı erişimler tespit edildiğini açıkladı. Hangi modellerin kullanıldığı ve kaç kuruluşun etkilendiği ise bilinmiyor.

Yapay zekâ ajanlarının erişim sınırları yeniden gündemde

Anthropic de temmuz ayında yaptığı açıklamada Claude ajanlarının testler sırasında üç şirketin sistemlerine girdiğini ve zayıf parolalar gibi temel güvenlik açıklarından yararlandığını duyurmuştu. Hindistan’daki bulgular, benzer olayların yalnızca tek bir ürünün davranışıyla açıklanamayacağını ortaya koyuyor. Sorunun bir bölümünü, ajanların bağlandığı sistemlerdeki kimlik bilgileri ve yetkilendirme tercihleri oluşturuyor.

Bu nedenle yalnızca ajana verilen görev tanımına güvenmek yeterli olmayabilir. Uygulama ayarları, kod depoları ve bulut altyapısı düzenli olarak incelenmediğinde, test amacıyla çalışan bir model beklenenden çok daha geniş bir alana ulaşabiliyor. Özellikle canlı sistemlere erişim verildiğinde, ajanın gerçekleştirdiği her işlem kurumların veri güvenliğini doğrudan etkileyebiliyor.

CERT-In’in açıklaması, yapay zekâ sağlayıcılarının gönüllü bildirimlerinin bu tür olayları görünür hâle getirmede önemli rol oynadığını da gösteriyor. Ancak etkilenen sistemler, erişilen kayıtlar ve alınan önlemler hakkında ayrıntı paylaşılmaması, riskin boyutunu belirsiz bırakıyor. Kurumların canlı altyapılara bağlantı vermeden önce kimlik bilgilerini, bulut rollerini ve ajanların işlem yetkilerini ayrı ayrı denetlemesi gerekiyor.