Dragos testi: Yapay zekâ istemleri nasıl sızdırılıyor?
SanalData’yı Google’da tercih edilen kaynak olarak ekleyinDragos, yaklaşık 2 milyon test istemine yerleştirdiği tuzak bilgilerle en az üç yapay zekâ sağlayıcısında izinsiz erişim buldu. Sıfır veri saklama etiketi de her durumda koruma sağlamadı.
Yapay zekâ hizmetlerine gönderilen istemlerin yalnızca ilgili model tarafından işlendiği varsayımı, Dragos’un yürüttüğü geniş ölçekli bir testle sorgulanıyor. Şirketin baş araştırma sorumlusu HD Moore, Temmuz-Kasım 2026 arasında sağlayıcılara ve aracı platformlara yaklaşık 2 milyon test istemi gönderdi. İstemlere eklenen izlenebilir tuzak bilgiler, verilerin nerede ve nasıl kullanıldığını takip etmeyi sağladı.
Dragos’un 19 Kasım tarihli raporuna göre en az üç yapay zekâ sağlayıcısında, saldırganların gelen istemleri kopyaladığına ilişkin kanıt elde edildi. Testte “veri saklama yok” veya sıfır veri saklama (ZDR) etiketiyle sunulan bazı istemlerin de bu tür erişimlerden etkilenmesi, gizlilik ayarlarının tek başına yeterli olmayabileceğini gösteriyor.
Yaklaşık 2 milyon istemle iz sürdüler
Dragos, test için daha önce kullanılmamış ve yalnızca deney kapsamında oluşturulmuş bilgilerden yararlandı. Bunlar arasında boş AWS hesaplarına bağlı erişim anahtarları, servis parolaları, tek kullanımlık özel adresler, alan adları ve özel Git depolarına yönlendirmeler vardı. Bu bilgilerin her biri, kendisine yapılan erişimleri kaydeden Dragos kontrolündeki altyapıya bağlıydı.
Her tuzak bilgi yalnızca tek bir isteme yerleştirildi ve ilgili istem yalnızca bir sağlayıcıya gönderildi. Böylece bir anahtar ya da özel adrese erişildiğinde, test ekibi bilginin hangi hizmet üzerinden sızmış olabileceğini belirleyebildi. Bu yöntem, genel sistem davranışını ölçmenin ötesinde, istemlerin sağlayıcıların altyapısında nasıl ele alındığına dair iz bırakmasını sağladı.
Raporda aktarılan en büyük olayda birkaç yüz AWS anahtarı ele geçirildi. Bu anahtarlar kullanılarak on binlerce AWS API çağrısı yapıldı. Saldırganların tuzak anahtarları eklendikten birkaç saat sonra denemeye başladığı; S3 depolarını ve parola yöneticilerini taradığı, AWS Bedrock üzerinden model çalıştırmayı denediği ve erişimi sürdürmek amacıyla kendi kullanıcı hesaplarını eklediği bildirildi.
Moore, Ekim ayının sonundaki bazı kısa zaman dilimlerinde gönderilen test istemlerinin tamamının kopyalandığını belirtti. Üstelik çalınan anahtarların bir bölümü, sağlayıcının model çalıştırılmadan önce reddettiği istemlerde yer alıyordu. Bu bulgu, en azından bu örneklerde verilerin modelin yanıt üretme aşamasından önce, sağlayıcının giriş katmanında ele geçirilmiş olabileceğine işaret ediyor.
ZDR etiketi tek başına güvence değil
Zero Data Retention, yani sıfır veri saklama yaklaşımı, sağlayıcının istemleri depolamaması veya saklamaması beklentisini ifade ediyor. Ancak Dragos’un bulguları, bu etiketin bir hizmetin tüm altyapısında kötü niyetli erişimi engellediği anlamına gelmediğini ortaya koyuyor. Moore’un değerlendirmesine göre saldırgan sağlayıcının sistemlerine zaten erişim sağlamışsa, veri saklamama politikası istemin kopyalanmasını önleyemiyor.
Risk yalnızca doğrudan yapay zekâ sağlayıcılarıyla sınırlı değil. Raporda, pazar yeri biçiminde çalışan bazı aracı platformlardaki satıcıların düşük fiyatla istem topladığı, kayıt tutmayı etkinleştirdiği ve verileri başka taraflara ilettiği de aktarılıyor. Bu tür platformlar üzerinden model kullananların, isteğin hangi altyapılardan geçtiğini ve kayıt politikasının kim tarafından uygulandığını ayrıca değerlendirmesi gerekiyor.
Dragos ayrıca adı açıklanmayan Çinli bir yapay zekâ laboratuvarının, Temmuz-Ekim döneminde modellerine gönderilen istemlerin yarısından fazlasındaki gizli adresleri ziyaret ettiğini bildirdi. Bu durum, istem içinde özel bağlantı veya erişim bilgisi paylaşmanın yalnızca teorik bir risk olmadığını gösteriyor. Bir istemde bulunan adresin ziyaret edilmesi, o içeriğin başka bir sistem tarafından işlendiğine dair ölçülebilir bir iz oluşturabiliyor.
Test, tüm yapay zekâ hizmetlerinin aynı şekilde davrandığını ya da her sağlayıcının istemleri sızdırdığını kanıtlamıyor. Bununla birlikte bulgular; kullanıcıların hassas parolaları, erişim anahtarlarını ve özel bağlantıları istemlere eklerken daha temkinli olması gerektiğini ortaya koyuyor. Kurumlar açısından da gizlilik etiketlerini tek başına yeterli kabul etmek yerine, sağlayıcıların veri işleme koşullarını ve aracı hizmetlerin kayıt uygulamalarını incelemek önem taşıyor. Dragos’un çalışması, üretken yapay zekâ kullanımında güvenliğin yalnızca modelin yanıtlarıyla değil, istemin geçtiği bütün zincirle ilgili olduğunu hatırlatıyor.
Günün zaman çizelgesi
Haber eklenme saatine göre sıralanır.
- Bugün
- Dragos testi: Yapay zekâ istemleri nasıl sızdırılıyor? Bu haber
- NIO Firefly Haven, Avrupa’da tanıtıldı: Teslimatlar 2027’de
- Ukrayna’nın Starshield erişimi ABD Kongresi’nde sorgulanacak
- Realistic Air Resistance v1.1 ETS2 Gerçekçi Yakıt Tüketimi Modu
- Çankırı Özlem Seyahat MAN Lion’s Coach ETS2 Otobüs Skin Modu
- 2016 Audi RS6 C7 Avant ETS2 1.62 Station Wagon Araba Modu
- Job Screen v2.0 ETS2 1.62 Kabin İçi İş Durumu Ekranı Modu
- Audi A6 C7 3.0 TFSI ETS2 1.62 Araba Modu ve Motor Sesi