ENISA, Çinli Yapay Zekâ Modellerini Gizlice Test Ediyor

Avrupa Birliği Siber Güvenlik Ajansı’nın (ENISA), Çin menşeli açık ağırlıklı yapay zekâ modellerini kamuoyuna duyurmadan test ettiği ortaya çıktı. Kurumun çalışmaları, modelleri doğrudan çevrim içi hizmetler üzerinden kullanmak yerine internete kapalı ve yalıtılmış ağlarda yürütüyor. Böylece test sırasında kullanılan verilerin dış sistemlere aktarılmasının önüne geçilmesi hedefleniyor.

ENISA İcra Direktörü Juhan Lepassaar, kurumun güvenli iç altyapılarında Çinli açık ağırlıklı modeller üzerinde stres testleri yaptığını doğruladı. Ancak hangi modellerin incelendiği ve testlerde hangi yöntemlerin kullanıldığı açıklanmadı. Kaynakta, DeepSeek ve Alibaba gibi Çin merkezli şirketlerin geliştirdiği modellere yönelik veri güvenliği endişelerine de işaret ediliyor.

İnternet bağlantısı neden kesiliyor?

ENISA’nın yalıtılmış donanımları tercih etmesinin temel nedeni, Çin’deki ulusal güvenlik mevzuatının oluşturduğu veri erişimi riski. 2017 tarihli Çin Ulusal İstihbarat Kanunu, Çin merkezli şirketlerin hükûmetin istihbarat talepleriyle iş birliği yapmasını zorunlu kılıyor. Bu durum, Çin merkezli bir şirketin sunucularına gönderilen verilerin devlet kurumlarının erişimine açılabileceği yönündeki endişeleri artırıyor.

Model ağırlıklarının kurumun kendi altyapısına indirilmesi ve dış dünyayla bağlantının kesilmesi, ENISA’ya modelleri operasyonel verileri dışarı çıkarmadan inceleme imkânı veriyor. Bu yaklaşım, özellikle kritik altyapılarla bağlantılı olabilecek yapay zekâ sistemlerinde veri sızıntısı riskini sınırlamayı amaçlıyor. Buradaki inceleme, yalnızca modellerin ne kadar başarılı yanıt verdiğini ölçmekten ibaret değil; modelin güvenlik açısından nasıl davrandığı da araştırılıyor.

Testlerde hangi güvenlik riskleri aranıyor?

ENISA’nın değerlendirmelerinde açık ağırlıklı modellerin iç yapısında bulunabilecek zafiyetler ve gizli yönlendirmeler mercek altına alınıyor. Bir modelin dışarıya veri göndermemesi, model ağırlıklarının güvenli olduğu anlamına gelmiyor. Bu nedenle kurum, eğitim sürecinden veya mimariden kaynaklanabilecek riskleri de belirlemeye çalışıyor.

İncelenen başlıklar arasında güvenlik filtrelerinin ne ölçüde aşılabildiği bulunuyor. Testlerle modellerin siber suç araçlarının hazırlanması ya da kimyasal ve biyolojik tehditlerle ilgili zararlı talimatlar üretip üretemediği görülmek isteniyor. Ayrıca saldırganların modelin akıl yürütme ve karar verme süreçlerini manipüle edip edemeyeceği de araştırılıyor.

Bir diğer başlık ise yerleşik kodlama açıkları. Modellerin eğitim aşamasından taşıdığı yapısal kusurlar veya gizli komutlara verdiği tepkiler, güvenlik değerlendirmesinin parçası olarak ele alınıyor. Bu bulgular, modellerin yalnızca performansını değil, Avrupa’daki kritik sistemlerde kullanılmaları hâlinde oluşturabilecekleri riski de ortaya koyabilir.

AB yapay zekâ kurallarıyla bağlantısı

Testlerin arkasındaki hedeflerden biri de Avrupa Birliği Yapay Zekâ Yasası kapsamında kullanılabilecek teknik ve hukuki denetim altyapısını oluşturmak. Çinli yapay zekâ sağlayıcılarının Avrupa’daki gönüllü uyum kurallarını içeren Code of Practice belgesini imzalamamış olması, bu modellerin risk değerlendirmelerinde boşluk oluşturuyor.

ENISA’nın yalıtılmış sistemlerde elde edeceği bulgular, Avrupa Birliği Yapay Zekâ Ofisi’nin değerlendirmelerinde kullanılabilecek teknik dayanaklar sağlayabilir. Bu sonuçlara göre bazı modellerin Avrupa pazarındaki dağıtımı kısıtlanabilir veya yüksek riskli sistem kategorisine alınmaları gündeme gelebilir. Böyle bir sınıflandırma, ilgili sağlayıcılar için daha ağır yasal yükümlülükler doğurabilir.

Enerji, finans ve sağlık gibi kritik alanlarda kullanılan yapay zekâ sistemleri açısından bu incelemelerin etkisi daha büyük olabilir. Yine de mevcut aşamada test edilen modellerin isimleri, sonuçları ve ENISA’nın hangi yaptırım seçeneklerini değerlendirdiği kamuoyuna açıklanmış değil. Bu nedenle kurumun çalışmaları, şimdilik yayımlanmış bir karar değil; olası güvenlik ve düzenleme adımlarına temel hazırlayan gizli bir teknik değerlendirme niteliği taşıyor.