Yapay Zekâ Yetkileri Kritik Sistemler İçin Risk Oluşturuyor

Yapay zekâ araçları şirketlerde ve kamu kurumlarında yalnızca içerik üretimi ya da veri analizi için değil, farklı uygulamalarla bağlantılı iş süreçlerini yürütmek amacıyla da kullanılıyor. Ancak bu sistemlere verilen erişim izinleri, kullanım amacıyla sınırlanmadığında siber güvenlik açısından yeni riskler ortaya çıkıyor. Bir yapay zekâ aracının görevini yerine getirebilmesi için ihtiyaç duyduğundan daha fazla veriye ve uygulamaya ulaşabilmesi, olası bir ihlalin etkisini büyütebiliyor.

Güvenlik değerlendirmesi yapılmadan devreye alınan sistemlerde sorun, yalnızca yapay zekâ uygulamasının ele geçirilmesiyle sınırlı kalmayabilir. Saldırganlar, ele geçirdikleri sistemin sahip olduğu yetkileri kullanarak bağlantılı dosyalara, kurum içi uygulamalara ve veri kaynaklarına ulaşmayı deneyebilir. Bu nedenle yapay zekâ güvenliği, aracın ürettiği sonuçların doğruluğu kadar hangi kaynaklara erişebildiği üzerinden de ele alınmalı.

Kaspersky Küresel Araştırma ve Analiz Ekibi Baş Güvenlik Araştırmacısı Maher Yamout, kurumların yapay zekâ kullanımını değerlendirirken yalnızca sistemin yapabildiği görevlere odaklanmaması gerektiğini belirtiyor. Yamout’a göre erişim izinleri, veri bağlantıları ve sistemin diğer uygulamalarla kurduğu ilişkiler de güvenlik incelemesinin parçası olmalı.

Fazla yetki, saldırının kapsamını genişletebilir

Bir kurumun yapay zekâ sistemine verdiği izinler, doğrudan yürütülecek işlemlerle sınırlı tutulmadığında risk seviyesi yükseliyor. Örneğin belirli bir veri kümesini incelemek üzere kullanılan bir aracın kurumun diğer dosyalarına veya uygulamalarına da erişebilmesi, başlangıçta ihtiyaç duyulmayan kaynakların saldırıya açık hâle gelmesine yol açabilir.

Saldırganlar sistemi kontrol altına aldığında, yapay zekânın sahip olduğu yetkiler üzerinden yeni hedefler arayabilir. Böyle bir durumda yapay zekâ aracının devre dışı bırakılması tek başına yeterli olmayabilir. Sistemle bağlantılı veri tabanları, dosya depoları ve kurum içi uygulamalar da saldırının etkilediği alanlara dönüşebilir.

Bu risk, özellikle farklı kurumsal sistemlerle entegre çalışan yapay zekâ araçlarında daha karmaşık bir hâl alıyor. Tek bir uygulamadaki açık, bağlantılar üzerinden başka kaynaklara erişim fırsatı sağlayabiliyor. Kurumların bu bağlantıların tamamını düzenli biçimde incelememesi, hangi verilerin açığa çıkabileceğini görmelerini zorlaştırıyor.

Yetkilendirme işlemi düzenli olarak gözden geçirilmeli

Riskleri azaltmanın temel yollarından biri, yapay zekâ sistemlerine yalnızca görevleriyle ilişkili izinleri vermek. İhtiyaç duyulmayan erişimlerin kapatılması, sistem ele geçirilse bile saldırganın ulaşabileceği kaynakların sayısını azaltabilir. Bu yaklaşım, yapay zekâ araçları için olduğu kadar bu araçları yöneten kullanıcı hesapları için de geçerli.

İzinlerin ilk kurulum sırasında doğru tanımlanması önemli olsa da tek başına yeterli değil. Sistemler zaman içinde yeni uygulamalara bağlanabiliyor, kullanıcı rolleri değişebiliyor veya bir aracın görev kapsamı genişleyebiliyor. Bu nedenle kurumların hangi yapay zekâ sistemlerinin hangi kaynaklara bağlandığını ve bu bağlantıların hangi verileri erişilebilir hâle getirdiğini belirli aralıklarla kontrol etmesi gerekiyor.

Yeni bir araç kullanıma alınmadan önce en az üç başlık incelenmeli: Sistemin hangi verilere ulaşacağı, hangi işlemleri otomatikleştireceği ve bir ihlal yaşanması durumunda hangi uygulamaların etkilenebileceği. Bu değerlendirmeler, yapay zekânın sağladığı verimlilik ile güvenlik gereksinimleri arasında daha kontrollü bir denge kurulmasına yardımcı olabilir.

Siber casusluk grupları Türkiye’deki kurumları da izliyor

Maher Yamout’un değerlendirmesinde öne çıkan bir başka başlık, gelişmiş kalıcı tehdit gruplarının faaliyetleri. Jeopolitik gerilimlerden yararlanan bu grupların bölgedeki operasyonlarını artırdığı ve Türkiye’deki kurumları da hedef aldığı belirtiliyor. Bu tür saldırılarda amaç, sisteme kısa süreli zarar vermekten çok ağ içinde uzun süre fark edilmeden kalmak ve bilgi kaynaklarına erişim sağlamak olabiliyor.

Bu tablo, yapay zekâ sistemlerini kullanan kurumlar için insan faktörünü de kritik hâle getiriyor. Çalışanların kimlik avı mesajlarını, sosyal mühendislik girişimlerini ve şüpheli erişim taleplerini ayırt edebilmesi gerekiyor. Geniş yetkilere sahip bir yapay zekâ aracının hesabı kadar, bu aracı yöneten veya ona erişen kullanıcıların hesapları da saldırganlar için değerli hedefler oluşturuyor.

Kurumların yapay zekâ kullanımını tamamen durdurması gerekmiyor. Asıl ihtiyaç, bu sistemleri görevleriyle sınırlı yetkilerle çalıştırmak, bağlantılı kaynakları sürekli denetlemek ve olası ihlalin etkisini önceden hesaplamak. Gereksiz erişim izinleri azaltılmadığında, verimlilik sağlamak için kullanılan bir yapay zekâ aracı kritik sistemlere açılan bir güvenlik kapısına dönüşebilir.