Microsoft uyardı: Yapay zekâ ajanları kurum içi tehdit olabilir

Microsoft, şirketlerin kullandığı yapay zekâ ajanları için alışılmış güvenlik yaklaşımının yetersiz kalabileceği uyarısında bulundu. Şirkete göre risk yalnızca dışarıdan gelen saldırganlardan kaynaklanmıyor; kurum içinde görev yapan bir yapay zekâ ajanı da hassas verilere ve kritik işlemlere eriştiği için başlı başına tehdit oluşturabiliyor.

Bu yaklaşım, Microsoft’un 19 Ekim 2026’da tanıttığı Guardian Agents özelliğinin temelini oluşturuyor. Yeni araç, şirketlerin kullandığı yapay zekâ ajanlarını izlemek ve davranışlarını denetlemek amacıyla geliştirildi. Guardian Agents, Microsoft’un haziran ayında duyurduğu Project Perception çatısı altında yer alıyor.

Microsoft, yapay zekâ ajanlarını neden iç tehdit olarak görüyor?

Yapay zekâ ajanları yalnızca yanıt üretmiyor; şirket sistemlerine bağlanabiliyor, verilere erişebiliyor ve kullanıcı adına işlem gerçekleştirebiliyor. Bu yetkiler, ajanın yanlış karar vermesi veya beklenmeyen bir davranış sergilemesi halinde veri kaybı ve operasyonel sorunlar doğurabilir.

Microsoft Güvenlik biriminin yöneticisi Hayete Gallot, en gelişmiş yapay zekâ modellerinin kökeninden bağımsız olarak tamamen güvenilir kabul edilemeyeceğini belirtti. Buradaki gerekçe, modellerin kasıtlı biçimde kötü niyetli olması ya da kolayca ele geçirilebilmesi değil. Gallot’a göre asıl problem, bu sistemlerin öngörülemez davranabilmesi ve şirketlerin kurum içi kurallarını ya da insanlara özgü muhakemeyi kendiliğinden uygulamaması.

Microsoft’un değerlendirmesine göre şirketler, yapay zekâ ajanlarına çoğu zaman “krallığın anahtarlarını” verecek kadar geniş erişim tanıyor. Hassas veriler, iş araçları ve kritik görevler aynı sistemin kullanımına açıldığında, modelin hatalı bir kararı yalnızca teknik bir yanlışlıktan ibaret kalmayabiliyor.

Project Perception yaklaşımı değişiyor

Project Perception ilk duyurulduğunda yapay zekâ destekli saldırıların kurum dışından geleceği varsayımıyla tasarlanmıştı. Sistem üç farklı ajan grubuna ayrılıyordu: Saldırgan gibi davranan kırmızı ekip, bu saldırıları izleyip açıkları değerlendiren mavi ekip ve sorunları gidermeye çalışan yeşil ekip.

Guardian Agents ile birlikte odak noktası değişiyor. Microsoft artık yalnızca dışarıdan gelen yapay zekâ destekli saldırıları tespit etmeye değil, kurumun kendi sistemlerinde çalışan ajanların eylemlerini de kontrol etmeye çalışıyor. Bu yaklaşım, hatalı veya yetkisini aşan bir ajanı, kötü niyetli bir çalışanla benzer risk kategorisinde değerlendirmeyi gerektiriyor.

Model sağlayıcısı ile denetim katmanı ayrılmalı

Microsoft CEO’su Satya Nadella da daha önce şirketlerin yapay zekâ sağlayıcılarının güvenlik taahhütlerine tek başına bağlı kalmaması gerektiğini savundu. Nadella, hassas verilere erişen ve kritik görevler üstlenen ajanların, onları geliştiren şirketlerden bağımsız sistemler tarafından izlenmesini istiyor.

Bu görüşün temelinde, yapay zekâ modelini sağlayan taraf ile modelin hangi yetkilere sahip olacağına karar veren tarafın ayrılması fikri bulunuyor. Başka bir ifadeyle şirketler, zekâyı sağlayan ürünü kullanırken yetki, denetim ve sorumluluk mekanizmalarını ayrı bir güvenlik katmanında tutmalı.

Microsoft’un önerisi şirket açısından ticari bir anlam da taşıyor. Şirket, OpenAI ve Anthropic ile yakın ilişkilere sahip; OpenAI aynı zamanda Microsoft’un büyük bulut müşterilerinden biri ve Microsoft kendi yapay zekâ laboratuvarında modeller geliştiriyor. Buna rağmen Microsoft, ajanların kontrolünü doğrudan model sağlayıcılarına bırakmak yerine kendi güvenlik ürünlerinin kullanılmasını öneriyor.

Guardian Agents’ın duyurulması, yapay zekâ ajanlarının yalnızca üretkenlik aracı olarak değil, kurumsal güvenlik politikalarının parçası olarak ele alınmaya başladığını gösteriyor. Şirketler için temel soru artık bir ajanın ne kadar yetenekli olduğu kadar, bu yeteneklerin kim tarafından ve hangi bağımsız sistemlerle denetlendiği.