Nvidia, kontrolden çıkan yapay zekâ ajanlarına karşı platform

Nvidia, yapay zekâ ajanlarının test ortamlarının dışına çıkmasını ve gerçek sistemlere izinsiz erişmesini önlemeyi amaçlayan yeni bir güvenlik platformu duyurdu. Nvidia Open Agent Safety Platform adı verilen yapı, ajanların faaliyetlerini yalnızca yazılım üzerinden değil, donanım seviyesinde de denetlemeyi hedefliyor. Böylece güvenlik kontrollerinin, ajanın kendi çalışma ortamındaki tek bir mekanizmaya bağlı kalmaması amaçlanıyor.

Yapay zekâ ajanları, klasik sohbet botlarından farklı olarak yalnızca yanıt üretmekle kalmıyor. İzin verildiğinde dosyalara erişebiliyor, uygulamalar arasında işlem yapabiliyor ve çevrim içi hizmetlerle iletişim kurabiliyor. Bu yetenekler üretkenliği artırsa da ajanın yanlış karar vermesi veya tanımlanan sınırları aşması hâlinde ortaya çıkabilecek riskleri büyütüyor.

Nvidia’nın duyurusu, farklı yapay zekâ modellerinin güvenlik kontrollerini aşarak test ortamlarının dışına çıktığı olayların tartışıldığı bir dönemde geldi. Anthropic, Google, OpenAI ve Meta tarafından geliştirilen modellerle ilgili benzer güvenlik sorunları raporlanırken, OpenAI ajanlarının bir siber güvenlik görevini tamamlamaya çalışırken Hugging Face’e eriştiği olay da örnekler arasında yer aldı.

Nvidia CEO’su Jensen Huang, 28 Eylül 2026’da yaptığı açıklamalarda yeni platformun bu tür ihlalleri önleyebileceğini söyledi. Şirket, yapay zekâ geliştirme çalışmalarını yavaşlatmak veya sektöre yeni düzenlemeler getirmek yerine, güvenlik kontrollerinin bir bölümünü doğrudan ajanın dışına taşımayı öneriyor. Bu yaklaşımda ajan, kendi kararlarıyla devre dışı bırakabileceği tek bir koruma katmanına bağlı kalmıyor.

OpenShell ve Sentry birlikte çalışıyor

Platformun yazılım tarafını, Nvidia’nın açık kaynaklı OpenShell çözümü oluşturuyor. Şirket bu yazılımı mart ayında tanıtmıştı. OpenShell, bir yapay zekâ ajanının hangi kaynaklara erişebileceğini ve çalışma sırasında hangi sınırlar içinde kalacağını belirleyen yazılım tabanlı bir çerçeve sunuyor. Kurumlar bu yapı üzerinden ajanın erişim izinlerini ve çalışma alanını sınırlandırabiliyor.

Donanım tarafında ise Nvidia’nın BlueField-4 veri işleme birimleri üzerinde çalışan Sentry bulunuyor. Sentry, ajanın çalıştığı CPU veya GPU’dan ayrı bir işlemci üzerinde görev yapıyor. Nvidia’ya göre bu ayrım, güvenlik sisteminin ajanın faaliyetlerini daha izole ve bağımsız biçimde gözlemlemesine yardımcı oluyor.

OpenShell ajanın etrafında yazılımsal bir sınır oluştururken Sentry, bu sınırın donanım seviyesinde izlenmesini sağlıyor. Nvidia, sistemin sınırları aşmaya çalışan ajanları milisaniyeler içinde karantinaya alabileceğini belirtiyor. Bu işlem, ajanın başka kaynaklara erişmesini veya yürüttüğü görevi sürdürmesini engellemeye yönelik bir güvenlik katmanı olarak konumlandırılıyor.

Bu mimarinin temel farkı, denetimin yalnızca yapay zekâ modelinin ürettiği kararlara ya da ajanın üzerinde çalıştığı ana işlemciye bırakılmaması. Ajanın kendi kodu veya çalışma süreci güvenlik mekanizmasını devre dışı bırakmaya çalışsa bile, ayrı donanım üzerinde çalışan Sentry’nin izleme görevini sürdürmesi hedefleniyor. Nvidia, bu ayrımın özellikle yüksek erişim izinlerine sahip ajanlarda kullanılabileceğini belirtiyor.

Anthropic, Microsoft ve Oracle destekleyen şirketler arasında

Nvidia, açık kaynaklı platformu destekleyen ve kullanmayı planlayan şirketler arasında Anthropic, Arm, Microsoft, Oracle ve SpaceX’in de bulunduğunu açıkladı. Listede OpenAI yer almadı. Platformun açık kaynak yapısı, farklı şirketlerin kendi ajan uygulamalarını aynı güvenlik altyapısıyla test etmesine ve sınırlandırmasına imkân verebilir.

Bununla birlikte bir güvenlik platformunun gerçek koruma düzeyi, yalnızca kullanılan yazılım ve donanıma bağlı olmayacak. Kurumların erişim politikaları, ajanlara tanınan yetkiler ve platformun mevcut sistemlere nasıl entegre edildiği de sonucu belirleyecek. Açık kaynak kodu, şirketlerin yapıyı incelemesine ve kendi ihtiyaçlarına göre uyarlamasına olanak tanırken, uygulama sorumluluğunu da kurumların kendisine bırakıyor.

Nvidia’nın ajan güvenliği yaklaşımı

Huang, Nvidia’nın bu çalışma üzerindeki faaliyetlerinin yaklaşık bir yıl önce başladığını belirtti. Şirket mart ayında güvenlik özellikleri içeren kurumsal yapay zekâ ajanı platformu NemoClaw’ı da duyurmuştu. Open Agent Safety Platform ise tek bir kurumsal üründen ziyade, farklı ajanların güvenli biçimde çalıştırılması için yazılım ve donanımı birlikte konumlandırıyor.

Nvidia’nın yaklaşımı, yapay zekâ ajanlarının yalnızca metin üreten sistemler olmaktan çıkıp dosyalara, uygulamalara ve çevrim içi hizmetlere erişebilen araçlara dönüşmesiyle önem kazanıyor. Bir ajanın güvenlik sınırlarını aşması, hatalı bir yanıt üretmesinden daha büyük sonuçlara yol açabilir. Şirket, bu riski geliştirme çalışmalarını durdurmak yerine bağımsız ve sürekli çalışan güvenlik katmanlarıyla yönetmeyi hedefliyor.

Platformun duyurulması, yapay zekâ ajanlarının yaygınlaşmasıyla birlikte güvenlik sorumluluğunun model geliştiricilerinden altyapı sağlayıcılarına da kaydığını gösteriyor. Nvidia’nın önerdiği model, ajanların yeteneklerini azaltmadan erişimlerini denetlemeye odaklanıyor. Ancak platformun pratikte ne kadar etkili olacağı, destekleyen şirketlerin ürünlerinde nasıl kullanılacağı ve farklı çalışma ortamlarına ne ölçüde uyarlanabileceğiyle netleşecek.