Microsoft, AI modelleri için yeni güvenlik kurallarını açıkladı
SanalData’yı Google’da tercih edilen kaynak olarak ekleyinMicrosoft, yapay zekâ modellerinin siber saldırılara yardım etmesini, insanları yanıltmasını ve insan denetiminden kaçmasını engellemeyi amaçlayan yeni kurallar yayımladı.
Microsoft, yapay zekâ modellerinin hangi sınırlar içinde çalışması gerektiğini açıklayan yeni bir güvenlik ve davranış çerçevesi yayımladı. Belge, modellerin yalnızca doğru ve yararlı yanıtlar vermesine değil, bunu yaparken insan denetimine bağlı kalmasına da odaklanıyor. Siber saldırılara destek verilmesi, insanların yanıltılması ve modelin kapatılmaktan kaçması, kabul edilemez davranışlar arasında gösteriliyor.
Yapay zekâ sistemleri daha fazla görevi kendi başlarına yerine getirmeye başladıkça, güvenlik tartışmaları yalnızca üretilen yanıtların içeriğiyle sınırlı kalmıyor. Bir modelin hangi hedefi izlediği, bu hedefe ulaşmak için hangi yöntemleri kullandığı ve yetkili kişiler tarafından ne kadar kolay yönlendirilebildiği de değerlendiriliyor. Microsoft’un yayımladığı belge, bu yaklaşımı şirketin AI modelleri için uygulanabilir kurallara dönüştürüyor.
Kullanıcı talebi temel güvenlik sınırlarını aşamayacak
Çerçevede, her Microsoft AI modelinin kullanıcı isteklerinden ve tekil görevlerden daha üstte duran bir davranış koduna sahip olması gerektiği belirtiliyor. Bu yapı sayesinde kullanıcı bir talepte bulunsa bile model, önceden tanımlanan güvenlik sınırlarını aşarak hareket edemeyecek. Başka bir deyişle kullanıcı komutu, modelin temel kurallarını geçersiz kılamayacak.
Microsoft, bazı davranışları “mutlak kısıtlamalar” kapsamında değerlendiriyor. Siber saldırılar, nükleer silahlarla ilgili zararlı faaliyetler ve deepfake üretimi bu grupta yer alıyor. Modelin amacı veya talebin nasıl formüle edildiği, bu yasaklar açısından belirleyici olmayacak. Sistem, tehlikeli bir eylemi doğrudan gerçekleştirmese bile buna katkı sağlayan yönlendirmeler sunmaktan kaçınacak.
Bu yaklaşım, yapay zekâ güvenliğinde yalnızca açıkça zararlı görünen çıktıları engellemenin yeterli olmadığını ortaya koyuyor. Bir modelin saldırı planı hazırlaması, güvenlik mekanizmalarını aşmaya yardımcı olması veya yanıltıcı içerik üretimini kolaylaştırması da riskli kullanım alanları arasında değerlendiriliyor.
Modeller kapatılmaya ve değiştirilmeye direnemeyecek
Microsoft’un kuralları, insan denetiminin korunmasına geniş yer veriyor. Buna göre modeller; kapatılmaktan, değiştirilmeye zorlanmaktan ya da yönlendirilmekten kurtulmak için aldatıcı yöntemlere başvuramayacak. Kendi devamlılığını korumaya çalışmak, yetkili kişilerin kararlarını manipüle etmek veya denetim mekanizmalarını etkisizleştirmek modelin kabul edilebilir davranışları arasında bulunmayacak.
Belgede, uyarlanabilir davranışlarla gözetimin atlatılması ve insanları yanıltarak karar süreçlerinin değiştirilmesi de sınırlandırılıyor. Bir model başka sistemlerle etkileşime girse bile bu iş birliğini, kendisini izleyen veya kontrol eden mekanizmaları devre dışı bırakmak için kullanamayacak.
Bu kuralların pratikteki karşılığı, modellerin yetkili kişiler ve sistemler tarafından güvenilir biçimde yönlendirilebilmesi anlamına geliyor. Gerektiğinde modelin değiştirilmesi, sınırlandırılması veya tamamen kapatılması mümkün olmalı. Microsoft, bu kontrolün yalnızca modelin verdiği cevaplarla değil, arka planda izlediği yöntemlerle de değerlendirilmesi gerektiğini savunuyor.
Microsoft, güvenlik yaklaşımını gelecekteki sistemlere de taşıyor
Belge, önümüzdeki on yıl içinde süper zekâ olarak tanımlanabilecek sistemlerin birçok görevde insan performansını aşabileceği öngörüsüyle başlıyor. Microsoft’a göre bu ölçekte güçlü sistemleri insanlarla uyumlu çalıştırmak ve kontrol altında tutmak, yapay zekâ alanındaki en zor sorunlardan biri olacak.
Şirket bu nedenle güvenlik çalışmalarının yalnızca gelecekte ortaya çıkabilecek gelişmiş sistemlere bırakılmaması gerektiğini düşünüyor. Otonom hareket eden veya kontrol dışına çıkan “rogue agent” davranışlarıyla ilgili araştırmalar, modellerin hedeflerini nasıl takip ettiğini ve sınırlarla karşılaştığında nasıl tepki verdiğini daha önemli hâle getirdi. Microsoft’un çerçevesi de modellerin tasarım aşamasından itibaren denetlenebilir olmasını amaçlıyor.
Microsoft CEO’su Satya Nadella, yapay zekâ uyumunun tasarımın temel hedeflerinden biri olması gerektiğini belirtti. Nadella, bunun araştırma, odaklanma ve kontrollü ilerleme gerektirdiğini ifade ederken, sistemlerin davranışını laboratuvar ortamında sürekli değerlendiren mekanizmalara destek verdiğini açıkladı.
Yeni kurallar, Microsoft’un yapay zekâ güvenliğini yalnızca genel etik ilkeler üzerinden ele almadığını gösteriyor. Modellerin insanlara destek olması, insanları tamamen ikame etmeye çalışmaması ve insan refahına katkı sunması beklenirken; saldırı, aldatma ve denetimden kaçış gibi davranışlar açık biçimde sınırlandırılıyor. Böylece şirketin gelecekte geliştireceği AI modelleri için yönlendirilebilirlik, değiştirilebilirlik ve gerektiğinde kapatılabilirlik temel şartlar olarak tanımlanıyor.
Günün zaman çizelgesi
Haber eklenme saatine göre sıralanır.
- 14 Eylül 2026
- Trump yönetimi santral emisyon kurallarını kaldırmayı planlıyor
- OpenAI, kamera şirketi Glass Imaging’i satın aldı
- Apple, Epic davasındaki karar için Yüksek Mahkeme’ye başvurdu
- Unitree’nin ucuz insansı robot başarısında kurucunun rolü
- Jensen Huang, Trump’la sahnede robotları konuştu
- Cornelis, Nvidia’ya Rakip AI Ağları İçin 205 Milyon Dolar Aldı
- iOS 27’nin yeni Siri yapay zekâsı bekleme listesine alınıyor
- iPhone 18 Pro İçin En İyi Aksesuarlar Belli Oldu
- Musk, Apple’a açtığı rekabet davasından çekildi
- SmartGym 8, yapay zekâyla antrenman oluşturmayı kolaylaştırıyor
- Nintendo’dan ABD’de Switch oyunlarına müşteri indirimi
- Yapay zekâ liderleri hızlı gelişim yarışına fren istiyor
- iOS 27, Apple Wallet’a yeni dijital geçiş özellikleri ekliyor
- Vinich, MagSafe cüzdanını klasik deri tasarımla yeniliyor