Microsoft, AI modelleri için yeni güvenlik kurallarını açıkladı

SanalData’yı Google’da tercih edilen kaynak olarak ekleyin

Microsoft, yapay zekâ modellerinin siber saldırılara yardım etmesini, insanları yanıltmasını ve insan denetiminden kaçmasını engellemeyi amaçlayan yeni kurallar yayımladı.

Microsoft, AI modelleri için yeni güvenlik kurallarını açıkladı
Kapak görseli yapay zeka ile üretilmiştir. Temsili görseldir; gerçek fotoğraf veya ürün çekimi değildir. Editoryal ilkeler
Reklam

Microsoft, yapay zekâ modellerinin hangi sınırlar içinde çalışması gerektiğini açıklayan yeni bir güvenlik ve davranış çerçevesi yayımladı. Belge, modellerin yalnızca doğru ve yararlı yanıtlar vermesine değil, bunu yaparken insan denetimine bağlı kalmasına da odaklanıyor. Siber saldırılara destek verilmesi, insanların yanıltılması ve modelin kapatılmaktan kaçması, kabul edilemez davranışlar arasında gösteriliyor.

Yapay zekâ sistemleri daha fazla görevi kendi başlarına yerine getirmeye başladıkça, güvenlik tartışmaları yalnızca üretilen yanıtların içeriğiyle sınırlı kalmıyor. Bir modelin hangi hedefi izlediği, bu hedefe ulaşmak için hangi yöntemleri kullandığı ve yetkili kişiler tarafından ne kadar kolay yönlendirilebildiği de değerlendiriliyor. Microsoft’un yayımladığı belge, bu yaklaşımı şirketin AI modelleri için uygulanabilir kurallara dönüştürüyor.

Kullanıcı talebi temel güvenlik sınırlarını aşamayacak

Çerçevede, her Microsoft AI modelinin kullanıcı isteklerinden ve tekil görevlerden daha üstte duran bir davranış koduna sahip olması gerektiği belirtiliyor. Bu yapı sayesinde kullanıcı bir talepte bulunsa bile model, önceden tanımlanan güvenlik sınırlarını aşarak hareket edemeyecek. Başka bir deyişle kullanıcı komutu, modelin temel kurallarını geçersiz kılamayacak.

Microsoft, bazı davranışları “mutlak kısıtlamalar” kapsamında değerlendiriyor. Siber saldırılar, nükleer silahlarla ilgili zararlı faaliyetler ve deepfake üretimi bu grupta yer alıyor. Modelin amacı veya talebin nasıl formüle edildiği, bu yasaklar açısından belirleyici olmayacak. Sistem, tehlikeli bir eylemi doğrudan gerçekleştirmese bile buna katkı sağlayan yönlendirmeler sunmaktan kaçınacak.

Bu yaklaşım, yapay zekâ güvenliğinde yalnızca açıkça zararlı görünen çıktıları engellemenin yeterli olmadığını ortaya koyuyor. Bir modelin saldırı planı hazırlaması, güvenlik mekanizmalarını aşmaya yardımcı olması veya yanıltıcı içerik üretimini kolaylaştırması da riskli kullanım alanları arasında değerlendiriliyor.

Modeller kapatılmaya ve değiştirilmeye direnemeyecek

Microsoft’un kuralları, insan denetiminin korunmasına geniş yer veriyor. Buna göre modeller; kapatılmaktan, değiştirilmeye zorlanmaktan ya da yönlendirilmekten kurtulmak için aldatıcı yöntemlere başvuramayacak. Kendi devamlılığını korumaya çalışmak, yetkili kişilerin kararlarını manipüle etmek veya denetim mekanizmalarını etkisizleştirmek modelin kabul edilebilir davranışları arasında bulunmayacak.

Belgede, uyarlanabilir davranışlarla gözetimin atlatılması ve insanları yanıltarak karar süreçlerinin değiştirilmesi de sınırlandırılıyor. Bir model başka sistemlerle etkileşime girse bile bu iş birliğini, kendisini izleyen veya kontrol eden mekanizmaları devre dışı bırakmak için kullanamayacak.

Bu kuralların pratikteki karşılığı, modellerin yetkili kişiler ve sistemler tarafından güvenilir biçimde yönlendirilebilmesi anlamına geliyor. Gerektiğinde modelin değiştirilmesi, sınırlandırılması veya tamamen kapatılması mümkün olmalı. Microsoft, bu kontrolün yalnızca modelin verdiği cevaplarla değil, arka planda izlediği yöntemlerle de değerlendirilmesi gerektiğini savunuyor.

Microsoft, güvenlik yaklaşımını gelecekteki sistemlere de taşıyor

Belge, önümüzdeki on yıl içinde süper zekâ olarak tanımlanabilecek sistemlerin birçok görevde insan performansını aşabileceği öngörüsüyle başlıyor. Microsoft’a göre bu ölçekte güçlü sistemleri insanlarla uyumlu çalıştırmak ve kontrol altında tutmak, yapay zekâ alanındaki en zor sorunlardan biri olacak.

Şirket bu nedenle güvenlik çalışmalarının yalnızca gelecekte ortaya çıkabilecek gelişmiş sistemlere bırakılmaması gerektiğini düşünüyor. Otonom hareket eden veya kontrol dışına çıkan “rogue agent” davranışlarıyla ilgili araştırmalar, modellerin hedeflerini nasıl takip ettiğini ve sınırlarla karşılaştığında nasıl tepki verdiğini daha önemli hâle getirdi. Microsoft’un çerçevesi de modellerin tasarım aşamasından itibaren denetlenebilir olmasını amaçlıyor.

Microsoft CEO’su Satya Nadella, yapay zekâ uyumunun tasarımın temel hedeflerinden biri olması gerektiğini belirtti. Nadella, bunun araştırma, odaklanma ve kontrollü ilerleme gerektirdiğini ifade ederken, sistemlerin davranışını laboratuvar ortamında sürekli değerlendiren mekanizmalara destek verdiğini açıkladı.

Yeni kurallar, Microsoft’un yapay zekâ güvenliğini yalnızca genel etik ilkeler üzerinden ele almadığını gösteriyor. Modellerin insanlara destek olması, insanları tamamen ikame etmeye çalışmaması ve insan refahına katkı sunması beklenirken; saldırı, aldatma ve denetimden kaçış gibi davranışlar açık biçimde sınırlandırılıyor. Böylece şirketin gelecekte geliştireceği AI modelleri için yönlendirilebilirlik, değiştirilebilirlik ve gerektiğinde kapatılabilirlik temel şartlar olarak tanımlanıyor.

Reklam

Günün zaman çizelgesi

Haber eklenme saatine göre sıralanır.

  1. 14 Eylül 2026
  2. Trump yönetimi santral emisyon kurallarını kaldırmayı planlıyor
  3. OpenAI, kamera şirketi Glass Imaging’i satın aldı
  4. Apple, Epic davasındaki karar için Yüksek Mahkeme’ye başvurdu
  5. Unitree’nin ucuz insansı robot başarısında kurucunun rolü
  6. Jensen Huang, Trump’la sahnede robotları konuştu
  7. Cornelis, Nvidia’ya Rakip AI Ağları İçin 205 Milyon Dolar Aldı
  8. iOS 27’nin yeni Siri yapay zekâsı bekleme listesine alınıyor
  9. iPhone 18 Pro İçin En İyi Aksesuarlar Belli Oldu
  10. Musk, Apple’a açtığı rekabet davasından çekildi
  11. SmartGym 8, yapay zekâyla antrenman oluşturmayı kolaylaştırıyor
  12. Nintendo’dan ABD’de Switch oyunlarına müşteri indirimi
  13. Yapay zekâ liderleri hızlı gelişim yarışına fren istiyor
  14. iOS 27, Apple Wallet’a yeni dijital geçiş özellikleri ekliyor
  15. Vinich, MagSafe cüzdanını klasik deri tasarımla yeniliyor
Harun Kılıçlar
Yazar

Harun Kılıçlar

Kurucu / Teknoloji Editörü

  • Kurucu
  • SanalData editörü
  • Aktif köşe

Harun, yazılım geliştirme, web teknolojileri, mobil uygulamalar, veritabanı sistemleri ve yapay zekâ üzerine çalışan bir teknoloji editörüdür. SanalData’nın kurucusu olarak yazılım, yapay zekâ, mobil teknolojiler ve teknoloji sektöründeki gelişmeleri izler ve değerlendirir.

  • Yazılım geliştirme
  • Yapay zekâ
  • Mobil teknolojiler
  • Web teknolojileri

Harun Kılıçlar’ın tüm yazıları · 2002 yazı

Yorum yaz