Microsoft CEO’su Nadella: Yapay zekâya acil durum freni şart

Yapay zekâ sistemlerinin daha fazla görev üstlenmesi, bu sistemlerin nasıl denetleneceği sorusunu da büyütüyor. Microsoft CEO’su Satya Nadella, X üzerinden yaptığı değerlendirmede yapay zekânın kontrolsüz biçimde çalışmasına izin verilmemesi gerektiğini söyledi. Nadella’nın önerileri, modellerin yalnızca ürettiği yanıtlarla değil, aldığı kritik kararlar ve gerçekleştirdiği eylemlerle birlikte izlenmesini temel alıyor.

Nadella’ya göre yapay zekâ güvenliği, modelin kendi çalışma alanıyla sınırlı bırakılamaz. Modeli yönlendiren yürütücü mekanizmaların, güvenlik denetimlerinden ayrılması gerektiğini savunan Microsoft yöneticisi, denetim katmanlarının doğrudan modelin içinde bulunmamasını istiyor. Böylece bir sistem görev yürütürken güvenlik kontrollerinin model tarafından etkisizleştirilmesinin önüne geçilmesi hedefleniyor.

Her kritik eylem izlenebilir olmalı

Nadella’nın yaklaşımındaki temel başlıklardan biri, yapay zekânın gerçekleştirdiği kritik işlemlerin kanıtlanabilir biçimde kayda alınması. Bu kayıtların insan tarafından okunabilmesi ve sonradan değiştirilememesi gerektiğini belirten Nadella, yalnızca modelin verdiği sonucun incelenmesini yeterli görmüyor. Sistemin hangi adımlardan geçtiği ve hangi eylemi neden gerçekleştirdiği de denetim sürecinin parçası olmalı.

Bu öneri, yapay zekâ sistemlerinin anlaşılması güç yapılara dönüşmesiyle ilgili endişelere yanıt arıyor. Nadella, modellerin birbirine bağlı ve dışarıdan tamamen görünmeyen kara kutular gibi ele alınamayacağını ifade ediyor. Bir yapay zekâ sistemi kullanıcıya yanıt verdiğinde ya da dış dünyada bir işlem yaptığında, bu davranışın insan tarafından kontrol edilebilir kanıtlarla desteklenmesi gerekiyor.

Buradaki amaç, yapay zekânın her kararını insanın baştan sona elle vermesi değil. Kritik bir kararın nasıl oluştuğunun sonradan incelenebilmesi ve gerektiğinde sorumlu kişilerin müdahale edebilmesi. Bu ayrım, özellikle kendi başına birden fazla adım atabilen yapay zekâ sistemleri için önem taşıyor. Nadella’nın açıklaması, denetimi yalnızca modelin doğruluğuna bağlamak yerine, modelin çevresindeki teknik ve yönetsel mekanizmalara da taşıyor.

Model durdurulabilecek ve kapatılabilecek

Microsoft CEO’sunun öne çıkardığı bir diğer öneri, yetkili bir insanın model görevini sürdürürken sistemi durdurabilmesi. Gerektiğinde yapay zekânın tamamen kapatılabilmesini sağlayacak mekanizmalar da kurulmalı. Nadella, bu işlevi bir acil durum frenine benzetiyor.

Bu frenin yalnızca kâğıt üzerinde kalmaması için kontrol yetkisinin doğrudan insanlarda bulunması gerekiyor. Bir sistem beklenmeyen bir davranış sergilediğinde veya kritik bir işlemde risk oluştuğunda, yetkili kişi modeli beklemeden durdurabilmeli. Nadella’nın yaklaşımında bu yetki, yapay zekânın karar verme kabiliyetinden ayrı ve modelin dışında konumlanan bir güvenlik katmanına dayanıyor.

Nadella ayrıca modellerin geliştirme sürecinin en başından itibaren güvenliği ihlal edilmiş kabul edilerek sınırlandırılmasını öneriyor. Bu bakış açısı, sisteme sonradan güvenlik özelliği eklemek yerine, olası kötüye kullanım ve kontrol kaybı ihtimalini tasarımın ilk aşamalarında hesaba katmayı gerektiriyor. Modelin güvenilir olduğu varsayımına dayanmak yerine, sınırlarının sürekli korunması amaçlanıyor.

Yapay zekâ denetimi şirketlerin ortak gündeminde

Satya Nadella’nın değerlendirmeleri, yapay zekâ sektöründeki kontrol tartışmalarının tekil bir açıklamadan ibaret olmadığını gösteren görüşler arasında yer alıyor. Farklı şirketlerin yöneticileri de modellerin davranışları ve güvenlik sınırları konusunda daha temkinli yaklaşımlar ortaya koyuyor. Anthropic CEO’su Dario Amodei de daha ihtiyatlı bir yapay zekâ geliştirme planına geçtiklerini kamuoyuyla paylaştı.

Bu tartışmaların merkezinde aynı soru bulunuyor: Bir yapay zekâ sistemi daha fazla yetki kazandığında, insan denetimi hangi teknik araçlarla korunacak? Nadella’nın yanıtı; modelden ayrılmış güvenlik kontrolleri, değiştirilemez işlem kayıtları, insanın okuyabileceği kanıtlar ve gerektiğinde kullanılabilecek fiziksel ya da yazılımsal bir durdurma yetkisi üzerine kuruluyor. Yapay zekâ kullanım alanları genişledikçe, sistemlerin ne kadar yetenekli olduğunun yanında ne zaman ve nasıl durdurulabilecekleri de tasarımın temel ölçütlerinden biri hâline geliyor.