Microsoft: Yapay zekâ düzenlemesine İngiltere liderlik etmeli

Microsoft Başkanı Brad Smith, yapay zekâ sistemlerinin güvenliği için küresel ölçekte bağlayıcı kurallar oluşturulması gerektiğini söyledi. Smith’e göre İngiltere, Amerika Birleşik Devletleri ve Avrupa Birliği’ne kıyasla bu alanda uluslararası uzlaşı sağlamaya daha elverişli bir konumda bulunuyor.

Smith, yakın zamanda katıldığı BBC podcast’inde yapay zekânın hem bir araç hem de bir silah gibi kullanılabildiğini belirtti. Yapay zekâ ajanlarının kontrolden çıkması ve siber güvenlik açısından oluşturduğu riskler, yöneticinin düzenleme çağrısının temelini oluşturuyor. Microsoft yöneticisi, küresel güvenlik kuralları için harekete geçme zamanının geldiğini savundu.

İngiltere neden öne çıkıyor?

İngiltere’nin bu alandaki en güçlü kozlarından biri, 2023’te kurulan Yapay Zekâ Güvenlik Enstitüsü. Kurum, ABD merkezli yapay zekâ laboratuvarlarının geliştirdiği ileri seviye modelleri kullanıma sunulmadan önce inceleme ve test etme imkânına sahip. Bu erişim, İngiltere’nin yapay zekâ güvenliği testlerinde kısa sürede etkili bir aktör hâline gelmesini sağladı.

Smith, İngiltere’nin Washington tarafından Brüksel kadar siyasi bir rakip veya düzenleyici tehdit olarak görülmemesinin avantaj sağlayabileceğini düşünüyor. Microsoft Başkanı, Londra’nın hem teknoloji şirketleriyle çalışabilecek hem de farklı ülkeleri ortak güvenlik kuralları etrafında buluşturabilecek bir konumda olduğunu ifade etti.

Ancak İngiltere’deki güvenlik enstitüsünün erişimi son haftalarda tartışma konusu oldu. ABD Başkanı Donald Trump, uluslararası kuruluşların Amerikan şirketlerinin faaliyetlerine müdahale ettiğini savunarak bu tür yapılara karşı çıktı. Geçen ay Anthropic ve OpenAI’ın yeni modellerini İngiliz test uzmanlarına göndermemelerini istediği bildirildi. Buna rağmen İngiltere’deki kurum, pazartesi günü yaptığı açıklamayla en yeni modellere erişebildiğini ve testlerini sürdürebildiğini doğruladı.

Gönüllü denetim yeterli görülmüyor

Trump, geçtiğimiz ay OpenAI, Anthropic, NVIDIA, AMD, SpaceX, Meta ve Google gibi şirketlerin yöneticilerini Beyaz Saray’da yapay zekâ güvenliği gündemiyle bir araya getirdi. Toplantının ardından şirketler, modellerin güvenliğini ve yeteneklerini bağımsız denetçilerle değerlendirmeyi kabul eden “ahlaki açıdan bağlayıcı” bir belge imzaladı.

Smith, bu belgeyi olumlu bir başlangıç olarak nitelendirse de yasal düzenlemenin yerini tutamayacağını belirtti. Gönüllü öz denetimin temel sorunu, kurallara zaten uymaya istekli şirketlerin öne çıkması. Microsoft yöneticisine göre asıl risk, daha sorumsuz davranan şirketlerin yeterli denetim olmadan güçlü modeller geliştirmesi ve kullanıma sunması.

Yapay zekâ sektöründeki farklı yöneticiler de son dönemde geliştirme hızının yavaşlatılması çağrısında bulunuyor. Anthropic CEO’su Dario Amodei ve OpenAI CEO’su Sam Altman, bazı yapay zekâ ajanlarının beklenmedik davranışlar sergilediği olayların ardından güvenlik çalışmalarının güçlendirilmesi gerektiğini savundu.

Smith’in önerdiği güvenlik kuralları

Microsoft Başkanı, yapay zekâ güvenliği için yalnızca şirketlerin kendi kararlarına bırakılmayacak bir çerçeve oluşturulmasını istiyor. Smith’in işaret ettiği başlıca uygulamalar şunlar:

• Bir yapay zekâ ajanı sistemi ele geçirirse ilgili kuruluşun yasal olarak bilgilendirilmesi.
• Yapay zekâ ürünleri piyasaya çıkmadan önce dış değerlendiricilerden onay alınması.
• İnsanların sistem üzerindeki kontrolünü kaybetmesi durumunda modeli durduracak veya yavaşlatacak kapatma mekanizmalarının bulunması.

Bu öneriler, yapay zekâ modellerinin yalnızca piyasaya sürüldükten sonra değil, geliştirme ve yayın öncesi aşamalarda da denetlenmesini hedefliyor. Özellikle yapay zekâ ajanlarının dış sistemlerle etkileşime girebilmesi, olası bir ihlalin etkisini geleneksel yazılım hatalarından daha geniş hâle getirebiliyor.

Smith, ülkelerin ve şirketlerin sert bir rekabet dili yerine sakin fakat kararlı bir yaklaşımla ortak kurallar oluşturması gerektiğini belirtiyor. Microsoft’un yaklaşımı, gönüllü şirket taahhütlerinin yanında bağımsız denetim, yasal bildirim zorunluluğu ve insan müdahalesini mümkün kılan teknik önlemleri de içeren bir düzenleme modeline dayanıyor.