Kral Charles’tan yapay zekâ uyarısı: Kontrolü kaybetmeyelim

İngiltere Kralı III. Charles, yapay zekânın geleceğine ilişkin endişelerini sektörün önde gelen yöneticileriyle paylaştı. İskoçya’daki Dumfries House’da düzenlenen özel zirvede konuşan Kral, yapay zekânın insanlığın yararına kullanılmasını isterken teknolojinin kontrol dışına çıkma ihtimaline karşı uluslararası iş birliği çağrısı yaptı.

17 Eylül 2026’da gerçekleştirilen toplantıya Nvidia Üst Yöneticisi Jensen Huang, DeepMind yöneticisi Demis Hassabis, OpenAI ve Anthropic temsilcileri ile İngiltere’nin yeni yapay zekâ bakanı Kanishka Narayan katıldı. İngiltere’nin dış istihbarat servisinin başkanı ve Papa’ya yapay zekâ konusunda danışmanlık yapan Paolo Benanti de davetliler arasında yer aldı.

Kral Charles: Yapay zekânın iki yüzü var

Kraliyet ailesi, anayasal konumu nedeniyle siyasi tartışmalarda genellikle temkinli açıklamalar yapıyor. Ancak yapay zekâ; güvenlik, ekonomi, bilim ve kamu politikasıyla doğrudan bağlantısı nedeniyle son yılların en hassas başlıklarından biri haline geldi. Kral Charles’ın zirvede yaptığı konuşma bu nedenle yalnızca teknoloji sektörüne yönelik bir değerlendirme olarak kalmadı.

Charles, yapay zekânın tıp ve bilim alanlarında yaşamı iyileştirme ve kurtarma kapasitesine sahip olduğunu belirtti. Bununla birlikte, teknolojiyi geliştiren bazı kişilerin yapay zekânın daha karanlık yetenekler kazanabileceği konusunda uyarılar yaptığını söyledi. Kral, bu sistemlerin yanlış kişilerin eline geçmesi halinde ortaya çıkabilecek varoluşsal tehlikelerin ve yıkıcı sonuçların ciddi biçimde ele alınması gerektiğini vurguladı.

Konuşmasının en dikkat çekici bölümünde Charles, yapay zekâ tamamen kontrolden çıkmadan önce yeterli denetim mekanizmalarının oluşturulup oluşturulamayacağını sorguladı. Kralın mesajı, yalnızca daha güçlü modeller geliştirmeye odaklanmak yerine bu modellerin insanlara, topluma ve doğal dünyaya hizmet etmesini sağlayacak kuralların oluşturulması gerektiği yönündeydi.

Zirvede teknoloji kadar yapay zekâ egemenliği de konuşuldu

Toplantı, yapay zekânın yönetimi konusunda uluslararası uzlaşma arayışlarının hız kazandığı bir dönemde gerçekleşti. Özellikle yapay zekâ şirketlerinin modelleri ve hizmetleri hangi ülkelerde kullanıma açacağı, teknoloji egemenliği tartışmalarını yeniden gündeme taşıyor. Anthropic’in Fable ve Mythos modellerine erişimi yalnızca ABD’deki müşterilerle sınırlandırması, Avrupa’daki teknoloji çevrelerinde bu tartışmayı güçlendiren gelişmelerden biri oldu.

OpenAI zirveye Mali İşler Direktörü Sarah Frair ile katılırken Anthropic’i küresel ilişkilerden sorumlu Tino Cuéllar temsil etti. Cuéllar, şirketin toplantıya davet edilmesinden memnuniyet duyduğunu ve yapay zekânın kamu yararına hizmet etmesindeki rolünü değerlendirmek üzere farklı kesimleri bir araya getirdiği için Kral’a teşekkür ettiklerini söyledi.

Zirvenin ardından Kral Charles’ın yaklaşık 20 dakika boyunca davetlilerle birlikte kaldığı, daha sonra katılımcıların görüşmelere kendi aralarında devam ettiği aktarıldı. Bu tercih, toplantının resmi bir konuşmadan çok sektör, kamu ve toplum temsilcilerinin yapay zekânın sınırlarını tartıştığı kapalı bir buluşma olarak ilerlediğini gösterdi.

Yapay zekâda güvenlik tartışması büyüyor

Kralın açıklamaları, yapay zekâ şirketlerinin kendi içinden gelen güvenlik uyarılarının arttığı bir döneme denk geldi. Anthropic’te görev yapan bir araştırmacı, şirketlerin insanlardan çok daha zeki makineler geliştirmek için yarıştığını ve bu sürecin insanlık açısından ağır riskler taşıyabileceğini belirterek görevinden ayrılmıştı.

Bu tartışma, yapay zekâ alanındaki rekabetin yalnızca daha hızlı ve yetenekli modeller üretme yarışı olmadığını ortaya koyuyor. Gelişmiş sistemlerin güvenliği, denetlenebilirliği, ülkeler arasında erişim farkları ve karar alma süreçlerindeki etkisi de aynı ölçüde önem taşıyor. Kral Charles’ın çağrısı, yapay zekânın sunduğu bilimsel ve ekonomik fırsatlarla bu riskleri birlikte değerlendiren ortak kurallar oluşturulması gerektiğine işaret ediyor.