Google ve DeepMind, AGI için yeni enstitü kurdu

Google ve DeepMind araştırmacıları, yapay genel zekâ (AGI) çalışmalarının teknik sınırların ötesinde ele alınması amacıyla DeepMind Enstitüsü’nü (DMI) kurdu. Enstitü, AGI’nin ekonomi, çalışma hayatı, kamu politikaları ve günlük yaşam üzerindeki olası etkilerini tartışmaya açmayı hedefliyor.

Yapay zekâ sistemleri bugün metin oluşturma, görsel üretme, kod yazma ve karmaşık soruları yanıtlama gibi farklı görevleri yerine getirebiliyor. Bununla birlikte mevcut modeller, genel amaçlı ve her alanda insan benzeri yetkinlik sergileyen bir zekâ seviyesine ulaşmış değil. AGI kavramı ise tek bir göreve veya alana bağlı kalmadan öğrenebilen, akıl yürütebilen ve karşılaştığı yeni problemleri çözebilen sistemleri ifade ediyor.

Henüz geliştirilmiş bir AGI sistemi bulunmuyor. Buna rağmen yapay zekâ modellerinin yetenekleri genişledikçe, bu teknolojinin nasıl geliştirileceği ve hangi kurallara tabi olacağı konusundaki tartışmalar da büyüyor. DMI, bu tartışmayı yalnızca yapay zekâ mühendislerinin veya teknoloji şirketlerinin karar vereceği bir konu olarak görmüyor.

AGI tartışmasına teknoloji dışındaki alanlar da katılacak

Enstitünün yaklaşımına göre AGI’nin ortaya çıkması, toplumun tamamını ilgilendirebilecek sonuçlar doğurabilir. İş gücündeki değişim, ekonomik dengeler, kamu kurumlarının kararları ve insanların günlük yaşamı, gelişmiş yapay zekâ sistemlerinden etkilenebilecek alanlar arasında yer alıyor.

Bu nedenle DMI, yapay zekânın geleceğine ilişkin değerlendirmelerde teknoloji dışındaki uzmanlık alanlarının da bulunması gerektiğini savunuyor. Ekonomi, çalışma hayatı ve kamu politikaları gibi başlıkların teknik ilerlemeyle birlikte ele alınması, AGI’nin olası etkilerine daha geniş bir çerçeveden bakılmasını sağlayabilir.

DeepMind Başkanı Demis Hassabis de enstitüde yer alan isimler arasında bulunuyor. Hassabis, yakın zamanda yapay zekâ geliştirme hızının yavaşlatılması gerektiğini savunan görüşleriyle gündeme gelmişti. DMI’nin çalışmaları, yapay zekâ kapasitesi arttıkça güvenlik ve denetim mekanizmalarının nasıl güçlendirilebileceği sorusuna odaklanıyor.

Gelişmiş modeller için 30 günlük bağımsız test önerisi

DMI’de gündeme getirilen önerilerden biri, gelişmiş yapay zekâ modellerinin piyasaya sunulmadan önce 30 gün boyunca bağımsız testlerden geçirilmesi. Bu modele göre geliştiriciler, yeni sistemlerini yayımlamadan önce değerlendirme yapmak üzere bağımsız bir kuruluşa gönderecek.

Öneri, testlerin tamamının geliştiricilerin önceden bildiği ölçütlerden oluşmamasını da içeriyor. Değerlendirmelerin bir bölümünün gizli tutulması sayesinde şirketlerin yalnızca hangi kontrollerden geçeceğini bilerek model hazırlamasının önüne geçilmesi amaçlanıyor. Böylece güvenlik incelemelerinin daha gerçekçi sonuçlar vermesi bekleniyor.

Bu yaklaşım ilk aşamada gönüllü bir uygulama olarak başlayabilir. Ancak değerlendirmeler etkili bulunursa, ilerleyen süreçte gelişmiş modeller için zorunlu bir gerekliliğe dönüşmesi de tartışılabilir. Kaynakta yer alan öneri, doğrudan yürürlüğe girmiş bir düzenleme değil; AGI’nin geliştirilme ve piyasaya sunulma sürecine ilişkin bir çerçeve niteliği taşıyor.

Risk artarsa geliştirme hızının düşürülmesi gündemde

DMI’nin tartıştığı fikirler yalnızca model testleriyle sınırlı kalmıyor. Yapay zekâ sistemlerinin oluşturduğu risklerin artması durumunda güvenlik önlemlerinin sıkılaştırılması ve gelişmiş modeller üzerinde çalışan şirketlerin koordineli biçimde daha yavaş ilerlemesi de seçenekler arasında gösteriliyor.

Bu yaklaşım, yapay zekâ geliştiren şirketlerin birbirinden bağımsız şekilde ilerlemesi yerine belirli risk eşiklerinde ortak hareket etmesini öngörüyor. Ancak enstitünün yayımladığı fikirlerin Google’ın resmî politikası olmadığı özellikle belirtiliyor. DMI, önerilerini bağlayıcı kararlar olarak değil, AGI’nin geleceği hakkında daha geniş bir tartışma başlatabilecek görüşler olarak sunuyor.

DeepMind Enstitüsü’nün kuruluşu, AGI tartışmasının yalnızca daha yetenekli modeller üretme hedefinden ibaret olmadığını gösteriyor. Geliştirme hızının nasıl yönetileceği, modellerin kim tarafından ve hangi koşullarda denetleneceği, ortaya çıkabilecek risklere karşı şirketlerin ne zaman yavaşlaması gerektiği gibi sorular da bu sürecin parçası hâline geliyor.