Google DeepMind, AGI tartışması için yeni enstitü kurdu

Google ve Google DeepMind bünyesindeki araştırmacılar, yapay genel zekâ (AGI) konusundaki tartışmaları farklı bakış açılarıyla ele almak için DeepMind Institute adlı yeni bir yapı kurdu. Enstitü, yalnızca şirket içindeki görüşleri paylaşmak yerine Google, Google DeepMind ve dünya genelindeki araştırma topluluğu arasındaki fikir ayrılıklarını görünür kılmayı hedefliyor.

DeepMind’ın kurucu ortaklarından Shane Legg, Google yöneticisi James Manyika ve Google DeepMind Yönetim Kurulu Başkanı Demis Hassabis, enstitünün direktörleri olarak görev yapacak. Legg aynı zamanda kurumun yönetici editörlüğünü üstlenecek. Açıklamada, araştırmacıların her konuda aynı düşünmeyebileceği ve yeni veriler ortaya çıktıkça görüşlerini değiştirebileceği belirtildi.

Bu yaklaşım, AGI tartışmalarını tek bir şirketin açıklamalarına bağlı olmaktan çıkarıp daha geniş bir araştırma ve politika zemini oluşturmayı amaçlıyor. Enstitünün yayımladığı ilk çalışma seçkisi, AGI’nin toplumsal etkilerinden ileri yapay zekâ modellerinin denetlenmesine kadar farklı başlıkları bir araya getiriyor.

İlk çalışmalar dört farklı alana odaklanıyor

DeepMind Institute’un açılış koleksiyonunda dört makale yer alıyor. Çalışmaların ele aldığı başlıklar şöyle:

• AGI’nin ekonomide oluşturabileceği sarsıntıyı yönetmek için uygulanabilecek politikalar,
• Yapay zekâ modellerinin insan tarafından okunabilir akıl yürütme süreçlerinin korunması,
• İnsan refahını merkeze alan ilkeler,
• En gelişmiş yapay zekâ modellerini değerlendirmek için bir çerçeve.

Bu başlıklar, AGI tartışmasının yalnızca model yetenekleriyle sınırlı olmadığını gösteriyor. Ekonomik dönüşüm, düzenleme, güvenlik ve insan denetimi de araştırma gündeminin parçası olarak ele alınıyor.

Model akıl yürütmesinde şeffaflık tartışması

DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan’ın makalesi, yapay zekâ sistemlerinin karar alma süreçlerini inceleme imkânının zamanla azalmasının kaçınılmaz olmayabileceğini savunuyor. Daha yeni mimariler, en güçlü modellerin nasıl sonuç ürettiğini izlemeyi zorlaştırabiliyor. Araştırmacılar ise geliştiricilerin ve düzenleyicilerin bu güvenlik ödünleşimini açık biçimde değerlendirmesi gerektiğini belirtiyor.

Önerilerden biri, modellerin okunabilir bir akıl yürütme izi üretmeden gerçekleştirebildiği ardışık hesaplama miktarını sınırlamak. Metinde “opak seri derinlik” olarak tanımlanan bu unsur, modelin arka arkaya kaç işlem yapabildiğiyle ilişkilendiriliyor. Bir başka seçenek de geliştiricilerin, daha az şeffaf çalışan sistemlerin en az daha şeffaf modeller kadar denetlenebilir olduğunu göstermesi.

Bu tartışma, yapay zekâ güvenliğinde yalnızca sonucun doğru olup olmadığının yeterli olmayabileceğine işaret ediyor. Bir modelin hangi süreçlerden geçerek sonuca ulaştığının incelenebilmesi, hataların ve riskli davranışların tespit edilmesinde rol oynayabilir.

İleri modeller için değerlendirme kurumu önerisi

Demis Hassabis’in makalesi ise ABD öncülüğünde çalışacak bir ileri yapay zekâ standartları kurumu kurulmasını öneriyor. Bu kurum, en gelişmiş modelleri değerlendirecek. İlk aşamada geliştiricilerin, modellerini piyasaya sürülmeden önce gönüllü olarak incelemeye göndermesi planlanıyor. Başvuruların model çıkışından 30 gün öncesine kadar yapılabilmesi öngörülüyor.

Değerlendirme sistemi etkili olduğunu kanıtlarsa, testleri geçmek ABD’de ileri yapay zekâ modellerinin kullanıma sunulması için zorunlu hâle gelebilecek. İlk testlerin hazırlanmasında yapay zekâ şirketleriyle görüşülecek; ancak ilerleyen aşamada kurumun bağımsız ve geliştiricilerin önceden bilmediği değerlendirmeler hazırlaması planlanıyor. “Held-out” olarak adlandırılan bu testler, laboratuvarların modellerini bilinen sınavlara göre özel olarak ayarlamasını zorlaştıracak.

Hassabis’in çerçevesi, risklerin artması hâlinde daha sıkı önlemler uygulanmasına da kapı aralıyor. Bunlar arasında, ileri yapay zekâ geliştiren şirketlerin koordineli biçimde yavaşlaması ihtimali de bulunuyor.

Enstitünün çalışmaları, yapay zekâ güvenliği tartışmalarının genel kaygı ifadelerinden daha somut önerilere doğru ilerlediğini gösteriyor. Model açıklamalarının artırılması, bağımsız denetim ve güvenlik önlemleri yetersiz kaldığında geliştirme hızının birlikte azaltılması, yeni tartışmanın temel başlıklarını oluşturuyor.