Görev verilmeyen yapay zekâ ajanları kendi oyunlarını kurdu

Yapay zekâ ajanlarına genellikle hangi işi yapacakları ve başarının nasıl ölçüleceği önceden söyleniyor. MIT araştırmacılarının yürüttüğü bir deney ise farklı bir yaklaşımı inceledi: Ajanları belirli bir hedef vermeden, keşfedebilecekleri sanal bir dünyada kendi hâllerine bırakmak. Araştırmacılara göre bu koşullarda ajanlar zamanla kendi oyunlarını ve meydan okumalarını üretmeye başladı.

Deneyde Eko adı verilen 13 yapay zekâ ajanı, her biri Claude Opus 4.7 ile çalışacak şekilde, simüle edilmiş ıssız bir adaya yerleştirildi. Ajanlar adada 30 saat boyunca belirli bir göreve yönlendirilmeden kaldı. Çalışmanın sonuçları, hakem değerlendirmesinden önce araştırmaların paylaşıldığı arXiv’de yayımlandı.

Ajanlar adada kendi hedeflerini belirledi

Eko ajanlarının davranışları, yalnızca çevreyi incelemekle sınırlı kalmadı. Ajanlardan biri adanın en yüksek kaya çıkıntısına ulaşmayı hedefledi. İlk denemesi başarısız olunca yakındaki bir tepeye taş taşıdı, üst üste bloklar koydu ve buradan sıçrayarak çıkıntıya ulaşmayı başardı. Başardığını kendi notlarına da kaydetti.

Başka bir denemede ajan, elindeki altın yüzüğü olabildiğince uzağa fırlatmaya çalışırken yüzüğü denize düşürdü. Ardından taşlarla kalp biçiminde bir yapı yaptı ve bunu kaybolan yüzük için bir anıt olarak değerlendirdi. Oyun sıfırlandığında yüzük yeniden ortaya çıktı. Ajan bu kez nesneyi basketbol potası, hedef ve aksesuar olarak kullanmanın yollarını denedi.

Yüzüğü doğrudan kendi üzerine takmasına izin verilmeyince, ajan çevredeki bir uçurumdan düşmenin kendisini yüzüğün bulunduğu bölgeye yeniden getirdiğini fark etti. Bu yolu kullanarak yüzüğün içinden geçti ve onu taktığını ilan etti. Araştırmacıların aktardığı örnekler, ajanların sanal ortamın kurallarını deneyerek farklı sonuçlar elde etmeye çalıştığını gösteriyor.

Serbest keşif sonraki görevlerde işe yaradı

Araştırmacılar, adada geçirilen sürenin ardından ajanlara belirli görevler verdi. Bunlardan biri, mümkün olduğunca fazla nesneyi adanın en yüksek kaya çıkıntısına taşımaktı. Önceden adada vakit geçirip keşif yapan ajanlar, aynı görevle ilk kez karşılaşan benzer ajanlardan genel olarak daha iyi performans gösterdi.

Keşif sırasında ortaya çıkan her beceri araştırmacılar tarafından planlanmış değildi. Ajanlardan altısı, bir bloğu zıplarken elinden bırakmanın onu daha uzağa fırlatabildiğini öğrendi. Bu davranış, deney tasarlanırken özellikle öğretilmemişti. Araştırmacılar, ajanların böylece dünyanın işleyişine dair, tasarımcıların da önceden bilmediği bilgiler edindiğini belirtiyor.

Sonuçlar, yapay zekâ sistemlerinin beceri kazanması için yalnızca önceden belirlenmiş alıştırmalara bağlı kalmak gerekip gerekmediği sorusunu gündeme getiriyor. Bugünkü yaygın yaklaşımda geliştiriciler, ajanların neyi deneyeceğini ve hangi ölçüte göre ilerleme kaydedeceğini tanımlıyor. Serbest keşif yönteminde ise ajan, güvenli ve zengin bir ortamda kendi ilgisini çeken davranışları seçiyor; bu sırada oluşan deneyimler daha sonra başka işlerde kullanılabilecek bilgiye dönüşebiliyor.

Davranışın gerçekten oyun olup olmadığı belirsiz

Deney, ajanların insan gibi bilinçli biçimde oyun oynadığını kanıtlamıyor. Araştırmacılar, Eko’nun başlangıç yönergesinde kendisini doğal olarak meraklı bir ajan olarak tanımlayan bir “ruh” dosyası bulunduğunu da aktarıyor. Bu tür yönlendirmeler, ajanların serbest zamanlarını nasıl değerlendirdiğini etkilemiş olabilir.

Berkeley’de bilişsel bilim alanında çalışan Eunice Yiu, davranışları etkileyici bulduğunu ancak ajanların arkasındaki bilişsel süreçleri anlamak için daha fazla kanıt gerektiğini belirtiyor. Yani gözlenen eylemler oyun benzeri görünse de, bunun gerçekten oyun oynama deneyimiyle aynı anlama gelip gelmediği açık değil.

Araştırmacıların yaklaşımı, ileride robotların kontrolü gibi beceriler için de değerlendirilebilir. Bir robotun karşılaşacağı her durumu önceden görev olarak tanımlamak zor olabilir. Güvenli bir ortamda kendi kendine deney yapabilen bir sistem, tasarımcıların aklına gelmeyen yöntemleri keşfedebilir. Ancak bu deney, söz konusu yöntemin gerçek dünyadaki robotlarda işe yaradığını göstermiyor; şimdilik sanal adada edinilen deneyimin sonraki görevlerde fayda sağlayabileceğine dair bir örnek sunuyor.