Sanders’tan Yapay Süperzekâ İçin 20 Yıl Hapis Önerisi

ABD’li Senatör Bernie Sanders ile Temsilciler Meclisi üyesi Greg Casar, yapay zekâ tartışmalarının en sert seçeneklerinden birini gündeme taşıyan yasa tasarısını sundu. “Ban Artificial Superintelligence Act” adını taşıyan teklif, yapay süperzekâ geliştirilmesini doğrudan yasaklamayı amaçlıyor. Tasarı, yasağı ihlal eden AI yöneticileri için 20 yıla kadar hapis cezası öngörüyor.

Teklifin odağında bugün kullanılan yapay zekâ araçlarının tamamı bulunmuyor. Tasarı, insanlığın yok edilmesine veya etkisiz hâle getirilmesine yol açabilecek kapasiteye sahip olduğu düşünülen yapay süperzekâ sistemlerini hedef alıyor. Metindeki yaklaşım, bu tür bir sistemin insanların karar alma gücünü ortadan kaldırabileceği ya da insan toplumları üzerindeki kontrolü ele geçirebileceği endişesine dayanıyor.

Yapay süperzekâ için doğrudan geliştirme yasağı

Sanders ve Casar’ın önerisi, yapay zekâ ürünlerinin kullanımını, veri işleme yöntemlerini veya belirli sektörlerdeki uygulamaları düzenlemekten farklı bir çizgide duruyor. Teklif, tehlikeli olduğu değerlendirilen bir kapasiteye ulaşabilecek sistemlerin geliştirilmesini baştan yasaklamayı savunuyor.

Bu nedenle tasarı, mevcut yapay zekâ düzenlemelerinden daha sert bir yaklaşım ortaya koyuyor. Pek çok düzenleme, sistemlerin güvenli biçimde test edilmesine, kullanıcıların korunmasına veya şirketlerin sorumluluklarına odaklanırken burada temel hedef geliştirme faaliyetinin kendisi. Başka bir ifadeyle teklif, belirli bir ürünün piyasaya çıkmasını sınırlamak yerine yapay süperzekâ üretme çalışmalarını hukuken engellemeyi amaçlıyor.

Tasarıda yapay süperzekâ, yalnızca insanlardan daha hızlı işlem yapan veya daha fazla bilgi analiz eden bir yazılım olarak tanımlanmıyor. Odak noktası, insanlığın ortadan kaldırılmasına ya da kontrolünü kaybetmesine yol açabilecek bir kapasite. Hükümetin devrilmesi gibi senaryolar da insanların yönetim ve karar alma gücünü yitirmesine ilişkin örnekler arasında değerlendiriliyor.

Ancak “yapay süperzekâ” kavramının hangi teknik ölçütlerle belirleneceği, teklifin uygulanması açısından yanıtlanması gereken sorular arasında yer alıyor. Paylaşılan bilgiler, bir sistemin hangi yetenek seviyesinde yasağın kapsamına gireceğini veya değerlendirmeyi hangi kurumun yapacağını açıklamıyor. Bu ayrıntılar netleşmeden tasarının pratikte nasıl uygulanacağı belirsizliğini koruyor.

İhlal durumunda 20 yıla kadar hapis gündemde

Teklifin en dikkat çekici maddesi, yasağı ihlal eden kişilere yönelik ceza. Yapay süperzekâ geliştirme yasağına aykırı hareket eden AI yöneticileri, 20 yıla kadar hapis cezasıyla karşılaşabilecek. Böylece sorumluluğun yalnızca şirketlere veya diğer tüzel kişiliklere bırakılmaması, geliştirme sürecini yöneten kişilerin de doğrudan sorumlu tutulması planlanıyor.

Bu ceza, tasarının yapay süperzekâ riskini sıradan bir güvenlik veya uyum sorunu olarak ele almadığını gösteriyor. Teklifin arkasındaki yaklaşım, insanlığın varlığı ve kendi kararlarını verme kapasitesi açısından tehdit oluşturabilecek bir sistemi geliştirmenin ağır bir suç sayılması gerektiği yönünde.

Öte yandan teklif henüz yürürlüğe girmiş bir yasa değil. Sanders ve Casar tarafından sunulan bir yasa tasarısı olarak değerlendirme sürecinde bulunuyor. Dolayısıyla 20 yıla kadar hapis cezası şu anda uygulanmaya başlamış bir yaptırım değil; tasarının yasalaşması hâlinde gündeme gelebilecek bir ceza olarak yer alıyor.

Tasarı, yapay zekâ yarışının sınırlarını tartışmaya açıyor

Yapay zekâ şirketleri daha yetenekli sistemler geliştirmeye çalışırken hazırlanan bu teklif, tartışmayı yalnızca mevcut ürünlerin güvenliğiyle sınırlı bırakmıyor. Sanders ve Casar, insanlığın kontrolünü aşabileceği düşünülen bir teknolojiye karşı güvenlik önlemleri almak yerine geliştirme yasağını savunan hukuki bir çerçeve öneriyor.

Bu yaklaşımın teknoloji sektörü açısından en önemli sonucu, şirketlerin hangi araştırma faaliyetlerinin yasak kapsamına gireceği sorusunu gündeme getirmesi. Bir sistemin yapay süperzekâ olarak sınıflandırılması için hangi özelliklere sahip olması gerektiği, sorumluluğun hangi aşamada başlayacağı ve yöneticilerin hangi eylemler nedeniyle cezalandırılacağı tasarının geleceği açısından belirleyici olabilir.

Girişim aynı zamanda ABD’de yapay zekâ politikalarının yalnızca inovasyonu destekleme veya riskleri azaltma ekseninde tartışılmadığını da gösteriyor. Yapay süperzekânın insanlığın kontrolünü aşabileceği ihtimali, bazı siyasetçiler tarafından geliştirme faaliyetlerini tamamen durdurmayı gerektiren bir tehdit olarak görülüyor. Tasarı yasalaşsa da yasalaşmasa da, yapay zekânın sınırlarına ilişkin siyasi tartışmanın daha sert bir zemine taşınmasına katkı sağlıyor.