Anthropic, Yüksek Riskli Yapay Zekâ Modellerini Durdurmak İstiyor

Anthropic, yapay zekâ modellerinin yol açabileceği en ağır sonuçları sınırlamak için ABD’de yeni bir federal yasa taslağı hazırladı. Şirket, belirli yapay zekâ sistemlerinin yakın zamanda gerçekleşebilecek ve geniş çaplı bir felakete yol açma ihtimali taşıması durumunda dağıtımın geçici olarak durdurulmasını istiyor.

Öneri, devlet kurumlarına herhangi bir modeli doğrudan ve kendi kararıyla kapatma yetkisi vermiyor. Bunun yerine bağımsız uzmanların yapacağı değerlendirme, Ticaret Bakanlığı’nın başvurusu ve federal mahkeme süreci üzerinden ilerleyen bir mekanizma kurulması planlanıyor.

Risk eşiği nasıl belirlenecek?

Taslakta bir yapay zekâ modelinin en yüksek risk kategorisine girmesi için iki ölçüt öne çıkıyor. Modelin öngörülebilir ve yakın bir zamanda 50’den fazla kişinin hayatını kaybetmesine yol açabilecek bir tehlike oluşturması ya da 1 milyar doları aşabilecek mülk zararına neden olma ihtimali bulunması gerekiyor.

Ancak yüksek zarar ihtimali tek başına yeterli olmayacak. Riskin biyolojik silah geliştirilmesi, modelin geliştiricisi tarafından uygulanan güvenlik kontrollerinin aşılması veya bir siber saldırının gerçekleştirilmesiyle bağlantılı olması aranacak. Böylece düzenleme, yapay zekânın neden olabileceği her türlü olumsuz sonucu değil, özellikle büyük ölçekli ve belirli tehdit türlerini hedefleyecek.

Bu yaklaşım, yapay zekâ güvenliği tartışmasını ölçülebilir sonuçlar üzerinden yürütmeyi amaçlıyor. İnsan kayıpları ve maddi zarar için belirlenen eşikler, hangi modellerin daha sıkı bir incelemeye tabi tutulabileceğine dair somut bir çerçeve sunuyor. Buna karşılık daha düşük ölçekli fakat sürekli tekrarlanabilecek risklerin nasıl değerlendirileceği taslakta ayrıntılı biçimde açıklanmıyor.

Son karar federal mahkemeye bırakılacak

Anthropic’in önerdiği süreçte bağımsız değerlendiriciler kilit rol üstlenecek. Bir yapay zekâ sisteminin yakın zamanda büyük ölçekli bir felakete yol açabileceği sonucuna varan uzmanların, durumu 72 saat içinde ABD Ticaret Bakanlığı’na bildirmesi gerekecek.

Bakanlık, bildirimin ardından Washington’daki bir federal mahkemeye başvurarak ilgili modelin dağıtımının geçici olarak durdurulmasını talep edebilecek. Böylece bir yapay zekâ sisteminin piyasaya sunulmasını engelleme kararı doğrudan yürütme organının takdirine bırakılmayacak. Nihai değerlendirme mahkeme sürecinde yapılacak.

Taslak ayrıca incelemeleri yürütecek uzmanların Ticaret Bakanlığı’na kayıtlı olmasını öngörüyor. Değerlendiricilerin ücretlerini yapay zekâ şirketlerinin karşılaması mümkün olacak ancak ödemenin incelemenin sonucuna bağlanmaması gerekecek. Bu düzenleme, uzmanların finansmanını şirketlerden alırken bağımsız kalıp kalamayacağı sorusunu da gündeme getiriyor.

California’daki eşiklerle benzerlik taşıyor

Anthropic’in önerisindeki 50 kişi ve 1 milyar dolar eşikleri, California’da kısa süre önce yasalaşan Senate Bill 53’teki “felaket riski” yaklaşımıyla benzerlik gösteriyor. Bu ortaklık, eyalet ve federal düzeyde yapay zekâ kaynaklı büyük zararları tanımlamak için benzer ölçütler kullanılabileceği anlamına geliyor.

Yine de Anthropic’in metni şu an yalnızca bir yasa önerisi. Kongre tarafından kabul edilmiş bir düzenleme bulunmuyor ve taslağın ne zaman görüşüleceğine ilişkin doğrulanmış bir takvim açıklanmış değil. Bu nedenle öneride yer alan eşiklerin ve mahkeme sürecinin yürürlüğe girip girmeyeceği belirsizliğini koruyor.

Şirket, taslağın daha önce savunduğu Advanced AI Framework yaklaşımıyla uyumlu olduğunu belirtiyor. Anthropic bu çerçeve hakkında federal ve eyalet yöneticileriyle görüşmeler yürüttüğünü ifade ediyor. Yeni öneri, şirketin yalnızca geliştirdiği modellerin güvenliğine ilişkin politika sunmadığını, aynı zamanda bu alanda uygulanabilecek yasal denetim mekanizmaları için de çerçeve oluşturmaya çalıştığını gösteriyor.

Yapay zekâ ajanları da tartışmanın parçası

Taslakta temel ağırlık biyolojik silahlar, siber saldırılar ve büyük çaplı fiziksel zarar risklerine veriliyor. Ancak yapay zekâ güvenliği alanındaki tartışmalar bununla sınırlı değil. Son dönemde, kullanıcı adına internette işlem yapabilen yapay zekâ ajanlarının verilen talimatlardan sapması ve kontrol sınırlarını aşması da gündeme geliyor.

Bazı yapay zekâ programlarının açık internet üzerindeki sitelere saldırdığı veya kendilerine tanınan sınırların dışına çıktığı yönündeki olaylar, güvenlik kontrollerinin ne kadar etkili olduğu sorusunu büyütüyor. Bu tür olaylar tek başına taslakta belirtilen 50 kişilik ölüm veya 1 milyar dolarlık zarar eşiğine ulaşmayabilir. Buna rağmen tekrarlandıklarında ciddi güvenlik, operasyon ve güven sorunu yaratabilirler.

Anthropic’in önerisi bu nedenle iki farklı denetim ihtiyacını aynı anda gündeme getiriyor. Bir tarafta nadir gerçekleşse bile çok büyük sonuçlar doğurabilecek tehditler bulunuyor. Diğer tarafta ise daha küçük ölçekte ortaya çıkan, fakat yapay zekâ sistemleri yaygınlaştıkça tekrarlanma ihtimali artan ihlaller yer alıyor. Taslağın yasalaşması hâlinde mahkemelerin ve bağımsız değerlendiricilerin bu iki risk grubunu nasıl ayıracağı belirleyici olacak.

Önerinin geleceği, büyük riskleri önlemek için hızlı müdahale ihtiyacı ile şirketlerin ürün geliştirme özgürlüğü arasında nasıl bir denge kurulacağına bağlı. Mahkeme gözetimi, bağımsız değerlendirme ve şirket finansmanı arasındaki ilişki de düzenlemenin uygulanabilirliği açısından merkezi rol oynayacak.