Anthropic CEO’sundan yapay zekâ gelişimine fren planı

Yapay zekâ sistemlerinin yetenekleri hızla artarken, sektörün önde gelen isimlerinden daha temkinli ilerleme çağrıları geliyor. Anthropic CEO’su Dario Amodei, yayımladığı blog yazısında yapay zekâ modellerinin kapasitesini artırma hızının düşürülmesi gerektiğini söyledi. Amodei’ye göre ilerleme yavaşlasa bile teknoloji hızlı gelişmeye devam edecek; kazanılan zaman ise güvenlik çalışmaları ve risk değerlendirmeleri için kullanılmalı.

Amodei’nin yaklaşımı, yapay zekâ alanında güvenlik ve kontrol tartışmalarının yoğunlaştığı bir dönemde geldi. OpenAI CEO’su Sam Altman da daha önce yapay zekâ geliştirme hızının “ayarlanması” gerekebileceğini dile getirmişti. Anthropic bünyesinde çalışan araştırmacı Jacob Coxon’ın istifası ise sektördeki risk tartışmalarını daha görünür hâle getirdi. Coxon, önde gelen yapay zekâ şirketlerinin teknolojinin olası sonuçları konusunda yeterince temkinli davranmadığını savundu.

Amodei’yi daha temkinli yaklaşıma iten iki gelişme

Anthropic CEO’su, yapay zekâ geliştirme hızının yeniden değerlendirilmesi gerektiği sonucuna varmasında iki olayın etkili olduğunu belirtti. Bunlardan ilki, OpenAI ile Hugging Face arasında yaşanan siber saldırı olayıydı. İkinci neden ise yapay zekânın son aylarda “dramatik biçimde” hızlanması ve sistemlerin bir sonraki yapay zekâ neslinin geliştirilmesine katkı sunma kapasitesinin büyümesiydi.

Bu tablo, yapay zekâ şirketlerinin yalnızca mevcut modellerin yeteneklerini değil, sonraki modellerin geliştirilme sürecini de otomatikleştirebildiği bir noktaya işaret ediyor. Amodei, bu nedenle güvenlik kontrollerinin model geliştirme hızına yetişememe riski taşıdığını düşünüyor. CEO, şirketlerin daha fazla yetenek elde etmeye odaklanırken güvenlik taahhütlerini de bağımsız biçimde doğrulatması gerektiğini savunuyor.

Şirketlerin içine bağımsız değerlendiriciler yerleşecek

Amodei’nin önerdiği ilk mekanizma, üçüncü taraf kuruluşlardan gelecek bağımsız değerlendiricilerin yapay zekâ şirketlerinde görev yapması. METR gibi kuruluşlardan seçilebilecek bu uzmanlar, şirketlerin hız sınırlaması ve güvenlik sözlerini yerine getirip getirmediğini inceleyecek. Ayrıca güvenlik olaylarının bildirilip bildirilmediğini de kontrol edebilecekler.

Bu değerlendiricilerin şirket içinde yalnızca dışarıdan denetim yapan kişiler olarak kalması planlanmıyor. Amodei, kendilerine şirket kimliği, çalışma masası ve dizüstü bilgisayar verilmesini öneriyor. Erişim düzeylerinin, yasal veya sözleşmeye bağlı sınırlamalar dışında, şirketlerin iç risk değerlendirme ekiplerine büyük ölçüde benzemesi bekleniyor.

Anthropic CEO’su, şirketinin bu uygulamayı tek taraflı olarak hayata geçirmeyi taahhüt ettiğini söyledi. Ayrıca hükümetlerin diğer öncü yapay zekâ şirketlerinden de benzer düzenlemelere uymasını istemesi gerektiğini belirtti. Bu model, şirketlerin kendi güvenlik raporlarını hazırlamasının ötesine geçerek dışarıdan sürekli kontrol yapılmasını amaçlıyor.

Ortak güvenlik standartları çağrısı

Amodei’nin ikinci önerisi, demokratik ülkelerde faaliyet gösteren büyük yapay zekâ şirketlerinin ortak güvenlik standartları belirlemesi. Bu standartların yanında, kontrolsüz yapay zekâ ilerlemesinin hızına ilişkin sınırların da birlikte oluşturulması isteniyor.

Şirketlerin rakipleriyle aynı masaya oturması, rekabet ve antitröst kuralları nedeniyle kolay görünmüyor. Amodei, bu görüşmelerin ABD hükümeti tarafından yönetilmesi ya da en azından hukuki zeminin hazırlanması gerektiğini ifade etti. Hükümetin görüşmelere doğrudan katılması gerekmeyebilir; ancak belirli güvenlik görüşmelerinin rekabet hukuku açısından sorun oluşturmayacağını netleştiren dar kapsamlı bir muafiyet sağlanması öneriliyor.

Yapay zekâ geliştirme hızının düşürülmesine karşı en sık kullanılan argümanlardan biri, Çin’in sektörde liderliği ele geçirme ihtimali. Amodei ise ABD hükümeti ve teknoloji şirketlerinin Çinli şirketlere güçlü çipler ile yarı iletken üretim ekipmanlarının satışını sınırlaması ve model damıtma faaliyetlerine karşı daha sert önlemler alması hâlinde Çin’in ilerlemesinin yavaşlatılabileceğini savunuyor. Ona göre bu tür politikalar, önümüzdeki üç ila beş yıl içinde ABD’nin mevcut avantajını artırabilir.

Amodei’nin açıklamaları, yapay zekâ güvenliğini yalnızca şirketlerin iç politikalarına bırakmayan bir model öneriyor. Bağımsız denetçiler, ortak standartlar ve hükümetlerin sağlayacağı hukuki çerçeve birlikte uygulanırsa, şirketlerin geliştirme hızını ve güvenlik uygulamalarını daha yakından izlemek mümkün olabilir. Ancak bu yaklaşımın diğer şirketler tarafından benimsenip benimsenmeyeceği ve ülkeler arasında nasıl uygulanacağı henüz netleşmiş değil.