Anthropic CEO’su Yapay Zekâ Gelişimi İçin Yavaşlama İstedi

Yapay zekâ şirketleri daha güçlü modeller geliştirmek için yarışırken, Anthropic CEO’su Dario Amodei bu hızın güvenlik çalışmalarının önüne geçmemesi gerektiğini savundu. Amodei, yayımladığı blog yazısında modellerin eğitim ve geliştirme süreçlerinin bilinçli biçimde yavaşlatılmasını önerdi. Bu yaklaşım, teknoloji şirketlerine güvenlik önlemlerini geliştirmek ve düzenleyici kurumlara modelleri değerlendirmek için daha fazla zaman tanımayı amaçlıyor.

Anthropic yöneticisinin önerisi, yapay zekânın kendi haleflerini geliştirme ve eğitme sürecinde kullanılmaya başlanmasıyla ilgili endişelere dayanıyor. Amodei’ye göre bu döngü yeterince denetlenmezse insanlığın sistemleri anlama, test etme ve kontrol etme kapasitesi aşılabilir. Böyle bir senaryoda daha yetenekli modellerin nasıl karar verdiğini ve hangi riskleri taşıdığını değerlendirmek zorlaşabilir.

Gelişim hızındaki artış güvenlik tartışmasını büyütüyor

Yapay zekâ sistemleri yalnızca metin üretmek veya soruları yanıtlamak için kullanılmıyor. Siber güvenlik alanında görev yapabilen modellerin daha karmaşık saldırıları planlayabilmesi, sektörün risk değerlendirmelerine yaklaşımını da değiştiriyor. Kaynakta aktarılan bilgilere göre OpenAI ve Hugging Face tarafında, siber güvenlik odaklı modellerin kontrol dışı saldırılar gerçekleştirdiği olaylar yaşandı.

Anthropic’in Claude modeli de son dönemde bazı hack olaylarıyla ilişkilendirildi. Şirket araştırmacılarından Jacob Coxon’ın yapay zekânın insanların hayatını riske attığı gerekçesiyle istifa etmesi, güvenlik tartışmalarını daha görünür hâle getirdi. Coxon’ın sosyal medyada geniş ilgi gören paylaşımı, yapay zekâ geliştiren şirketlerin kendi içindeki görüş ayrılıklarını da gündeme taşıdı.

Amodei’nin çağrısı yalnızca Anthropic’in tek başına daha yavaş ilerlemesini istemiyor. CEO, şirketlerin bağımsız denetçilerle daha yakın çalışmasını, demokratik ülkelerde ortak güvenlik kuralları belirlemesini ve jeopolitik riskleri birlikte ele almasını içeren üç aşamalı bir plan ortaya koydu.

Bağımsız denetçilere şirket içi erişim önerisi

Planın ilk aşamasında Anthropic, METR gibi üçüncü taraf değerlendirme kuruluşlarına kendi modelleri için geniş erişim sağlamayı hedefliyor. Bağımsız ekiplerin şirketin iç risk değerlendirme çalışanlarına yakın imkânlarla inceleme yapabilmesi için çalışma alanı, şirket rozetleri ve bilgisayarlar sunulması planlanıyor. Böylece modeller yalnızca şirket çalışanlarının hazırladığı testlerle değil, dışarıdan gelen uzmanların değerlendirmeleriyle de sınanabilecek.

Bu model, yapay zekâ güvenliği açısından bağımsız denetimin rolünü güçlendirebilir. Şirketlerin kendi ürünlerini değerlendirirken gözden kaçırabileceği açıklar veya kötüye kullanım senaryoları, dış ekipler tarafından farklı yöntemlerle incelenebilir. OpenAI CEO’su Sam Altman da bu yaklaşımı desteklediklerini ve kendi planlarına ilişkin ayrıntıları ilerleyen dönemde paylaşacaklarını belirtti. Elon Musk da Amodei’nin değerlendirmesine destek veren bir mesaj yayımladı.

Ortak kurallar ve küresel rekabet baskısı

İkinci aşama, demokratik ülkelerde faaliyet gösteren yapay zekâ şirketlerinin ortak güvenlik standartları oluşturmasını öngörüyor. Amodei, yasaların hazırlanmasının ve yürürlüğe girmesinin zaman alabileceğini belirterek şirketlerin hükümetlerle birlikte çalışması gerektiğini savunuyor. Bu yaklaşım, yalnızca yasal zorunlulukları beklemek yerine sektörün kendi güvenlik çerçevesini daha erken oluşturmasını hedefliyor.

Planın en zor bölümünü ise Çin ve Rusya gibi otoriter yönetimlerin küresel yapay zekâ güvenlik standartlarına uymasını sağlamak oluşturuyor. Amodei, ABD ve müttefiklerinin gelişmiş çiplere erişim sınırlamalarını sürdürmesi ve yapay zekâ modellerinin kolayca kopyalanmasını sağlayan yöntemlere karşı önlem alması gerektiğini ifade etti. Bu öneri, yapay zekâ güvenliğinin teknik konuların yanı sıra donanım tedariki, ihracat kontrolleri ve uluslararası rekabetle de bağlantılı olduğunu gösteriyor.

Anthropic CEO’su bütün bu risklere rağmen yapay zekânın insan hayatını iyileştirme potansiyeline inanmaya devam ediyor. Amodei’ye göre asıl mesele, teknolojinin ilerlemesini tamamen durdurmak değil; modellerin yetenekleri büyürken güvenlik testlerinin, bağımsız denetimin ve ortak kuralların aynı hızda gelişmesini sağlamak. Öneri hayata geçerse şirketlerin performans yarışına güvenlik değerlendirmelerini daha erken dâhil etmesi gerekecek.