Yapay zekâ kıyamet uyarıları neden yeniden gündemde?

Yapay zekânın insanlık için varoluşsal bir tehdit oluşturabileceği yönündeki uyarılar, teknoloji sektöründe yeniden sert bir tartışma başlattı. Tartışmanın merkezinde, Anthropic bünyesinde çalışan bir araştırmacının istifası ve şirketin yapay zekâ güvenliği ekibinden gelen çarpıcı bir paylaşım yer alıyor.

Yapay zekâ araştırmacısı Jacob Coxon, Anthropic’ten ayrılırken önde gelen yapay zekâ şirketlerinin “hayatlarımızla kumar oynadığını” düşündüğünü söyledi. Coxon’ın daha önce OpenAI’de de çalışmış olması, açıklamasının sektörde daha geniş yankı bulmasına katkı sağladı.

Anthropic’in yapay zekâ hizalama ekibinin lideri ise Coxon’ın açıklamalarını paylaşarak şirket içinde yapay zekânın tüm insanları öldürebileceğine gerçekten inanıldığını belirtti. Aynı paylaşımda, önümüzdeki on yıl içinde böyle bir sonucun gerçekleşme ihtimalinin yüzde 10’dan fazla olduğu ifade edildi.

Tartışmanın merkezinde hangi sorular var?

Bu açıklamalar, yalnızca yapay zekânın potansiyel risklerini değil, şirketlerin bu riskleri kamuoyuna nasıl anlattığını da gündeme taşıdı. Yapay zekâ araştırmacıları ve teknoloji yöneticileri, uzun süredir modellerin kontrol dışına çıkması, yanlış amaçlarla kullanılması veya beklenmedik yetenekler kazanması gibi ihtimalleri tartışıyor. Ancak “insanlığın tamamen yok olması” gibi bir senaryoya belirli bir olasılık vermek, bu tartışmayı daha da keskinleştiriyor.

Podcast yayınındaki değerlendirmelerde, yüzde 10’dan yüksek risk tahmininin neye dayandığı sorgulandı. Yapay zekâ çevrelerinde bu tür tahminler genellikle “P(doom)” adı verilen, felaket ihtimalini ifade eden bir kavramla ilişkilendiriliyor. Fakat tek başına bir oran paylaşmak, hesaplama yöntemi ve dayanaklar açıklanmadığında bilimsel bir kesinlik anlamına gelmiyor.

Eleştirilerin bir bölümü de “biz” ifadesine yöneldi. Anthropic’teki bir yöneticinin şirket veya daha geniş yapay zekâ topluluğu adına konuşup konuşamayacağı belirsizliğini koruyor. Yapay zekâ araştırma alanı; farklı şirketler, akademik ekipler ve bağımsız araştırmacılardan oluşuyor. Bu nedenle tek bir görüşü tüm sektöre mal etmek, tartışmanın sınırlarını olduğundan geniş gösterebilir.

Şirketlerin iletişimi neden mercek altında?

Yapay zekâ şirketleri son dönemde daha yetenekli modeller yayımlarken, güvenlik tartışmaları da paralel biçimde büyüyor. OpenAI’nin dahili bir modelini etkileyen Hugging Face saldırısı ve Anthropic ile OpenAI’nin son dönemde duyurduğu yeni yetenekler, sektördeki endişelerin arka planını oluşturuyor. OpenAI’nin birkaç hafta önce Astra adıyla anılan çalışması da bu tartışmada örnek gösterildi.

Bu ortamda yapılan sert uyarılar, şirketlerin teknik ilerlemelerini anlatma biçimiyle güvenlik mesajlarını birbirine yaklaştırabiliyor. Bir yandan modellerin ne kadar geliştiği vurgulanırken, diğer yandan bu yeteneklerin kontrol edilmesinin zorlaşabileceği söyleniyor. Bu iki mesajın aynı anda verilmesi, kamuoyunda şirketlerin riskleri abartarak teknolojik kapasitesini sergilemeye çalışıp çalışmadığı sorusunu doğuruyor.

Değerlendirmelerde, yaklaşan halka arz süreçlerinin de iletişim stratejilerini etkileyebileceği öne sürüldü. Özellikle Anthropic’in gelecekte sunacağı halka arz belgelerinde, yapay zekânın insanlığı yok etme ihtimaline dair bu görüşlerin nasıl ele alınacağı merak konusu oldu. Bu tür belgelerde şirketlerin risklerini, iş modellerini ve faaliyetlerini etkileyebilecek unsurları açık biçimde açıklaması bekleniyor.

Kesin hüküm yerine daha sağlam gerekçeler gerekiyor

Yapay zekânın ciddi riskler taşıyabileceğini savunmak ile belirli bir felaket oranı açıklamak aynı şey değil. İlk yaklaşım, güvenlik araştırmalarının ve denetim mekanizmalarının güçlendirilmesini gerektiren meşru bir uyarı olabilir. İkinci yaklaşım ise kullanılan model, varsayımlar ve hesaplama yöntemi paylaşılmadığında ikna gücünü kaybedebilir.

Tartışmanın bir başka boyutu da zamanlama. Sektördeki modeller hızla gelişirken, araştırmacıların ve şirket çalışanlarının endişelerini kamuoyuna taşıması daha sık görülüyor. Bu açıklamalar, gerçek güvenlik sorunlarının görünür olmasını sağlayabilir; ancak dramatik ifadeler ve temelsiz oranlar, güvenilir değerlendirmelerle spekülatif kıyamet anlatılarını birbirine karıştırma riski taşıyor.

Podcast konuşmasının, Anthropic CEO’su Dario Amodei’nin daha temkinli yapay zekâ geliştirme planını yayımlamasından önce kaydedildiği belirtildi. Bu nedenle tartışma, şirketlerin güvenlik politikalarını nasıl güncellediği ve kamuoyuna hangi ölçüde somut gerekçe sunduğu üzerinden devam edecek gibi görünüyor.