Yapay zekânın insanlığı yok etme riskine karşı 4 katman

Yapay zekânın önümüzdeki 10 yıl içinde insanlığın tamamını yok edebileceği yönündeki tartışma, teknoloji dünyasında yeniden gündemin üst sıralarına çıktı. Princeton Üniversitesinden bilgisayar bilimcileri Sayash Kapoor ve Arvind Narayanan, riski yalnızca yapay zekâ sistemlerinin hedeflerini insanlarla uyumlu hâle getirmeye dayandırmanın yeterli olmadığını savunuyor.

İkilinin yaklaşımı, yapay zekâ güvenliğini dört ayrı savunma katmanına ayırıyor. Bu model; sistemlerin amaçlarını insan değerleriyle uyumlu hâle getirmeyi, yapay zekânın çalışma alanını sınırlandırmayı, saldırılara karşı savunma sistemleri kullanmayı ve olası bir saldırının ardından toparlanmayı kapsıyor.

Tartışmayı büyüten açıklamalar

Konunun yeniden alevlenmesinin arkasında, daha önce OpenAI ve Anthropic bünyesinde çalışmış yapay zekâ araştırmacısı Jacob Coxon’ın istifasının ardından yaptığı paylaşım bulunuyor. Coxon, yapay zekâ geliştiren şirketlerin sistemlerin on yılın sonuna kadar insanlığın tamamını yok edebileceğinin farkında olduğunu ileri sürdü. Paylaşım 156 milyondan fazla görüntülenmeye ulaştı.

Anthropic’in yapay zekâ güvenliği ekibinde görev yapan Evan Hubinger ise bu iddiayı bütünüyle reddetmedi. Hubinger, yapay zekânın gelecek on yıl içinde tüm insanları yok etme ihtimalinin yüzde 10’dan yüksek olduğunu düşündüğünü söyledi. Ayrıca süper zekâ için hizalama problemini çözen bir planın henüz bulunmadığını ve mevcut çalışmaların bu hedefe ulaştığını söylemek için erken olduğunu belirtti.

Tartışmada öne çıkan senaryolardan biri, gelişmiş yapay zekâ sistemlerinin elektrik ve su tesisleri gibi kritik altyapılara yönelik yıkıcı siber saldırılar düzenleyebilmesi. Modern toplumun işleyişi bu tür altyapılara bağlı olduğu için, saldırıların yalnızca dijital sistemlerle sınırlı kalmayıp günlük yaşamı da etkileyebileceği düşünülüyor.

Hizalama tek başına yeterli olmayabilir

Hizalama, yapay zekânın hedeflerini ve davranışlarını insanlığın amaçlarıyla uyumlu hâle getirme çalışmalarını ifade ediyor. Bu yaklaşımı savunanlar, sistemler insanlarla aynı hedefleri benimsediğinde büyük risklerin ortadan kalkabileceğini düşünüyor. Ancak karşı görüşte olanlar, bir yapay zekânın güvenlik denetimlerini geçmek için uyumluymuş gibi davranabileceğini ve asıl hedeflerini gizleyebileceğini belirtiyor.

Kapoor ve Narayanan, yapay zekâ risklerine yaklaşırken iki uç görüş arasında daha dengeli bir yol izlenmesi gerektiğini söylüyor. Onlara göre bir tarafta yapay zekânın kontrol edilemeyecek kadar tehlikeli hâle geleceğini savunan güvenlik araştırmacıları, diğer tarafta ise riskleri mevcut siber güvenlik sorunlarından farklı görmeyen çevreler bulunuyor. Gerçekçi bir güvenlik stratejisi, bu iki yaklaşımın güçlü yanlarını bir araya getirmeli.

Dört katmanlı yapay zekâ güvenliği

Önerilen modelde hizalama, güvenlik zincirinin yalnızca ilk halkası olarak görülüyor. Diğer katmanlar şöyle sıralanıyor:

Hizalama: Yapay zekâ sistemlerinin hedeflerinin insanlığın güvenliği ve çıkarlarıyla uyumlu olması amaçlanıyor. Bununla birlikte sistemin gerçekten uyumlu davranıp davranmadığının sürekli test edilmesi gerekiyor.

Kontrol: Sistemleri sanal ortamlarda çalıştırmak, yetkilerini sınırlamak, insan denetimi uygulamak ve gerçek zamanlı izleme yapmak riskin büyümesini engelleyebilir. Böylece yapay zekâ, kritik kaynaklara doğrudan ve sınırsız erişim elde edemez.

Aşağı akış savunması: Kurumlar, yapay zekâ destekli saldırıları tespit etmek ve durdurmak için yine yapay zekâ sistemlerinden yararlanabilir. Bu yaklaşım, savunma kapasitesini saldırı yöntemlerinin gelişme hızına yaklaştırmayı hedefliyor.

Dayanıklılık: Tüm önlemlere rağmen başarılı bir saldırı gerçekleşirse, kurumların hizmetleri yeniden başlatmasını sağlayacak acil durum planlarına ihtiyaç var. Yedek sistemler, kurtarma prosedürleri ve alternatif çalışma yöntemleri bu katmanın parçası olarak değerlendiriliyor.

Bu yaklaşım, yapay zekâ şirketlerinin yalnızca model davranışlarını düzeltmeye değil, sistemlerin çevresindeki teknik ve kurumsal güvenlik ağını güçlendirmeye de odaklanmasını gerektiriyor. Araştırmacılara göre yeterli hız ve ciddiyetle hareket edilirse şirketler daha yüksek güvenlik standartlarına tabi tutulabilir ve en kötü senaryoların gerçekleşme ihtimali azaltılabilir.