OpenAI yöneticisinden yapay zekâ kazaları için ölüm riski uyarısı

OpenAI Vakfı Yönetim Kurulu ve Güvenlik Komitesi üyesi Paul Christiano, gelişmiş yapay zekâ sistemlerinin oluşturabileceği risklere dair sert bir uyarı yaptı. Geoffrey Hinton’ın ev sahipliğindeki The Hinton Lectures 2026 etkinliğinde konuşan Christiano, salondaki birçok kişi açısından yapay zekâ kaynaklı bir kazanın en olası ölüm nedeni olabileceğini söyledi. Bu, kesin bir öngörü ya da belirli bir kişinin başına gelecekleri bildiren bir tahmin değil; gelişmiş sistemlerin güvenliğine yönelik endişesini anlatan kişisel bir değerlendirme.

Christiano’nun açıklaması, yapay zekâ alanındaki tartışmanın yalnızca teknolojinin neler yapabileceğiyle sınırlı olmadığını hatırlatıyor. Sistemler daha yetenekli hâle geldikçe, insanların onları denetleme ve gerektiğinde durdurma imkânı da güvenlik gündeminin parçası oluyor. Christiano, yapay zekânın insan kontrolünden çıkma ihtimaline ilişkin tahminlerini paylaşırken bunların kesin bilimsel sonuçlar olmadığını, öznel yargılara dayandığını özellikle vurguladı.

Kontrol kaybı tahminleri senaryoya göre değişiyor

Christiano’nun değerlendirmesine göre, yapay zekâ laboratuvarları geliştirme çalışmalarını herhangi bir müdahale olmaksızın mümkün olan en yüksek hızda sürdürürse, üç yıl içinde sistemlerin kontrolü ele geçirme ihtimali yazı tura düzeyine ulaşabilir. Bu senaryo, yapay zekânın bugün kontrolü ele geçirdiği anlamına gelmiyor. Tahmin, hızlı ilerlemenin güvenlik önlemlerinin önüne geçebileceği varsayımına dayanıyor.

Christiano, eylül ayında yaptığı başka bir değerlendirmede de insan kontrolünün felaket boyutunda kaybedilmesi ihtimalini bir yıl için yüzde 4, üç yıl için yüzde 15 olarak tahmin etmişti. Etkinlikteki açıklamasıyla birlikte ele alındığında bu oranlar, risk tahminlerinin seçilen senaryoya ve zaman aralığına göre değişebildiğini gösteriyor. Ayrıca oranlar, kesin gerçekleşme olasılıkları olarak değil, belirsizlik içeren uzman değerlendirmeleri olarak okunmalı.

Christiano’ya göre laboratuvarların geliştirme hızını sınırlaması riski azaltabilir; ancak tehlikeyi tamamen ortadan kaldırmayabilir. Bu nedenle tartışma, yalnızca yapay zekâ sistemlerinin ne kadar güçlü olacağıyla ilgili değil. Güvenlik testlerinin geliştirme sürecine ne zaman dâhil edildiği, insanların sistemleri ne ölçüde denetleyebildiği ve gerektiğinde müdahale mekanizmalarının çalışıp çalışmadığı da belirleyici sorular arasında.

Bu yaklaşım, risk tartışmalarında tek bir önlemin yeterli olmayabileceğine işaret ediyor. Geliştirme hızını düşürmek, Christiano’nun değerlendirmesinde ihtimali azaltabilecek unsurlardan biri. Ancak sistemlerin davranışlarını sınamak ve kontrol imkânlarını korumak da aynı güvenlik çerçevesinin parçaları. Etkinlikte paylaşılan tahminler, bu tedbirlerin ne ölçüde yeterli olacağına dair kesin bir yanıt sunmuyor.

Diğer araştırmacılar da farklı risk senaryolarına işaret ediyor

Etkinlikteki kaygılar yalnızca Christiano’nun değerlendirmesiyle sınırlı kalmadı. AI Futures Project araştırmacılarından Eli Lifland, yapay zekânın kendi gelişimini hızlandırabileceğine işaret eden araştırmaları inceledikten sonra, insanlığın önümüzdeki üç ila 12 ay içinde geleceği üzerindeki kontrolünü kaybetmesinden endişe duyduğunu belirtti. Bu ifade de gerçekleşmesi kesin bir olay bildirimi değil, Lifland’ın paylaştığı risk değerlendirmesi.

Redwood Research CEO’su Buck Shlegeris ise yapay zekâ sistemlerini insan hedefleriyle uyumlu tutma sorununa, yani hizalama konusuna odaklandı. Shlegeris, hizalama problemlerinin bir yıl içinde normal yaşamı imkânsız hâle getirme ihtimalini yüzde 20 olarak değerlendirdi. Bu senaryonun ölüm, insanların köleleştirilmesi, biyolojik silahların yayılması veya büyük savaşlar gibi sonuçlara yol açabileceğini öne sürdü. Bunlar yaşanmış olaylar değil, araştırmacının olası risklere ilişkin tahminleri.

Uzmanların paylaştığı oranlar arasındaki fark, yapay zekâ kaynaklı riskleri ölçmenin zorluğunu da ortaya koyuyor. Tahminler farklı varsayımlara ve senaryolara dayanıyor; bu nedenle tek bir yüzdeyi kesin gelecek bilgisi gibi sunmak doğru olmaz. Christiano’nun uyarısının merkezinde de kazaların kaçınılmaz olduğu iddiası değil, sistemlerin yetenekleri artarken güvenlik ve insan denetiminin geliştirme çalışmalarının gerisinde kalmaması gerektiği düşüncesi yer alıyor.

Sık sorulan sorular

Paul Christiano yapay zekâ kazaları hakkında ne söyledi?

The Hinton Lectures 2026’da konuşan Christiano, salondaki birçok kişi açısından yapay zekâ kaynaklı bir kazanın en olası ölüm nedeni olabileceğini söyledi. Bunun kesin bir öngörü değil, kişisel bir değerlendirme olduğu vurgulandı.

Christiano’nun kontrol kaybı tahmini nedir?

Laboratuvarlar müdahale olmadan en yüksek hızda ilerlerse, üç yıl içinde sistemlerin kontrolü ele geçirme ihtimalinin yazı tura düzeyine ulaşabileceğini belirtti. Eylülde ise felaket boyutunda kontrol kaybını bir yıl için yüzde 4, üç yıl için yüzde 15 olarak tahmin etmişti.

Diğer araştırmacılar nasıl bir risk görüyor?

Eli Lifland, insanlığın üç ila 12 ay içinde kontrolü kaybetmesinden endişe duyduğunu söyledi. Buck Shlegeris ise hizalama problemlerinin bir yıl içinde normal yaşamı imkânsız hâle getirme ihtimalini yüzde 20 olarak değerlendirdi.

Bu tahminler kesin sonuçlar mı?

Hayır, paylaşılan oranlar kesin gerçekleşme olasılıkları değil, farklı varsayımlara dayanan ve belirsizlik içeren uzman değerlendirmeleri.