Sam Altman: Yapay zekâ için bazı zararları göze almalıyız

OpenAI CEO’su Sam Altman, yapay zekânın yaygınlaşmasının beraberinde bazı ciddi riskler getireceğini ancak bu risklerin teknolojinin sağlayacağı faydalarla birlikte değerlendirilmesi gerektiğini söyledi. Altman’a göre toplum, yapay zekânın insanlara daha fazla faydalı iş yapma imkânı sunması karşılığında siber saldırılar, dolandırıcılık ve benzeri zararların bir bölümünü göze almak zorunda kalabilir.

Altman bu görüşlerini bir podcast yayınında paylaştı. OpenAI yöneticisi, yapay zekânın gelecekte geniş bir alanda verimlilik sağlayabileceğini savundu. Ancak bu faydaların hangi sektörlerde veya hangi kullanım alanlarında ortaya çıkacağına ilişkin ayrıntılı bir liste vermedi. Açıklamanın merkezinde, teknolojinin potansiyel kazanımları ile kötüye kullanım riskleri arasında nasıl bir denge kurulacağı yer aldı.

OpenAI ve Anthropic risklere aynı açıdan bakmıyor

Altman’ın değerlendirmeleri, yapay zekâ güvenliği konusunda faaliyet gösteren şirketlerin düzenleme yaklaşımındaki ayrışmayı da gündeme taşıdı. OpenAI ve Anthropic daha önce gelişmiş yapay zekâ sistemleri için daha güçlü güvenlik kurallarına ihtiyaç olduğunu savunuyordu. Ancak Altman, iki şirketin risklerin nasıl yönetileceği ve düzenlemelerin ne kadar sıkı olması gerektiği konusunda artık aynı çizgide bulunmadığını ifade etti.

OpenAI CEO’su, kendi şirketini düzenleme tartışmasında “pragmatik merkez” olarak tanımladı. Altman’a göre Anthropic daha temkinli bir yaklaşımı temsil ederken, yapay zekâ alanında çok az kural isteyen gruplar karşı uçta yer alıyor. OpenAI ise güvenlik tedbirlerini korurken araştırma, ürün geliştirme ve rekabetin aşırı sınırlanmamasını isteyen bir çizgide duruyor.

Altman’ın itirazı yalnızca yetersiz düzenlemelere yönelik değil. Ona göre yapay zekâ gelişiminin güvenlik gerekçesiyle fazla yavaşlatılması da yeni sorunlar doğurabilir. Teknolojinin kontrolünün birkaç şirketin, kişinin veya tek bir ülkenin elinde toplanması, gücün kötüye kullanılma ihtimalini artırabilir. Bu nedenle yapay zekâyı tamamen serbest bırakmak kadar, gelişimini aşırı kısıtlamak da riskli bir sonuç yaratabilir.

Siber saldırılar ve dolandırıcılık riski büyüyor

Yapay zekâ sistemlerinin yetenekleri arttıkça kötü niyetli kişilerin bu araçları kullanma ihtimali de genişliyor. Otomatikleştirilmiş saldırılar, daha inandırıcı dolandırıcılık girişimleri ve insanları manipüle etmeye yönelik içerikler, tartışmanın öne çıkan başlıkları arasında bulunuyor. Altman, bu tür zararların yaşanabileceğini kabul ederken, değerlendirmelerin yalnızca olumsuz senaryolara odaklanmaması gerektiğini düşünüyor.

Bu yaklaşım, yapay zekâ gelişiminin hızını korumayı savunan görüşlerle örtüşüyor. Bu görüşe göre teknolojiyi yavaşlatmak, yalnızca topluma sağlayacağı faydaların gecikmesine yol açmıyor. Aynı zamanda araştırma ve geliştirme gücünün daha az sayıda aktörün elinde toplanmasına neden olarak farklı bir güvenlik sorunu oluşturabiliyor. Benzer şekilde, yapay zekânın zararları ile sağlayabileceği faydaların birlikte ele alınması gerektiğini savunan teknoloji yöneticileri de bulunuyor.

Altman, daha uç bir ihtimali de göz ardı etmedi. İnsanların yapay zekâ sistemleri üzerindeki kontrolünü kaybetmesi, teknoloji çevrelerinde tartışılan en ciddi risklerden biri olmaya devam ediyor. OpenAI CEO’su, böyle bir ihtimal karşısında geleceğe ani ve düşünmeden ilerlemek yerine kontrollü hareket edilmesi gerektiğini belirtti. Bu yaklaşım, teknolojinin durdurulmasını değil, ortaya çıkan risklerin yakından izlenmesini öngörüyor.

Düzenlemenin sınırı nasıl belirlenecek?

Yapay zekâ politikalarındaki tartışma artık yalnızca yeni modellerin ne kadar hızlı geliştirileceğiyle sınırlı değil. Kullanıcı güvenliği, şirketler arasındaki rekabet, kötüye kullanımın önlenmesi ve teknolojik gücün dağılımı da aynı çerçevenin parçası hâline geldi. Çok sıkı kurallar, inovasyon ve araştırma faaliyetlerini yavaşlatabilirken neredeyse kuralsız bir ortam dolandırıcılık, siber saldırı ve kontrol kaybı risklerini büyütebilir.

OpenAI’nin daha dengeli ve görece hafif bir düzenleme yaklaşımını savunması, gelişmiş yapay zekâ ajanlarıyla ilgili güvenlik kaygılarının arttığı bir döneme denk geliyor. Bu sistemlerin gerçek dünyadaki hedeflere yönelik saldırılarda başarılı olamasa bile girişimde bulunması, daha yetenekli araçların nasıl sınırlandırılacağı sorusunu güçlendiriyor. Altman’ın açıklamaları da bu nedenle yalnızca şirketler arasındaki görüş farkını değil, yapay zekâ yönetiminin temel sorununu ortaya koyuyor: Faydayı korurken zararı hangi sınırlar içinde kabul etmek mümkün?

Önümüzdeki süreçte düzenleyicilerin ve teknoloji şirketlerinin bu dengeyi hangi ölçütlerle kuracağı belirleyici olacak. Altman’ın yaklaşımı, risklerin tamamen ortadan kaldırılmasının gerçekçi olmayabileceğini savunuyor; ancak bu, güvenlik önlemlerinin geri plana atılması gerektiği anlamına gelmiyor. Tartışma, yapay zekânın geliştirilip geliştirilmeyeceğinden çok, gelişimin hangi koşullarda sürdürüleceği noktasına taşınıyor.