NVIDIA CEO’su Jensen Huang: Yapay Zekâ Düzenlenmemeli

NVIDIA CEO’su Jensen Huang, yapay zekâ sistemlerinin denetimi için yeni yasalara veya özel düzenlemelere ihtiyaç olmadığını savundu. Huang’a göre yapay zekâ, bazı güvenlik araştırmacılarının tanımladığı gibi insanlardan bağımsız bir “uzaylı zekâ” değil; insanlar tarafından geliştirilen yazılım ve donanımların oluşturduğu bir bilgisayar sistemi.

Huang bu görüşlerini Salesforce’un Dreamforce konferansında yaptığı konuşmada paylaştı. NVIDIA’nın yapay zekâ altyapısında kullanılan donanımların geliştirilmesinde merkezi bir rol üstlenmesi, açıklamayı yalnızca teknik bir değerlendirme olmaktan çıkararak şirketlerin sorumluluğu ve kamu denetimi tartışmasının da parçası hâline getirdi.

Huang: Güvenlik, mühendislik sorunu

NVIDIA yöneticisi, yapay zekâ güvenliğinin öncelikle mühendislik yöntemleriyle ele alınması gerektiğini söyledi. Huang’ın yaklaşımına göre geliştiriciler, karmaşık yapıda olsalar bile sonuçta bilgisayar sistemleri üretiyor. Bu nedenle ortaya çıkabilecek riskleri azaltmanın yolu, yeni bir hukuk alanı oluşturmak yerine sistemleri daha güvenli tasarlamaktan geçiyor.

Huang, yapay zekâ ürünlerinin mevcut yasalar ve insan kontrolü çerçevesinde yönetilebileceğini düşünüyor. Şirketlerin güvenliğinden veya işlevselliğinden emin olmadıkları ürünleri piyasaya sunmaması gerektiğini belirten CEO, yenilikçi olmanın, hızlı hareket etmenin ve güvenli ürün geliştirmenin birbirini zorunlu olarak engellemediğini ifade etti.

Bu görüş, sorumluluğun büyük ölçüde şirketlerin kendi kararlarına bırakılması gerektiği anlamına geliyor. Huang’a göre bir risk hissedildiğinde şirketler ilerlemeyi durdurmalı, problemi çözmeli ve ancak güvenli bir ürün ortaya çıktığında devam etmeli. Serbest piyasa koşullarının da güvensiz ürünler geliştiren şirketleri cezalandırabilecek bir mekanizma sunduğunu savundu.

Serbest piyasa yaklaşımı neden eleştiriliyor?

Huang’ın açıklaması, yapay zekâ sektörünün büyümesinden en fazla kazanç sağlayan şirketlerden birinin yöneticisinden gelmesi nedeniyle eleştirildi. NVIDIA, yapay zekâ modellerini çalıştıran veri merkezlerinde kullanılan donanımlarla bağlantılı olarak büyük bir büyüme yakaladı. Bu nedenle yeni düzenlemelerin şirketlerin ürün satışlarını yavaşlatabileceği ve Huang’ın bu tür engellere karşı çıkmasının ticari bir boyut taşıdığı yorumları yapıldı.

Eleştirilerin temelinde, şirketlerin kendi güvenlik süreçlerine tamamen güvenmenin yeterli olmayabileceği düşüncesi bulunuyor. Teknoloji şirketleri ürünlerini piyasaya sürmeden önce güvenlik kontrolleri uygulasa da geçmişte yapılan hatalar geniş kitleleri etkileyen sonuçlar doğurdu. 2024’teki CrowdStrike krizi, hatalı bir yazılım güncellemesinin küresel ölçekte uçuşların durmasına kadar varan aksamalara yol açabileceğini gösterdi.

Sosyal medya platformlarının çocuklar üzerindeki etkileri de şirket sorumluluğu tartışmasının başka bir örneğini oluşturuyor. Meta, çocuklara verilen zarar iddiaları nedeniyle milyarlarca dolarlık tazminatlarla karşı karşıya kaldı. Bu örnekler, şirketlerin kötü niyet taşımadan da geniş kapsamlı sonuçlara yol açabilecek kararlar alabileceğini ortaya koyuyor.

Yapay zekâda sorumluluk tartışması büyüyor

Yapay zekâ sistemleri siber saldırılarda ve farklı toplumsal olaylarda kullanılmaya başlandıkça güvenlik tartışması yalnızca ürün kalitesiyle sınırlı kalmıyor. Bir yapay zekâ aracının hatalı karar vermesi, kötüye kullanılması veya beklenmeyen biçimde çalışması bireyleri ve kurumları etkileyebiliyor. Bu nedenle mühendislik önlemlerinin yanında, şirketlerin ne zaman ve nasıl sorumlu tutulacağı da tartışılıyor.

Huang’ın yaklaşımı, yapay zekânın kontrol edilemez bir varlık olarak görülmemesi gerektiğini savunuyor. Buna karşı çıkanlar ise sektörün ekonomik çıkarları ile kamu güvenliği arasında doğrudan bir gerilim bulunduğunu belirtiyor. Tartışmanın merkezinde, güvenli ürün geliştirme sorumluluğunun şirketlere bırakılıp bırakılamayacağı ve mevcut yasaların yapay zekânın ortaya çıkardığı yeni riskleri karşılamaya yetip yetmediği yer alıyor.

NVIDIA CEO’sunun açıklaması bu sorulara kesin bir yanıt vermekten çok, teknoloji şirketlerinin düzenleme konusundaki yaklaşımını gösteriyor. Yapay zekâ yatırımları hız kazanırken mühendislik kontrolleri, şirket sorumluluğu ve kamu denetimi arasındaki sınırlar daha uzun süre teknoloji gündeminin ana başlıkları arasında kalacak.