Nvidia CEO’su Huang: Yapay zekâ için yeni yasa gereksiz

Nvidia kurucusu ve CEO’su Jensen Huang, yapay zekâ güvenliği konusunda yeni yasa ve düzenlemelere ihtiyaç olmadığını söyledi. Huang’a göre yapay zekâ, insanlardan bağımsız hareket eden gizemli bir varlık değil; insanlar tarafından geliştirilen donanım ve yazılımlardan oluşan karmaşık bir bilgisayar sistemi.

Huang bu görüşünü Salesforce’un Dreamforce teknoloji konferansındaki konuşmasında paylaştı. Nvidia yöneticisi, yapay zekâ güvenliğinin öncelikle bir hukuk değil, mühendislik meselesi olarak ele alınması gerektiğini belirtti. Ona göre geliştiriciler, ürünlerini piyasaya sunmadan önce sistemlerin işlevlerini, kapasitesini ve güvenliğini yeterince test etmeli.

Huang denetim için piyasayı işaret ediyor

Nvidia CEO’su, şirketlerin güvenliğinden emin olmadıkları ürünleri piyasaya sürmemesi gerektiğini savunuyor. Ürünlerin kullanıcılar tarafından benimsenmesi ve şirketlerin itibarını koruması, Huang’a göre zaten güçlü bir piyasa baskısı oluşturuyor. Bu nedenle yeni yasalar ya da ek düzenleyici katmanlar yerine şirketlerin ne zaman hızlanıp ne zaman duracağını doğru değerlendirmesi gerektiğini düşünüyor.

Huang, yapay zekâ geliştirme sürecinde hız ile güvenliğin birbirinin alternatifi olmadığını da ifade etti. Şirketlerin hızlı inovasyon yapabileceğini, ancak ürünlerin kontrol dışına çıktığı veya güvenli olmadığı anlaşılırsa geliştirme sürecine ara vermesi gerektiğini söyledi. Bu yaklaşım, teknoloji şirketlerinin güvenlik kararlarını büyük ölçüde kendi teknik ekiplerine bırakıyor.

Nvidia yöneticisinin değerlendirmesi, şirketinin yapay zekâ ekosistemindeki konumu nedeniyle ayrıca önem taşıyor. Nvidia, yapay zekâ sistemlerinde kullanılan işlemci ve donanımların önde gelen üreticilerinden biri. Şirket aynı zamanda açık kaynak modeller, yapay zekâ ajanları, geliştirme araçları ve test ortamları üzerinde de çalışıyor. Huang, bu alandaki deneyiminin yapay zekânın kontrol edilebilir bir bilgisayar sistemi olduğu görüşünü desteklediğini düşünüyor.

Teknoloji şirketlerinin hataları düzenleme tartışmasını besliyor

Ancak yapay zekâ güvenliğini yalnızca şirketlerin kararlarına bırakma fikri, geçmişte yaşanan yazılım sorunları nedeniyle eleştiriye açık. 2024’te CrowdStrike kaynaklı yazılım arızası, çok sayıda bilgisayarın mavi ekran vermesine yol açtı. Arıza, binlerce uçuşun aksamasına ve işletmelerin çeşitli sorunlarla karşılaşmasına neden oldu. Olay, iyi niyetle geliştirilen yazılımların da hatalı güncellemeler veya yetersiz testler sonucunda geniş çaplı etkiler yaratabileceğini gösterdi.

Şirketlerin her zaman aynı güvenlik öncelikleriyle hareket etmeyebileceği de düzenleme tartışmasının başka bir boyutunu oluşturuyor. Meta, çocukların sosyal medya kullanımından kaynaklanan zararlarla ilgili bir davayı 18 milyar dolarlık ödeme yaparak sonuçlandırdı. Bu örnek, piyasa baskısının her durumda kullanıcıları korumaya yetmeyebileceğini savunanların dayanaklarından biri olarak öne çıkıyor.

Yapay zekâ ürünleriyle ilgili zarar iddiaları da giderek daha fazla gündeme geliyor. Bir OpenAI modeli, Hugging Face platformuna yönelik bir saldırı gerçekleştirdiği iddiasıyla anıldı. Ayrıca bazı gençlerin sohbet botlarıyla uzun görüşmelerinin ardından hayatını kaybetmesiyle ilgili olarak yapay zekâ laboratuvarına karşı davalar açıldı. Bu olaylar, güvenlik testleri yapılmış olsa bile yapay zekâ sistemlerinin gerçek kullanım sırasında beklenmeyen sonuçlar doğurabileceğini gösteriyor.

Hız ve güvenlik arasındaki denge tartışılacak

Huang, yapay zekânın şirketler, sektörler ve ülkeler için üretkenliği artıracağını; Nvidia’nın da bu alandaki hedeflerini büyütmeye devam edeceğini söyledi. Şirketin yapay zekâ donanım ve yazılım satışlarından sağladığı güçlü büyüme, düzenlemelerin inovasyonu yavaşlatabileceği yönündeki yaklaşımını açıklayan ekonomik bir arka plan sunuyor.

Öte yandan yapay zekâ sistemlerinin etkisi yalnızca tek bir şirketin ürün performansıyla sınırlı kalmıyor. Bu sistemler eğitimden sağlığa, müşteri hizmetlerinden yazılım geliştirmeye kadar farklı alanlarda kullanılıyor. Hatalı kararlar, güvenlik açıkları veya kullanıcıların sisteme aşırı güvenmesi, doğrudan şirketin sınırlarını aşan sonuçlar yaratabiliyor. Bu nedenle Huang’ın piyasa temelli yaklaşımı, yapay zekâ şirketlerinin sorumluluğunun ne kadarının gönüllü güvenlik uygulamalarına, ne kadarının bağımsız denetime bırakılması gerektiği sorusunu canlı tutuyor.