Sam Altman: Yapay zekâda bazı kazalar önlenemeyebilir

Yapay zekâ sistemleri daha gelişmiş kararlar almaya ve daha az insan müdahalesiyle çalışmaya başladıkça, güvenlik tartışmaları da büyüyor. OpenAI CEO’su Sam Altman, Salesforce tarafından düzenlenen Dreamforce konferansındaki konuşmasında bu tartışmanın temel sorunlarından birine değindi. Altman’a göre yapay zekâ alanında ortaya çıkabilecek her kazayı veya aksaklığı önceden tamamen engellemek mümkün olmayabilir.

Bu yaklaşım, şirketlerin hatasız sistemler geliştirme hedefinden vazgeçmesi gerektiği anlamına gelmiyor. Altman’ın vurgusu, yapay zekâ uygulamalarının gerçek dünyada kullanılmaya başlamasından sonra da dikkatle takip edilmesi gerektiği yönünde. Bir model beklenmedik bir davranış gösterdiğinde ya da onu kullanan sistem hata verdiğinde, yaşanan olayın nedenleri araştırılmalı ve aynı sorunun tekrarlanma ihtimali azaltılmalı.

Yapay zekâ modelleri yalnızca teknik laboratuvarlarda çalışmıyor. Eğitim, sağlık, yazılım geliştirme ve müşteri hizmetleri gibi farklı alanlarda kullanılan sistemler, verdikleri kararlarla insanların günlük yaşamını etkileyebiliyor. Bu nedenle küçük bir model hatası, uygulamanın kullanıldığı alana bağlı olarak daha geniş sonuçlar doğurabiliyor. Güvenlik değerlendirmelerinin yalnızca ürün piyasaya çıkmadan önce yapılması bu riski yönetmek için yeterli olmayabilir.

Havacılıkta uygulanan yöntem örnek olabilir

Altman, yapay zekâ güvenliği için havacılık sektöründeki olay inceleme süreçlerinin örnek alınabileceğini belirtti. Amerika Birleşik Devletleri’ndeki Federal Havacılık İdaresi (FAA) ile Ulusal Ulaşım Güvenliği Kurulu (NTSB), uçuşlarla ilgili kazaları ve ciddi olayları ayrıntılı biçimde inceliyor. Araştırmalarda yalnızca sonuca bakılmıyor; teknik arızalar, operasyonel kararlar, insan faktörü ve süreçteki eksikler de değerlendiriliyor.

Bu modelin temelinde, kazadan sorumlu kişiyi bulmaktan çok benzer olayların yeniden yaşanmasını önlemek bulunuyor. İnceleme sonucunda ortaya çıkan bilgiler, prosedürlerin ve güvenlik uygulamalarının değiştirilmesine katkı sağlayabiliyor. Altman, yapay zekâ sektörünün de benzer bir öğrenme kültürüne ihtiyaç duyduğunu savundu.

Buna göre bir yapay zekâ sistemi beklenmedik biçimde davrandığında şirketlerin olayı gizlemek yerine incelemesi gerekiyor. Hatanın hangi koşullarda meydana geldiği, sistemin neden bunu öngöremediği ve kullanıcıların nasıl etkilendiği açık biçimde değerlendirilmeli. Bulguların yalnızca şirket içinde tutulması yerine, güvenliği artırabilecek ölçüde paylaşılması da sektör genelinde benzer sorunların önüne geçebilir.

Toplumun kaygıları göz ardı edilmemeli

OpenAI CEO’su, yapay zekânın kontrolden çıkabileceği ve teknolojik gücün az sayıda şirketin elinde yoğunlaşabileceği yönündeki endişeleri de anlaşılabilir buldu. Yapay zekâ sistemleri daha fazla yetenek kazandıkça, toplumun bu teknolojiye karşı temkinli yaklaşması doğal görülüyor. Bu kaygılar yalnızca modellerin teknik performansıyla ilgili değil; şirketlerin ne kadar şeffaf olduğu, riskleri nasıl açıkladığı ve hatalar karşısında ne yaptığı da tartışmanın parçası.

Özellikle insan müdahalesine daha az ihtiyaç duyan otonom sistemlerin yaygınlaşması, sorumluluk meselesini daha karmaşık hâle getirebilir. Bir sistemin verdiği hatalı kararın nedeni yalnızca modeldeki bir eksiklik olmayabilir. Kullanılan veriler, uygulamanın tasarımı, kullanıcı talimatları ve şirketin denetim süreçleri de sonucu etkileyebilir. Bu nedenle güvenlik, tek bir model özelliğiyle çözülebilecek bir konu olmaktan çıkıyor.

Geliştirme hızı güvenlik çalışmalarını geçmemeli

Altman, yapay zekâ araştırmalarının tamamen durdurulmasını çözüm olarak görmediğini söyledi. Bunun yerine güvenlik çalışmalarının, modellerin yetenek kazanma hızının gerisinde kalmaması gerektiğini savundu. Şirketlerin olası sorunları hızlı biçimde incelemesi, riskleri düzenli olarak değerlendirmesi ve gerektiğinde kullanım alanlarını sınırlaması bu yaklaşımın temelini oluşturuyor.

Ancak güvenlik ile geliştirme hızı arasında gerekli denge kurulamazsa araştırmaların yavaşlatılması, hatta ihtiyaç hâlinde durdurulması gerektiğini de belirtti. Bu ifade, yapay zekâ geliştirmeye koşulsuz devam edilmesi gerektiği fikrinden farklı bir çerçeve sunuyor. Teknolojik ilerlemenin sürdürülebilmesi için şirketlerin hangi riskleri kabul edebileceğini ve hangi noktada geri adım atacağını önceden belirlemesi gerekiyor.

Altman’ın havacılık üzerinden verdiği örnek, yapay zekâ güvenliğinin yalnızca daha iyi modeller üretmekle sağlanamayacağını ortaya koyuyor. Olayların kayıt altına alınması, bağımsız ya da güvenilir inceleme süreçlerinin kurulması, hataların saklanmaması ve elde edilen sonuçların yeni kurallara dönüştürülmesi gerekiyor. Yapay zekâ kullanımı genişledikçe, sektörün güven kazanması da büyük ölçüde bu kurumsal öğrenme kapasitesine bağlı olacak.