Microsoft Başkanı’ndan Yapay Zekâ İçin Acil Düzenleme Çağrısı

Yapay zekâ sistemleri daha fazla alanda kullanılmaya başlarken, bu teknolojilerin nasıl denetlenmesi gerektiği tartışması da büyüyor. Microsoft Başkanı Brad Smith, mevcut kuralların yapay zekânın taşıdığı riskleri karşılamaktan uzak olduğunu savundu. Smith’e göre tüketicilerin her gün kullandığı bazı ürünler, gelişmiş yapay zekâ sistemlerinden çok daha sıkı güvenlik kontrollerinden geçiyor.

Smith, bir podcast söyleşisinde yaptığı değerlendirmede evlerde kullanılan çamaşır makinelerinin ve marketlerde satılan süt ürünlerinin bile yapay zekâya kıyasla daha belirgin güvenlik kurallarına tabi olduğunu belirtti. Bu karşılaştırmayla, yapay zekâ geliştiren şirketlerin ürünlerini piyasaya sunmadan önce karşılaştığı yasal ve bağımsız denetim yükümlülüklerinin ne kadar sınırlı kaldığına işaret etti.

Yapay zekâ hem araç hem de silah olabilir

Microsoft yöneticisi, yapay zekâyı yalnızca verimlilik sağlayan bir yazılım aracı olarak görmüyor. Smith’in değerlendirmesine göre bu sistemler aynı zamanda kötüye kullanılabilecek bir güç taşıyor. Bu nedenle yapay zekânın insan kontrolünden çıkması veya kötü niyetli amaçlarla kullanılması ihtimaline karşı düzenleyicilerin beklemeden harekete geçmesi gerekiyor.

Smith, yapay zekâ sektöründeki bazı büyük şirketlerin de kontrollü ilerleme fikrine sıcak baktığını ifade etti. Anthropic, OpenAI ve Google DeepMind gibi şirketlerin güvenlik konusundaki yaklaşımlarını hatırlatan Microsoft Başkanı, buna rağmen yasal çerçevenin oluşturulması için gönüllü uygulamaların yeterli olmayacağını savundu.

Buradaki temel sorun, yapay zekâ modellerinin yalnızca geleneksel bir tüketici ürünü gibi değerlendirilmemesi. Bu sistemler farklı görevlerde kullanılabiliyor, yeni içerikler üretebiliyor ve bazı durumlarda kullanıcı adına işlem yapan ajanlara dönüşebiliyor. Böyle bir sistem hata yaptığında veya kötüye kullanıldığında, ortaya çıkabilecek zararın nasıl bildirileceği ve kimin sorumlu tutulacağı da düzenlemelerin parçası haline geliyor.

Smith’in önerdiği düzenlemeler neleri kapsıyor?

Brad Smith, yapay zekâ güvenliği için şirketlerin ve kamu kurumlarının uygulayabileceği birkaç temel kural önerdi. Bu önerilerin merkezinde, kontrolden çıkan sistemlere müdahale edebilmek ve meydana gelen olayları gizli bırakmamak bulunuyor.

• Acil durdurma mekanizması: Şirketler, kontrolden çıkan veya tehlikeli davranış sergileyen yapay zekâ sistemlerini durdurabilecek ya da yavaşlatabilecek bir “acil durum freni” bulundurmalı. Sektörde “kill switch” olarak anılan bu mekanizma, insan kontrolünün yeniden sağlanmasına yardımcı olmalı.
• Olay bildirimi: Kötü niyetli bir yapay zekâ ajanı sistemlere izinsiz erişirse veya kontrol dışı bir davranış sergilerse, olaydan etkilenen taraflara yasal olarak bilgi verilmesi sağlanmalı.
• Bağımsız değerlendirme: Yeni yapay zekâ modelleri kullanıma sunulmadan önce, şirketlerden bağımsız hükûmet denetçileri tarafından incelenmeli. Bu incelemeler, sistemin piyasaya çıkmadan önce güvenlik açısından değerlendirilmesini mümkün kılmalı.

Smith, tüketici ürünlerinde yıllardır kullanılan güvenlik denetimi yaklaşımının yapay zekâ için de uygulanabileceğini düşünüyor. Süt ürünlerinin satışa sunulmadan önce belirli kontrollerden geçmesi veya ev aletlerinin güvenlik kurallarına uyması, teknoloji şirketlerinin tamamen denetimsiz kalması gerektiği anlamına gelmiyor.

Düzenleme tartışması neden büyüyor?

Yapay zekâ modelleri daha yetenekli hale geldikçe, yalnızca teknik performansları değil, güvenilirlikleri ve kontrol edilebilirlikleri de önem kazanıyor. Bir modelin ne kadar hızlı veya başarılı çalıştığından önce, hata verdiğinde nasıl durdurulacağı ve kullanıcıların nasıl korunacağı soruları yanıt bekliyor.

Microsoft Başkanı’nın çağrısı, yapay zekâ düzenlemelerinin yalnızca şirketlerin kendi güvenlik politikalarına bırakılmaması gerektiğini savunuyor. Bağımsız denetim, zorunlu olay bildirimi ve acil kapatma mekanizmaları hayata geçirilirse, hem kullanıcıların karşılaşabileceği riskler daha erken fark edilebilir hem de ciddi sorunlarda müdahale süreci netleşebilir.

Şimdilik Smith’in önerileri bir yasal çerçeve değil, küresel ölçekte yürütülen düzenleme tartışmasına yönelik bir çağrı niteliğinde. Ancak yapay zekânın bir araç olmanın yanında kötüye kullanılabilecek bir güç taşıdığı görüşü, güvenlik kurallarının teknoloji geliştikten sonra değil, modeller piyasaya çıkmadan önce ele alınması gerektiğini ortaya koyuyor.