OpenAI, Anthropic ve Google’dan ortak yapay zekâ güvenliği

OpenAI, Anthropic ve Google DeepMind, yapay zekâ güvenliği konusunda haftalardır görüşmeler yürütüyor. OpenAI’nin küresel politika yöneticisi Chris Lehane, 15 Eylül’de gazetecilerle yaptığı görüşmede üç şirketin gelişmiş yapay zekâ modellerinin oluşturabileceği riskler üzerine birlikte çalıştığını açıkladı.

Görüşmelerin merkezinde, frontier olarak adlandırılan en gelişmiş yapay zekâ sistemlerinin nasıl değerlendirileceği ve güvenlik kontrollerinin şirketler arasında nasıl ortaklaştırılacağı bulunuyor. Bu çalışmalar, yapay zekâ sektöründeki büyük laboratuvarların rekabet ederken bazı güvenlik süreçlerinde iş birliği yapıp yapamayacağı tartışmasını da yeniden gündeme taşıdı.

Yapay zekâ şirketleri ortak standart arıyor

Son haftalarda sektör yöneticileri, yalnızca şirketlerin kendi iç denetimlerine dayanan bir yapının yeterli olmayabileceğini savunuyor. Anthropic CEO’su Dario Amodei’nin cumartesi günü yayımladığı yazı da bu tartışmanın önemli başlıklarından biri oldu. Amodei, frontier yapay zekânın geliştirilme hızının yavaşlatılması ve olası felaket risklerinin azaltılması için şirketlerin birlikte hareket etmesi gerektiğini belirtti.

OpenAI CEO’su Sam Altman, Google DeepMind CEO’su Demis Hassabis ve SpaceXAI yöneticisi Elon Musk, Amodei’nin çağrısını destekleyen teknoloji yöneticileri arasında yer aldı. Altman ayrıca OpenAI’nin, modellerin güvenliğini izlemek amacıyla üçüncü taraf değerlendiricileri şirket süreçlerine dahil etmeye katılacağını ifade etti.

Bu açıklamaların ardından üç şirketin bir sektör standartları kuruluşu oluşturmak için çalıştığına ilişkin haberler gündeme geldi. Altman’ın çalışanlara, böyle bir yapının ABD hükümetinin desteği olmadan kurulması gerekebileceğini söylediği aktarıldı. Hassabis ise temmuz ayında ABD’nin, en gelişmiş yapay zekâ modellerini inceleyebilecek ve risklerin artması durumunda sektör genelindeki yavaşlamaları koordine edebilecek yeni bir denetim kuruluşu kurması çağrısında bulunmuştu.

Güvenlik iş birliği antitröst tartışması yaratıyor

Şirketler arasındaki görüşmeler, rekabet hukuku açısından da hassas bir alan oluşturuyor. Sam Altman daha önce bu tür koordinasyonun, şirketlerin rekabeti kısıtladığı sonucuna varılması durumunda antitröst yasalarıyla karşı karşıya kalabileceğini belirtmişti.

Dario Amodei, yapay zekâ güvenliği için yapılan sınırlı iş birliklerinin yasal risk taşımaması amacıyla hükümet tarafından dar kapsamlı bir muafiyet tanınmasını önermişti. Chris Lehane ise şirketlerin böyle bir muafiyete ihtiyaç duymadığını söyledi. Bu açıklama, güvenlik amacı taşıyan koordinasyon ile rekabeti etkileyebilecek ticari iş birliği arasındaki sınırın nasıl çizileceği sorusunu açık bırakıyor.

OpenAI, ABD Kongresi’nde görüşülen FRONTIER Act tasarısındaki bir düzenlemeyi de destekliyor. Bu düzenleme, en gelişmiş yapay zekâ laboratuvarlarının bağımsız doğrulama kuruluşlarını şirketlerine kabul etmesini ve modellerin güvenli biçimde geliştirildiğini denetletmesini öngörüyor.

Washington’da düzenleme yaklaşımı bölünüyor

Güvenlik tartışmaları, ABD yönetiminin yapay zekâ politikasıyla aynı çizgide ilerlemiyor. Başkan Donald Trump, yapay zekânın varoluşsal risklerine yönelik endişeleri reddederek daha sıkı düzenlemelere karşı çıkıyor. Trump, geliştirme hızındaki bir yavaşlamanın Çin’e yapay zekâ yarışında avantaj sağlayabileceğini savunuyor.

Başkanın yapay zekâ danışmanı David Sacks da yapay zekânın insanlık için varoluşsal tehdit oluşturabileceği yönündeki kaygıların abartıldığını dile getirdi. Buna karşılık OpenAI, Anthropic ve Google DeepMind’ın görüşmeleri, sektörün bazı liderlerinin güvenlik denetimlerini ortak bir zemine taşımak istediğini gösteriyor.

Henüz şirketler arasında varılmış kesin bir anlaşmanın ayrıntıları paylaşılmadı. Ancak görüşmelerin haftalardır sürmesi, üçüncü taraf denetimi ve ortak standartlar konusundaki tartışmaların yalnızca kamuya açık açıklamalardan ibaret olmadığını ortaya koyuyor. Yapay zekâ modelleri daha yetenekli hale geldikçe, güvenlik sorumluluğunun şirketlerin kendi beyanlarına mı yoksa bağımsız kurumların denetimine mi bırakılacağı, ABD’deki düzenleme tartışmalarının temel başlıklarından biri olmaya devam edecek.