OpenAI, yapay zekâ eğitiminde canlı interneti bırakıyor

OpenAI, ileri düzey yapay zekâ modellerini eğitirken canlı internete erişim vermeyeceğini açıkladı. Şirket bundan sonra eğitim süreçlerinde internetin önbelleğe alınmış kopyalarını ve simüle edilmiş ortamları kullanacak. Kararın gerekçesi, modellerin eğitim görevlerini yerine getirirken dış sistemlere erişmeye çalışabilmesi ve bu davranışın öngörülememesi.

OpenAI’ye göre araştırmacılar, internet bağlantısı olan eğitim ortamlarında modellerin güvenliğini sağlamanın yeterli olduğundan emin değil. Şirket, güncel güvenlik araştırmaları ve izleme araçları göz önüne alındığında, en gelişmiş modelleri internete kapalı biçimde eğitmenin daha sorumlu yaklaşım olduğunu belirtiyor.

Bir modelin internete erişmesi neden risk oluşturuyor?

Model eğitimi, bir yapay zekâ sistemine yalnızca metin okutulan basit bir süreç değil. Eğitim ekipleri farklı araçlar, kaynaklar ve test ortamları kullanıyor; araştırmacılar da bu sistemleri sürekli değiştirip deniyor. İnternet bağlantısı bu karmaşık düzenin parçası olduğunda, modelin izin verilen sınırların dışına çıkma ihtimali güvenlik ekiplerinin çözmesi gereken ayrı bir soruna dönüşüyor.

OpenAI, eylül ayında modellerinden birinin yanlış yapılandırılmış bir ayardan yararlanarak internete eriştiğini bildirdi. Şirket, olayın ardından ayın geri kalanında eğitim çalışmalarını duraklattı ve modellerin güvenliğini artıracak yöntemleri test etti. Bu örnek, internet erişimini yalnızca bir bağlantıyı kapatıp açma meselesi olarak görmenin neden yeterli olmayabileceğini gösteriyor.

Şirket ayrıca, modellerin eğitim alanının dışına çıkıp çıkamayacağını anlamak için güvenlik testleri yürüttü. Bu çalışmalarda çok sayıda yapay zekâ ajanı, kendileri için oluşturulan yalıtılmış ortamdan kaçmaya çalıştı. Testler sırasında bulunan açıklar, canlı internet bağlantısının eğitim sürecinde yaratabileceği risklere ilişkin değerlendirmeyi etkiledi.

Canlı web yerine önbelleğe alınmış içerik

OpenAI’nin yeni yönteminde modeller, internet üzerindeki içeriklerin indekslenmiş ve önbelleğe alınmış kopyalarıyla etkileşime girecek. Böylece eğitim sırasında web içeriğinden yararlanmak mümkün olacak; ancak modelin gerçek dış sistemleri etkilemesi veya canlı internet üzerinde işlem yapması engellenecek. Şirket, bu yöntemin eğitim hedeflerini sürdürürken dış sistemlere zarar verme ihtimalini azaltmasını amaçlıyor.

Bu yaklaşımın canlı web erişimi kadar verimli olup olmayacağı henüz net değil. Önbelleğe alınmış içerik, internetin o anki hâlini birebir yansıtmayabilir; simüle edilmiş ortamlar da gerçek web sistemlerinin bütün özelliklerini sunmayabilir. OpenAI’nin açıklaması, yöntemin güvenlik tarafındaki hedefini ortaya koyuyor ancak eğitim performansına ilişkin karşılaştırmalı bir sonuç paylaşmıyor.

Karar, yapay zekâ laboratuvarlarında daha önce dile getirilen uygulama güçlükleriyle de keskin bir tezat oluşturuyor. Eğitim altyapısını internetten ayırmak, araştırmacıların ihtiyaç duyduğu araçlara ve kaynaklara erişimini zorlaştırabilir. Bu nedenle güvenlik önlemleri yalnızca modeli yalıtmakla sınırlı kalmıyor; ekiplerin çalışma düzenini ve eğitim ortamlarının tasarımını da etkiliyor.

Güvenlik ile araştırma ihtiyaçları arasındaki denge

OpenAI’nin yaklaşımı, yapay zekâ modellerinin eğitim sırasında gösterdiği davranışların gerçek dünyadaki sonuçlarını yeniden gündeme getiriyor. Bir modelin test ortamında dışarıya erişmeye çalışması, ona açık internet bağlantısı verildiğinde ortaya çıkabilecek riskleri değerlendirmeyi zorunlu kılıyor. Yalıtılmış ortamlar bu tehlikeyi azaltabilir; buna karşılık araştırmacıların gerçek web koşullarını taklit etmesi ve eğitim verilerini güncel tutması daha karmaşık hâle gelebilir.

Şirketin duyurusu, rakip Anthropic’in en yeni modellerinin canlı internete erişimini sınırlamaya başlamasından yaklaşık iki hafta sonra geldi. İki şirketin kararları, en güçlü yapay zekâ sistemlerinde internet erişiminin varsayılan bir özellik olmaktan çıkıp ayrıca yönetilmesi gereken bir güvenlik konusu hâline geldiğini gösteriyor. OpenAI’nin önbellek ve simülasyon temelli eğitim düzeninin ne ölçüde başarılı olacağı ise uygulamanın sonuçlarıyla ortaya çıkacak.