OpenAI’den kovulan güvenlik araştırmacıları iddiaları reddetti

OpenAI’nin geçen hafta işten çıkardığı güvenlik araştırmacıları Jasmine Wang, Tomek Korbak ve Mikita Balesni, şirketin kendilerine yönelttiği politika ihlali suçlamalarını reddetti. Üç araştırmacı, yayımladıkları açık mektupta hassas şirket bilgilerini belirlenmiş prosedürlerin dışında ele almadıklarını savunurken, işten çıkarılma biçiminin çalışanların güvenlik endişelerini dile getirmesini zorlaştırabileceği uyarısında bulundu.

Araştırmacılar mektubu OpenAI’nin Güvenlik ve Emniyet Komitesi, Güvenlik Danışma Grubu ve Misyon Danışma Konseyi’ne gönderdi. Metinde, işten çıkarılmalarına ilişkin kurum içi ve kurum dışı iletişimin eski çalışma arkadaşları üzerinde baskı oluşturduğu belirtildi. Üçlüye göre çalışanlar, kısa süre önce işin doğal bir parçası kabul edilen bazı davranışların artık işten çıkarılma gerekçesi sayılıp sayılmayacağını kestiremiyor.

İşten çıkarılma gerekçesi konusunda anlaşmazlık

OpenAI, araştırmacıların üçüncü taraf bir yapay zekâ güvenliği kuruluşuyla gizli şirket bilgilerini paylaştığını ve hassas bilgilere erişimle bunların işlenmesine ilişkin şirket politikalarını ihlal ettiğini açıklamıştı. Ancak Wang, Korbak ve Balesni, mektuplarında kendilerine yöneltilen bu çerçevedeki iddiaları kabul etmedi.

Araştırmacılar ayrıca, OpenAI’nin yeni modellerinde zincirleme düşünme süreçlerinin izlenmesini zorlaştıran ve daha az denetlenebilir mimariler bulunduğuna ilişkin bir sızıntıyla bağlantılı olmadıklarını söyledi. Bunun yanında, görevlerinin sınırları dışında dış paydaşlarla iletişim kurmadıklarını da belirtti. Mektupta, hangi kuralın tam olarak ihlal edildiğine veya işten çıkarma kararının hangi koşullarda alındığına dair ayrıntılı bir açıklama yer almadı.

Güvenlik ekibinde çalışanların, yapay zekâ sistemlerinin oluşturabileceği riskleri birçok kişiden önce görmesinin mümkün olduğu vurgulandı. Araştırmacılar, bu riskleri değerlendirmek ve çözüm yolları geliştirmek için dışarıdaki uzmanlarla yakın çalışmanın gerekli olduğunu savundu. Onlara göre bunu cezalandırılma korkusu yaşamadan yapabilmek ve bu çalışmayı destekleyen açık kurum içi prosedürlere sahip olmak, doğrudan bir güvenlik mekanizması niteliği taşıyor.

OpenAI: Karar güvenlik endişelerini dile getirmekle ilgili değil

OpenAI, açık mektuba henüz resmî ve ayrıntılı bir yanıt vermedi. Bunun yerine şirket, araştırma liderlerinden birine atfedilen kurum içi bir notu paylaştı. Notta Wang, Korbak ve Balesni’nin yapay zekâ güvenliği alanındaki katkıları takdir edilirken, işten çıkarma kararlarının güvenlik endişelerini dile getirmeleri veya şirket içinde fikir ayrılığı yaşamaları nedeniyle alınmadığı ifade edildi.

Notta, çalışanların güvenlik konularını gündeme getirmesinin her zaman teşvik edildiği ve bu nedenle işten çıkarma yapılmadığı savunuldu. Buna karşın OpenAI, araştırmacıların hangi şirket politikalarını ihlal ettiği, kararın nasıl uygulandığı ve dış değerlendiricilerle çalışan personelin nasıl korunduğu gibi sorulara doğrudan yanıt vermedi.

Güvenlik çalışmaları ve kurum kültürü tartışması

İşten çıkarmalar, OpenAI’nin yapay zekâ güvenliği konusunda zaten inceleme altında olduğu bir dönemde gündeme geldi. Şirket son dönemde kontrolden çıkan yapay zekâ ajanlarıyla ilgili güvenlik olayları ve modellerine ilişkin sızıntılar nedeniyle tartışmalarla karşı karşıya kaldı. Bu nedenle araştırmacıların görevden alınma biçimi, yalnızca üç çalışanın durumuyla sınırlı olmayan bir kurum kültürü tartışmasına dönüştü.

Wang, Korbak ve Balesni, OpenAI’nin geçmişte çalışanlarını güvenlik endişelerini paylaşmaya ve açıkça itiraz etmeye teşvik ettiğini belirtti. Araştırmacılara göre ani biçimde uygulanan ve kamuoyuna açıklanan işten çıkarmalar, bu açık çalışma ortamını zayıflatıyor. Çalışanların kuralları net biçimde anlayamadığı bir ortamın, hem şirket içindeki güvenlik çalışmalarını hem de bağımsız üçüncü tarafların hesap verebilirlik süreçlerini olumsuz etkileyebileceği ifade edildi.

Şirketin iddialarıyla araştırmacıların savunması arasındaki temel anlaşmazlık, hassas bilgilerin dış paydaşlarla paylaşılması ve güvenlik araştırmalarının hangi sınırlar içinde yürütülebileceği noktasında toplanıyor. OpenAI’nin ayrıntılı bir açıklama yapması, kararın dayandığı politikaların ve güvenlik endişelerini bildiren çalışanlara yönelik korumaların daha net anlaşılmasını sağlayabilir.