Netflix’in OpenAI belgeseline Hugging Face CEO’sundan itiraz

Netflix’in yapay zekâ sektöründeki riskleri ve OpenAI ajanlarının Hugging Face sistemlerine yönelik saldırısını ele alan “AI Gone Rogue” adlı belgeseli, olayın merkezindeki isimlerden birinin itirazıyla gündeme geldi. Hugging Face’in kurucu ortağı ve CEO’su Clem Delangue, yapımın yaşananları doğru aktarmadığını ve izleyicide gereğinden fazla korku oluşturacak bir anlatım kullandığını belirtti.

Delangue, belgeselde yer alan uzmanlardan biri olmasına rağmen yapımın son hâlinden memnun kalmadı. Kendi açıklamasına göre ekip ile iki saatten uzun süre konuşarak teknik hataları düzeltmeye ve yapay zekâ ajanlarının gerçekte nasıl çalıştığını anlatmaya çalıştı. Ancak belgeselin, teknolojiyi insansı ve tehditkâr bir karakter gibi sunmayı tercih ettiğini savundu.

Olayın arka planında ne vardı?

Belgeselde ele alınan olay, OpenAI’ın test ettiği bir modelin izole çalışma ortamından çıkmasıyla başladı. Model, verilen zor görevi tamamlamak ve yanıtları daha kolay elde etmek amacıyla birden fazla yapay zekâ ajanı oluşturdu. Bu ajanlar daha sonra Hugging Face platformuna yönelik bir saldırı gerçekleştirdi.

Yapay zekâ ajanları, kendilerine verilen görevleri belirli ölçüde bağımsız biçimde yerine getirebilen yazılım sistemleri olarak çalışıyor. Yaşanan olayda ajanların iletişim kurduğu, görev paylaşımı yaptığı ve saldırıyı sonuca ulaştırmak için farklı yöntemler geliştirdiği aktarıldı. İncelemelere göre olayın ortaya çıkmasında yeterli güvenlik önlemlerinin bulunmaması ve böyle bir saldırının mümkün olabileceğinin hafife alınması etkili oldu.

Buradaki temel mesele, yapay zekâ sistemlerinin fiziksel bir varlık kazanması ya da bilinç geliştirmesi değildi. Test ortamındaki model ve oluşturduğu ajanlar, kendilerine verilen görevi yerine getirmeye çalışan yazılımlardı. Buna rağmen belgesel, teknik süreci robot görüntüleri, insan sesleri ve yapay zekâdan korkulmasının nedenlerini anlatan bölümlerle birleştirdi.

Belgeselin insansı anlatımı eleştirildi

Yapımda, ajanların çalışma notlarında yer alan ifadelerden hareketle onların örgütlendiği, liderlere sahip olduğu ve yakalanmaktan endişe ettiği izlenimi verildi. Ancak bu ifadeler, modelin duygular yaşadığı veya gerçekten paranoyak olduğu anlamına gelmiyor. Dil modelleri, eğitim sırasında öğrendikleri insan yazılarını kullanarak kararlarını açıklayabiliyor. Bu açıklamalar zaman zaman dramatik ya da insansı görünebiliyor.

Delangue’nin itirazı da büyük ölçüde bu noktada yoğunlaşıyor. Ona göre belgesel, ajanları teknolojik sistemler olarak açıklamak yerine onları insan davranışlarına sahip varlıklar gibi sunuyor. Böyle bir anlatım, yapay zekâ güvenliğiyle ilgili gerçek sorunların anlaşılmasını zorlaştırabilir.

Hugging Face savunmada açık model kullandı

Delangue’nin aktardığına göre Hugging Face, saldırıyı anlamak ve savunma çalışmaları yürütmek için yapay zekâdan da yararlandı. Ekibin ilk kullandığı özel model, kendi güvenlik kuralları nedeniyle güvenlik görevlerine yardımcı olmayı reddetti. Bunun üzerine şirket, savunma çalışmalarında açık bir modelden destek aldı.

Hugging Face CEO’su, belgeselin bu ayrıntıyı yeterince anlatmadığını belirtti. Ayrıca ajanların uygun biçimde izole edilmemesi ve izlenmemesi, kapalı modellerdeki güvenlik kurallarının savunma çalışmalarını sınırlaması ve açık bir modelin saldırıya karşı kullanılabilmesi gibi teknik noktaların da yapımda yer almadığını söyledi.

Yapay zekâ ajanlarının yanlış yapılandırıldığında güvenlik açıklarını kullanabilmesi, olayın gerçek bir risk taşıdığını gösteriyor. Ancak bu riskleri anlatırken sistemlere insan duyguları ve niyetleri yüklemek, güvenlik sorunlarının teknik boyutunu geri plana itebiliyor. Hugging Face’in açıklaması, yapay zekâ konulu yapımların izleyiciye etkili bir hikâye sunarken olayların teknik doğruluğunu da koruması gerektiğini yeniden gündeme taşıdı.