OpenAI, ChatGPT ve Codex yanıtlarına metin filigranı ekliyor

OpenAI, yapay zekâ tarafından oluşturulan metinlerin kaynağını belirlemeye yardımcı olmak için ChatGPT ve Codex yanıtlarına görünmez filigran eklemeye başlıyor. Makine tarafından okunabilen bu işaretler, ilk aşamada Avrupa Birliği’ndeki uygun kullanıcılar için etkinleştirilecek. Şirket, uygulamanın lansman sırasında dünya genelinde varsayılan hâle getirilmeyeceğini açıkladı.

Metin filigranı, kullanıcıların metin üzerinde gözle görebileceği bir ibare veya işaret olmayacak. OpenAI’nin textGrain adını verdiği sistem, oluşturulan çıktının içine tespit araçlarının inceleyebileceği bir sinyal yerleştirecek. Böylece araştırmacılar ve yetkili kuruluşlar, bir metnin OpenAI sistemlerinden alınmış olma ihtimalini değerlendirebilecek.

İlk uygulama Avrupa Birliği’nde başlayacak

OpenAI, önümüzdeki haftalar içinde Avrupa Birliği’ndeki ChatGPT ve Codex kullanıcılarına filigranlı metin çıktıları sunacak. Uygulamanın tüm planlara yayılan uygun kullanıcıları kapsaması planlanıyor. Şirket, bölgesel başlangıcın gerçek kullanım koşullarını ve kullanıcı geri bildirimlerini gözlemlemesine imkân vereceğini belirtiyor.

Bu yaklaşım, Avrupa Birliği’nin yapay zekâ düzenlemeleriyle bağlantılı. Yapay zekâ tarafından üretilen içeriklerin kaynağının daha anlaşılır hâle getirilmesi, düzenlemelerin şeffaflık ve içerik kökeni konusundaki beklentileri arasında yer alıyor. OpenAI’nin kararı, benzer yükümlülükler doğrultusunda metin filigranlama yöntemlerini değerlendiren diğer yapay zekâ şirketlerinin hamleleriyle aynı tartışmanın parçası.

OpenAI, textGrain’in Google DeepMind’ın metinler için geliştirdiği SynthID gibi yöntemlerle karşılaştırıldığında benzer veya daha iyi sonuç verdiğini söylüyor. Şirket ayrıca filigranlı ve filigransız metinler üzerinde yapılan yapay zekâ performans testlerinde benzer sonuçlar elde edildiğini aktarıyor. Bu ifade, filigranın metnin üretim kalitesini tek başına düşürmediği iddiasına dayanıyor.

Filigran, metnin doğruluğunu kanıtlamayacak

OpenAI, textGrain’in sınırlamalarını da açıkça belirtiyor. Sistem her durumda güvenilir tespit garantisi sunmuyor. Bir filigranın bulunamaması, metnin kesinlikle insan tarafından yazıldığını göstermeyecek. Benzer şekilde bir metnin OpenAI tarafından oluşturulduğunun anlaşılması da içeriğin doğru, güvenilir veya hatasız olduğu anlamına gelmeyecek.

Filigran sistemi, metnin telif veya mülkiyet hakkının kime ait olduğunu belirlemeyecek. Ayrıca bir metne insanın ne kadar katkı yaptığını ölçemeyecek ve insan yazarlığını kanıtlamayacak. Bu sınırlar, teknolojinin özellikle eğitim, yayıncılık ve içerik denetimi gibi alanlarda tek başına kesin karar mekanizması olarak kullanılmaması gerektiğini gösteriyor.

Metinlerin yeniden yazılması, düzenlenmesi veya farklı araçlardan geçirilmesi gibi işlemlerin tespit performansını nasıl etkileyeceği konusunda da sistemin mutlak sonuç vermediği görülüyor. OpenAI’nin yanlış pozitif ve kaçırılan filigran risklerine yaptığı vurgu, tespit sonuçlarının ek değerlendirme gerektireceğine işaret ediyor.

API müşterileri özelliği isteğe bağlı kullanabilecek

OpenAI, uygulamayı yalnızca ChatGPT ve Codex arayüzleriyle sınırlamayacak. Dünya genelindeki API müşterileri, seçili modellerden aldıkları metin çıktılarında filigran kullanmayı isteğe bağlı olarak etkinleştirebilecek. Bu seçenek, şirketlerin kendi şeffaflık yükümlülüklerine ve kullanıcı deneyimlerine göre karar vermesine olanak tanıyacak.

OpenAI ayrıca bulut hizmeti ortaklarıyla çalıştığını ve şirket modellerinden alınan çıktılarda filigran kullanımını önümüzdeki haftalarda bu hizmetler üzerinden de erişilebilir hâle getirmeyi planladığını açıkladı. Bu nedenle özellik, doğrudan OpenAI ürünlerinin yanı sıra OpenAI modellerini kullanan bazı üçüncü taraf servislerde de görülebilecek.

Filigranları kontrol eden tespit aracı ise başlangıçta herkese açılmayacak. Onaylanan araştırmacılar ve uzman kuruluşlar, araç için başvuru yapabilecek. Erişim ilk etapta her başvuru özelinde değerlendirilecek ve amaç, metinlerin kaynağını belirleme çalışmalarını incelemek ve yöntemi geliştirmek olacak.

Tespit aracı yalnızca metinde OpenAI filigranı bulunup bulunmadığını bildirecek. Kullanıcının kimliğini ortaya çıkarmayacak, yazılan istemleri veya sohbet geçmişini göstermeyecek. OpenAI, yanlış sonuç ve filigranın gözden kaçması ihtimali nedeniyle aracı ilk günden kamuya açık sunmama kararı aldı.

Bu plan, yapay zekâ metinlerinin kaynağını işaretleme konusunda kontrollü bir başlangıç anlamına geliyor. Ancak OpenAI’nin kendi açıklamaları da textGrain’in bir doğruluk denetimi veya insan-yapay zekâ katkısı ölçeri olmadığını ortaya koyuyor. Sistem, daha çok içerik kökeni konusunda ek bir sinyal sağlayacak; kesin hüküm vermek için tek başına yeterli olmayacak.