ChatGPT Metinlerine Avrupa’da Görünmez Filigran Geliyor

Yapay zekâ ile hazırlanan metinleri insan tarafından yazılan içeriklerden ayırmak zorlaşırken OpenAI, Avrupa Birliği’ndeki kullanıcılar için yeni bir işaretleme sistemi hazırlıyor. ChatGPT ve Codex tarafından oluşturulan metinlere görünür bir etiket yerine, metnin yapısına işlenen görünmez filigranlar eklenecek. Bu işaretler okuyucu tarafından fark edilmeyecek ancak uygun tespit araçları tarafından analiz edilebilecek.

Uygulamanın arkasındaki temel neden, Avrupa Birliği’nin Yapay Zekâ Yasası kapsamında yürürlüğe giren şeffaflık yükümlülükleri. 2 Ağustos itibarıyla geçerli hâle gelen kurallar, yapay zekâ sistemleriyle üretilen içeriklerin diğer sistemler tarafından tanınabilecek biçimde işaretlenmesini gerektiriyor. OpenAI’nin duyurduğu yöntem, şirketin bu kurallara uyum sağlamak için kullanacağı teknik çözümlerden biri olacak.

Yapay zekâ tarafından hazırlanan bir metnin internet üzerinde defalarca kopyalanması, kaynağının anlaşılmasını zorlaştırıyor. Görünür etiketler kolayca silinebildiği için OpenAI, işareti doğrudan metnin oluşum sürecine yerleştiren bir yaklaşım kullanıyor. Böylece bir içerik başka bir internet sitesine, belgeye veya çalışma ortamına aktarıldığında filigranın metinle birlikte kalması hedefleniyor.

Filigran kelime seçimleriyle oluşturulacak

Sistem, metnin üzerine sonradan bir sembol ya da uyarı eklemiyor. Bunun yerine modelin cümleleri oluştururken yaptığı kelime seçimlerini belirli bir düzene yönlendiriyor. Bu düzen, tek tek kelimelere bakıldığında anlaşılabilir bir mesaj vermiyor. Ancak yeterli uzunluktaki metin incelendiğinde, özel dedektörlerin değerlendirebileceği istatistiksel bir desen ortaya çıkıyor.

OpenAI’nin yaklaşımında gizli bir anahtar kullanılıyor. Model, sıradaki kelimeyi seçerken bu anahtarla bağlantılı küçük yönlendirmeleri hesaba katıyor. Her bir yönlendirme tek başına belirgin bir iz bırakmasa da metin boyunca yüzlerce seçimin birleşmesi, yapay zekâ üretimini işaret eden bir yapı oluşturuyor.

Dedektör, metni bu anahtarla birlikte analiz ederek işaretin bulunup bulunmadığını değerlendiriyor. Bu nedenle yalnızca metne sahip olmak her durumda yeterli olmayabilir; tespit sürecinde ilgili işaretleme yönteminin ve anahtarın da desteklenmesi gerekiyor. Bu ayrıntı, filigran sisteminin herkesin kullanabileceği basit bir kontrol aracından çok, belirli teknik altyapıya bağlı bir doğrulama yöntemi olduğunu gösteriyor.

İlk dağıtım Avrupa Birliği ile sınırlı

Görünmez filigran özelliği, önümüzdeki haftalarda Avrupa Birliği’nde bulunan ve uygun planları kullanan ChatGPT ile Codex kullanıcılarına kademeli olarak sunulacak. Kademeli dağıtım nedeniyle özellik tüm hesaplarda aynı anda etkinleşmeyecek. OpenAI, hangi planların kapsama girdiği veya kullanıcıların özelliğe hangi sırayla erişeceği konusunda ek bir ayrıntı paylaşmadı.

OpenAI API’sini kullanan geliştiriciler için ise farklı bir uygulama geçerli olacak. Geliştiriciler sistemi bugünden itibaren seçtikleri modellerde etkinleştirebilecek. Ancak API tarafında filigran varsayılan olarak kapalı bulunacak. Özelliği kullanmak isteyen geliştiricilerin bunu kendi sistemlerinde ayrıca açması gerekecek.

Şirket, metin filigranlamasını şimdilik dünya genelinde varsayılan bir özellik hâline getirmeyi planlamıyor. Bu nedenle ilk uygulama Avrupa Birliği’ndeki kullanıcılarla sınırlı kalacak. API seçeneği ise geliştiricilere sistemi kontrollü biçimde deneme ve kendi kullanım senaryolarına göre değerlendirme imkânı sağlayacak.

textGrain yönteminin amacı ne?

OpenAI, teknolojinin çalışma mantığını anlatmak için araştırmacılarla hazırlanan “textGrain” adlı bir rapor da yayımladı. Raporda, metin üretimi sırasında yapılan çok sayıdaki küçük tercihin bir araya gelerek dedektörler tarafından tanınabilecek bir desen oluşturduğu açıklanıyor.

Yöntemin hedefi, yapay zekâ tarafından oluşturulan metinlerin kaynağını içerik platformdan ayrıldıktan sonra da belirleyebilmek. Bir metnin kopyalanması veya farklı bir yerde paylaşılması, işaretin doğrudan metnin üretim yapısına bağlı olması nedeniyle filigranı ortadan kaldırmamalı. Bununla birlikte sistemin başarısı, metnin uzunluğu, kullanılan analiz aracının özellikleri ve ilgili anahtara erişim gibi teknik koşullara bağlı olacak.

OpenAI’nin Avrupa Birliği’nde başlatacağı uygulama, yapay zekâ üretimi içeriklerin etiketlenmesi konusunda görünür uyarılardan farklı bir yol izliyor. Kullanıcı metnin üzerinde herhangi bir ibare görmeyecek; doğrulama, arka planda çalışan tespit araçlarıyla yapılacak. Bu yaklaşımın eğitim, yayıncılık ve kurumsal içerik üretimi gibi alanlarda nasıl kullanılacağı ise sistemin yaygınlaşmasıyla birlikte netleşecek.