Garry Tan’dan ABD’de açık ağırlıklı yapay zekâ çağrısı

Y Combinator CEO’su Garry Tan, ABD’deki açık ağırlıklı yapay zekâ laboratuvarlarının büyük teknoloji şirketleri tarafından geliştirilen öncü modellerden distilasyon yoluyla bilgi çıkarabilmesinin önünün açılması gerektiğini söyledi. Tan, bu konuda düzenleyicilerin sert kısıtlamalara gitmesine karşı çıkarken, yaklaşımının ABD’de Çin merkezli olmayan daha güçlü ve çeşitli yapay zekâ seçenekleri oluşturabileceğini düşünüyor.

Tan’ın açıklamaları, Çinli yapay zekâ laboratuvarlarının distilasyon tekniklerini izinsiz ve gizli biçimde kullandığı yönündeki suçlamaların gündemde olduğu bir dönemde geldi. Anthropic, bu hafta yayımladığı ikinci raporunda bazı Çinli laboratuvarların kimliklerini gizleyerek modellerinden bilgi çıkarmaya çalıştığını öne sürdü. Raporda dolandırıcılık ve çalınmış kimlik bilgileri kullanıldığı iddiaları da yer aldı.

Distilasyon yapay zekâ modellerinde nasıl kullanılıyor?

Distilasyon, bir yapay zekâ modelinin başka bir modeli çok sayıda sorguyla inceleyerek onun yanıt üretme biçimi ve akıl yürütme yaklaşımı hakkında bilgi edinmesine dayanan bir eğitim tekniği. Laboratuvarlar bu yöntemi yeni modeller eğitmek için yaygın ve meşru biçimde kullanabiliyor. Tartışmanın merkezinde ise yöntemin izin alınarak mı, yoksa hizmet şartlarını ve güvenlik önlemlerini aşacak şekilde mi uygulandığı bulunuyor.

Anthropic CEO’su Dario Amodei daha önce ABD’li düzenleyicilere distilasyona karşı daha sert önlemler alma çağrısı yapmıştı. Tan ise bu yaklaşımın fazla kısıtlayıcı olabileceğini belirtiyor. Y Combinator yöneticisi, ABD’deki küçük açık ağırlıklı laboratuvarların büyük modellerden yararlanabilmesi için izin verilen, şeffaf bir erişim çerçevesi oluşturulmasını istiyor.

Tan’ın önerisi, Amerikan şirketlerinin çalınmış hesap bilgileri veya sahte kimlikler kullanarak kapalı modellere erişmesi anlamına gelmiyor. Aksine, açık ve yasal bir erişim yolunun bulunması gerektiğini savunuyor. Bu ayrım, onun yaklaşımını Çinli laboratuvarlara yöneltilen izinsiz erişim suçlamalarından ayırıyor.

“Yapay zekâ bilgisi tek şirketin elinde kalmamalı”

Tan’ın görüşü iki temel noktaya dayanıyor. İlk olarak, yapay zekâ şirketlerinin API üzerinden sundukları bilgiyi müşterilerin nasıl kullanacağını tamamen kontrol etmeye çalışmasının aşırıya kaçabileceğini düşünüyor. İkinci olarak, kapalı model geliştiricilerinin kendi sistemlerini eğitirken internet üzerindeki geniş insan bilgisinden ve telif hakkıyla korunan içeriklerden izin almadan yararlandığını hatırlatıyor.

Tan’a göre, geniş ölçekte kamuya açık verilerle eğitilen bir modelin sunduğu zekâya erişim de tamamen kısıtlayıcı hizmet şartlarının arkasına kapatılmamalı. Bu nedenle hükümetlerin, model çıktılarının hangi koşullarda yeniden kullanılabileceğine ilişkin daha dengeli bir yaklaşım geliştirebileceğini düşünüyor.

Y Combinator CEO’su, kapalı ve öncü modellerin yapay zekâ araştırmalarını ileri taşıdığı için güçlü bir iş modeline sahip olması gerektiğini kabul ediyor. Aynı zamanda açık ağırlıklı modellerin kullanıcılara daha fazla özgürlük ve erişim sağlaması gerektiğini vurguluyor. Ona göre iki yapı birbirinin alternatifi olmak zorunda değil; her ikisinin de gelişmesi, yapay zekâ ekosistemindeki güç dengesini koruyabilir.

Tan’ın asıl endişesi, yapay zekâ alanındaki en güçlü modelin, en fazla sermayeye ve en iyi araştırmacılara sahip tek bir şirketin kontrolünde toplanması. Böyle bir yapının zamanla rakiplerini geride bırakabileceğini ve yapay zekâ erişimini tek bir ticari sağlayıcının kararlarına bağımlı hâle getirebileceğini düşünüyor.

Bu tartışma, distilasyonun tamamen yasaklanıp yasaklanmamasından çok, hangi kullanım biçimlerinin meşru kabul edileceği sorusunu gündeme getiriyor. Bir yanda model sahipleri fikrî mülkiyetlerini, altyapılarını ve güvenlik önlemlerini korumak istiyor. Diğer yanda açık ağırlıklı laboratuvarlar, kapalı sistemlerin ürettiği bilginin daha geniş bir ekosistemde kullanılabilmesini talep ediyor. ABD’de hazırlanacak olası kurallar, hem izinsiz erişimi engellemek hem de daha fazla şirketin yapay zekâ geliştirmesine imkân vermek zorunda kalacak.