Anthropic, Yapay Zekâ Denetimi İçin Accenture’ı Seçti

Anthropic, yapay zekâ modellerinin güvenliğini şirket dışından denetleyecek ekiplerin laboratuvar içinde çalışması planını hayata geçirmeye başladı. Şirketin ilk gömülü değerlendiricisi olarak Accenture bünyesinde faaliyet gösteren Faculty seçildi. Faculty ekibi, Anthropic çalışanlarıyla aynı ortamda modelleri inceleyecek ve güvenlik önlemlerini sınayacak.

Anthropic tarafından yapılan açıklamaya göre Faculty; modelleri değerlendirecek, kırmızı takım testleri gerçekleştirecek, hizalanma analizleri yürütecek ve model güvenlik mekanizmalarını sınayacak. Kırmızı takım çalışmaları, yapay zekâ sistemlerini kasıtlı olarak zorlayarak zararlı, yanıltıcı veya beklenmeyen davranışları ortaya çıkarmayı amaçlıyor.

Beş yıllık yatırım en az 1 milyar dolar

Anthropic ile Accenture, bu çalışma için önümüzdeki beş yıl içinde en az 1 milyar dolar yatırım yapmayı planlıyor. Accenture’ın duyurunun ardından mesai sonrası işlemlerdeki hisseleri yüzde 8 yükseldi. Piyasanın tepkisi, yapay zekâ güvenliğinin yanı sıra model değerlendirme hizmetlerinin de şirketler açısından büyüyen bir alan hâline geldiğini gösterdi.

Faculty, Accenture tarafından ocak ayında satın alınmış ve şirketin yapay zekâ bölümü olarak konumlandırılmıştı. Accenture, derin öğrenme araştırmalarının en ileri noktasındaki çalışmalarıyla tanınan bir araştırma laboratuvarı değil. Anthropic ise bu tercihin arkasında, Accenture’ın büyük şirketlere ve devlet kurumlarına yapay zekâ sistemleri uygulama konusundaki pratik deneyiminin bulunduğunu belirtiyor.

Şirket ayrıca Accenture’ın, yapay zekâ laboratuvarlarından ve bu laboratuvarların çevresindeki ticari ekosistemden işlevsel olarak daha bağımsız olduğunu vurguluyor. Accenture’ın yapay zekâ sektöründeki mevcut laboratuvarlardan daha eski ve halka açık bir şirket olması, Anthropic’e göre dış denetim açısından avantaj sağlayabilir.

Anthropic’in planı nasıl ilerleyecek?

Anthropic, önümüzdeki haftalarda başka değerlendiricileri de duyuracağını açıkladı. Şirket, METR ve diğer kâr amacı gütmeyen kuruluşlarla da görüşüyor. Bu kuruluşlarla, kendi finansmanlarını kullanarak gömülü değerlendirme yaklaşımının bazı unsurlarını pilot olarak uygulama ihtimali değerlendiriliyor.

Ancak bu modelin nasıl işleyeceğine dair yerleşmiş standartlar henüz bulunmuyor. Değerlendiricilerin hangi verilere erişebileceği, şirket içinde nasıl iletişim kuracağı ve bulgularını hangi biçimde paylaşacağı gibi başlıklar için ortak bir çerçeve oluşturulmuş değil. Anthropic, uygulamanın zaman içinde değişmesini beklediğini ifade ediyor.

Geniş dil modellerinin kullanıma sunulmasından önce dış değerlendirmeler zaten sürecin önemli parçalarından biri. Buna rağmen son olaylar, bağımsız ve sürekli denetim tartışmasını daha kritik hâle getirdi. OpenAI ve Anthropic tarafından geliştirilen yapay zekâ ajanlarının, laboratuvar içindeki sistemler alarm vermeden dış internet sitelerine izinsiz erişim sağlayarak saldırıya geçtiği olaylar yaşandı.

Bağımsızlık ve sorumluluk tartışması

Anthropic’in kurucusu Dario Amodei’nin üçüncü taraf değerlendiricileri yapay zekâ laboratuvarlarının içine yerleştirme fikri, sektörde farklı tepkiler aldı. Bazı eleştirmenler, değerlendirme faaliyetlerinin yine laboratuvarların kontrolü altında yürütülmesinin hesap verebilirliği zayıflatabileceğini düşünüyor. Bu yaklaşımın, modellerin hatalı davranışları için daha güçlü bir dış denetim yerine sektör içi öz denetim yaratabileceği savunuluyor.

Anthropic ise değerlendiricilerin şirketin sorumluluğunu ortadan kaldırmadığını, güvenlik çalışmalarının dışarıdan doğrulanabilir olmasına yardımcı olduğunu söylüyor. Şirketin yaklaşımına göre modellerin güvenliğinden nihai olarak yine Anthropic sorumlu olacak.

Faculty ile başlayan ortaklık, bu nedenle yalnızca yeni bir danışmanlık anlaşması olarak görülmüyor. Anthropic, model geliştirme sürecinde güvenlik testlerini şirket dışındaki ekiplerin daha yakından inceleyebileceği bir yapı kurmaya çalışıyor. Bunun ne kadar bağımsız ve etkili olacağı ise erişim kuralları, iletişim biçimi ve ileride açıklanacak diğer değerlendiricilerin rolü netleştikçe ortaya çıkacak.