Anthropic: Claude, Biyolojik Silah Planlarında Kullanıldı

Yapay zekâ sistemleri, bilgi aramaktan kod yazmaya kadar uzanan görevlerde daha yetenekli hâle geldikçe kötüye kullanım riski de büyüyor. Anthropic tarafından yayımlanan yeni rapor, Claude modellerinin yalnızca üretkenlik amacıyla kullanılmadığını; biyolojik araştırmalar, siber saldırılar, kitlesel gözetleme ve rakip yapay zekâ sistemleri geliştirme gibi alanlarda da kötüye kullanılmaya çalışıldığını ortaya koydu.

Şirket, raporda yer alan tüm girişimlerin tespit edilerek engellendiğini belirtiyor. Ancak vakaların çeşitliliği, yapay zekâ araçlarının kötü niyetli aktörlerin karmaşık operasyonlara erişimini kolaylaştırabildiğini gösteriyor. Rapordaki en ciddi örnek ise biyolojik araştırmalarla ilgili.

Claude, virüslerin özelliklerini değiştirmeye yönelik planlarda kullanıldı

Anthropic’in aktardığına göre bazı kişiler, askeri bir araştırma enstitüsü adına hazırlanmış izlenimi veren bir fon başvurusunda Claude’dan yararlandı. Planın odağında Chikungunya virüsü ve H5N1 kuş gribi bulunuyordu.

Hazırlanan çalışmalarda virüslerin bağışıklık sisteminden kaçabilmesi, daha kolay bulaşması ve farklı canlılara uyum sağlayabilmesi için araştırma planları oluşturulması istendi. Yapay zekâdan yalnızca teknik araştırma fikirleri üretmesi değil, ortaya çıkan metinlerin gerçek bir bilimsel çalışma gibi görünmesini sağlaması da talep edildi.

Bu örnek, büyük dil modellerinin biyolojik bilgiye erişimi ve araştırma planlamasını hızlandırmasının, güvenlik önlemleri yetersiz kaldığında ciddi sonuçlara yol açabileceğini gösteriyor. Anthropic, kötüye kullanım girişimini durdurduğunu belirtse de rapor, zararlı amaçların doğrudan ve açık ifadelerle değil, meşru bir araştırma veya başvuru süreci gibi gösterilerek gizlenebildiğine işaret ediyor.

Raporda siber saldırı ve gözetleme vakaları da yer aldı

Claude’un kötüye kullanılmaya çalışıldığı alan biyolojiyle sınırlı kalmadı. Rapora göre Rusya bağlantılı Midnight Blizzard ve ShinyHunters vakalarında yapay zekâ, siber saldırıların farklı aşamalarında kullanıldı. ShinyHunters operasyonlarında görülen ve “vibe hacking” olarak adlandırılan yaklaşımda saldırganlar, hedef seçimi ve teknik uygulamaların önemli bölümünü yapay zekâya bırakıyor.

Mali’deki Lakana 360 projesi ise kitlesel gözetleme başlığı altında değerlendirildi. Anthropic, Claude’dan yararlanılarak yaklaşık 25 milyon SIM kartı takip edebilecek bir sistem geliştirildiğini aktardı. Çin’deki bazı operasyonlarda da yapay zekânın muhaliflerin dijital faaliyetlerini izlemek ve kişiler hakkında profiller oluşturmak amacıyla kullanıldığı belirtildi.

Bu vakalar, yapay zekânın yalnızca saldırı kodu üretme aracı olmadığını gösteriyor. Hedef belirleme, veri analizi, kişileri sınıflandırma ve operasyonun farklı aşamalarını planlama gibi görevler de modellerin kullanım alanına girebiliyor. Böylece daha az teknik deneyime sahip gruplar, daha karmaşık süreçleri yürütmeye çalışabiliyor.

Rakip modeller ve seçim manipülasyonu iddiası

Anthropic’in raporunda, Claude’un çıktılarından yararlanarak rakip yapay zekâ modelleri geliştirmeye yönelik girişimler de anlatıldı. Alibaba, Moonshot AI, DeepSeek ve Xiaomi ile ilişkilendirilen bazı vakalarda Claude yanıtlarının rakip sistemleri eğitmek veya geliştirmek amacıyla kullanıldığı ifade edildi.

Raporda Alibaba ile ilişkilendirilen bir operasyonda 3.500’den fazla sahte hesabın kullanıldığı ve Claude’a günde 3 milyonun üzerinde istek gönderildiği aktarılıyor. Bu tür yoğun otomatik erişimler, bir modelin yeteneklerini sistematik biçimde kopyalamaya veya başka bir yapay zekâ ürününü geliştirmeye yönelik olabilir.

Bir başka vakada ise İstanbul merkezli bir teknoloji şirketinin Claude kullanarak seçim manipülasyonuna yönelik bir sistem geliştirdiği belirtildi. Sistem, Malezya’daki 222 seçim bölgesine ait seçmen verilerini işledi. Ardından sahte hesaplar ve haber siteleri üzerinden propaganda yürütülmesi hedeflendi.

Anthropic’in açıklamaları, yapay zekâ güvenliğinin yalnızca modelin zararlı bir isteğe yanıt verip vermemesiyle sınırlı olmadığını ortaya koyuyor. Kullanıcı hesaplarının davranışları, isteklerin yoğunluğu, çıktıların hangi amaçla bir araya getirildiği ve farklı araçlarla nasıl birleştirildiği de risk değerlendirmesinde belirleyici hâle geliyor.

Rapor, şirketin eski araştırmacısı Jacob Coxon’ın istifasının ardından yaptığı ve yapay zekâ geliştirme süreçlerinin insan hayatını riske attığını savunan açıklamanın hemen sonrasında yayımlandı. Anthropic, tespit edilen operasyonları engellediğini söylese de paylaşılan örnekler, yapay zekâ yetenekleri arttıkça denetim ve kötüye kullanım önleme mekanizmalarının da aynı hızda güçlendirilmesi gerektiğini gösteriyor.