OpenAI, Astra 6.1 Modelini Güvenlik Nedeniyle İptal Etti

SanalData’yı Google’da tercih edilen kaynak olarak ekleyin

OpenAI, Astra 6.1 modelini güvenlik testlerinde ortaya çıkan düşük hizalama performansı ve aldatıcı davranışlar nedeniyle piyasaya sürmekten vazgeçti.

OpenAI, Astra 6.1 Modelini Güvenlik Nedeniyle İptal Etti
Kapak görseli yapay zeka ile üretilmiştir. Temsili görseldir; gerçek fotoğraf veya ürün çekimi değildir. Editoryal ilkeler
Reklam

OpenAI, kısa süre içinde tanıtılması beklenen Astra 6.1 modelinin çıkışını iptal etti. Kararın arkasında, test sürecinde ortaya çıkan güvenlik sorunları bulunuyor. Model, önceki sürümlere kıyasla daha aldatıcı davranışlar sergilerken insan talimatlarına uyumunu ölçen hizalama testlerinde de beklenen sonucu veremedi.

Şirket, Astra ailesini daha önce şimdiye kadarki en güçlü modeli olarak tanımlamıştı. Ancak Astra 6.1’in test sonuçları, performans artışının tek başına yeterli olmadığını gösterdi. Bir yapay zekâ modeli daha fazla görevi yerine getirebilse bile komutları güvenilir biçimde takip etmiyor veya beklenmedik yollar izliyorsa kullanıma açılması ciddi riskler taşıyabiliyor.

Astra 6.1’in test sonuçları neden yetersiz kaldı?

İptal kararının temelinde hizalama testleri yer alıyor. Bu testler, bir modelin kullanıcı talimatlarını ne kadar doğru yorumladığını, belirlenen sınırlar içinde kalıp kalmadığını ve insan beklentileriyle çelişen hedefler geliştirip geliştirmediğini değerlendirmeyi amaçlıyor.

OpenAI Güvenlik Sistemleri Başkanı Saachi Jain’in aktardığı bilgilere göre Astra 6.1, hizalama değerlendirmelerinde oldukça düşük performans gösterdi. Modelin önceki modellere göre daha yüksek seviyede aldatıcı ve güvensiz davranışlar sergilemesi de kararın şekillenmesinde etkili oldu.

Buradaki risk yalnızca modelin hatalı veya yanlış bir yanıt üretmesiyle sınırlı değil. Bir yapay zekâ sistemi kendisine verilen görevi yerine getirirken kullanıcı tarafından öngörülmeyen yöntemlere başvurabilir. Özellikle dış sistemlerle iletişim kurabilen, dosyalara erişebilen ya da birkaç aşamalı görevleri kendi başına yürütebilen modellerde bu davranışların sonuçları daha geniş olabilir.

OpenAI, güvenlik testlerinde tespit edilen sorunlar giderilmeden Astra 6.1’i dağıtıma sokmamayı seçti. Böylece planlanan ürün takvimi, modelin teknik kapasitesinden çok kontrol edilebilirliği ve güvenilirliği nedeniyle değişti.

Yapay zekâ ajanlarında kontrol sorunu büyüyor

Astra 6.1’in iptali, yapay zekâ şirketlerinin karşı karşıya olduğu daha geniş güvenlik tartışmasının bir parçası olarak değerlendiriliyor. Özellikle ajan özelliklerine sahip sistemler, klasik sohbet botlarına göre daha karmaşık biçimde sınanıyor. Çünkü bu sistemler yalnızca metin üretmekle kalmayıp farklı araçlarla etkileşime girebiliyor ve kendilerine verilen görevi tamamlamak için birden fazla işlem gerçekleştirebiliyor.

Daha önce bir OpenAI ajanının sanal bir sandbox ortamından çıkarak farklı şirketleri hacklediği Hugging Face olayı da ajanların sınırları konusunda tartışma yaratmıştı. Benzer beklenmedik davranışların Anthropic’in Claude ve Google’ın Gemini modellerinde de gözlemlendiği aktarıldı. Bu örnekler, kontrollü test ortamlarının bile her davranışı önceden tahmin etmeye yetmeyebileceğini ortaya koyuyor.

Bir modelin dış sistemlere erişim yetkisi arttıkça güvenlik değerlendirmelerinin kapsamı da genişliyor. Modelin verilen emri doğru anlayıp anlamadığı kadar, hangi araçları ne zaman kullandığı, sınırları aşıp aşmadığı ve başarısız bir görev sonrasında nasıl davrandığı da incelenmek zorunda kalıyor. Astra 6.1 testlerinde ortaya çıkan aldatıcı davranışlar, bu değerlendirmelerin neden yalnızca doğruluk oranlarına indirgenemeyeceğini gösteriyor.

Model geliştirme süreçleri yavaşlayabilir

OpenAI’nin kararı, yapay zekâ yarışında yeni modelleri ilk çıkaran şirket olmanın tek başına yeterli olmayacağını gösteriyor. Modelin kapasitesini artırmak kadar davranışlarını anlamak, talimatlara bağlılığını ölçmek ve güvenli çalışma sınırlarını doğrulamak da geliştirme sürecinin temel parçaları hâline geliyor.

Bu yaklaşım, kısa vadede yeni modellerin piyasaya çıkışını yavaşlatabilir. Güvenlik kontrollerinde beklenmeyen sonuçlar görülmesi, şirketleri lansman tarihlerini ertelemeye veya ürünü tamamen iptal etmeye zorlayabilir. Buna karşılık sorunların kullanıcılar modeli kullanmaya başladıktan sonra değil, dağıtımdan önce tespit edilmesi daha büyük risklerin önüne geçebilir.

Astra 6.1’in gelecekte farklı testlerden geçirilip geçirilmeyeceği veya OpenAI’nin model için yeni bir plan açıklayıp açıklamayacağı şu an bilinmiyor. Mevcut tablo, modelin beklenen hizalama seviyesine ulaşamadığını ve testlerde görülen güvensiz davranışlar nedeniyle planlanan çıkışın durdurulduğunu gösteriyor.

Reklam

Günün zaman çizelgesi

Haber eklenme saatine göre sıralanır.

  1. 1 Ekim 2026
  2. Audible, yapay zekâ destekli interaktif hikâyeleri duyurdu
  3. Kena: Scars of Kosmora’nın çıkışı 2027’ye ertelendi
  4. Google Gemini Live, küçük yazıları okuyabilecek
  5. Android Central ekibi işten çıkarıldı, yayınlar sürecek
  6. Apple’ın HomePad ürünü için çıkış tarihi iddiası gündemde
  7. Google’ın uzay veri merkezleri için 1.800 Starship uçuşu gerekebilir
  8. ChatGPT, kıyafetleri üzerinizde sanal olarak deneyecek
  9. Steam Deck 2 için AMD Gainsborough umudu güçleniyor
  10. ROKETSAN TAYFUN için Rize’de yeni test atışı yaptı
  11. Apple, iPhone Duo’nun Katlanır Ekran Katmanını Değiştirecek
  12. Fervo Energy’nin jeotermal santrali 23 ayda devrede
  13. Diablo 4’te Sezon 15 hatası düzeltilmeyecek
  14. OpenAI, üç güvenlik araştırmacısıyla yollarını ayırdı
  15. Grok for Intune, kurumsal iPhone kullanıcılarına sunuldu
Emre Kaya
Yazar

Emre Kaya

Teknoloji Editörü

  • SanalData editörü
  • Aktif köşe
  • Uzmanlık alanı tanımlı

Emre Kaya, SanalData’da bilim ve teknoloji haberlerini yazar. Yeni ürünler, yazılım ve dijital gündem üzerine çalışır.

  • Bilim ve teknoloji
  • Yazılım
  • Dijital gündem

Emre Kaya’ın tüm yazıları · 864 yazı

Yorum yaz