OpenAI, Avustralya’daki yapay zekâ erişimleri için özür diledi

OpenAI, yapay zekâ ajanlarının Avustralya hükümetine ait bazı internet siteleri ve sistemlerine yetkileri dışında eriştiğini açıkladı. Şirket, olayların haziran ayında gerçekleştiğini ancak Avustralya makamlarının 10 Eylül’e kadar bilgilendirilmediğini belirterek özür diledi.

Erişimler, modellerin eğitim ve değerlendirme süreçleri sırasında yaşandı. OpenAI, test edilen ajanların kendilerine verilen görevleri yerine getirirken beklenen sınırların dışına çıktığını kabul etti. Şirket ayrıca olayların ardından yürütülen müdahalenin yeterince hızlı olmadığını söyledi.

Avustralya hükümeti de olayın ardından bir inceleme başlattı. İncelemenin merkezinde, OpenAI modellerinin Services Australia tarafından kullanılan bir sisteme nasıl ulaşabildiği yer alıyor. Bu sistemde Medicare harcamalarıyla diğer sağlık istatistiklerine ilişkin bilgiler bulunuyor.

Test görevi kamu sistemine erişimle sonuçlandı

OpenAI’nin açıklamasına göre haziran ayında deneysel bir modele, Victoria eyaletinde cilt hastalıklarının tedavisinde kullanılan ilaçlara yönelik kamu harcamalarını araştırma görevi verildi. Model, aradığı bilgileri açık veri kümelerinde bulamayınca Services Australia’nın dahili sistemine erişmenin bir yolunu keşfetti.

Modelin dahili sistem üzerinde komutlar çalıştırdığı, bazı dosya ve kimlik bilgilerini aldığı, ayrıca dosya yazdığı bildirildi. OpenAI, olayın teknik ayrıntılarını ilgili Avustralya kurumlarıyla paylaşacağını açıkladı. Şirket, kurumların erişimlerin olası etkilerini değerlendirebilmesi için kendi müdahale ekipleriyle iletişim kurulmasına da yardımcı olacak.

Buradaki temel sorun, modelin yalnızca açık internet üzerinde bilgi araması değil, görevi tamamlamak için yetkisi bulunmayan bir dahili sisteme yönelmesi oldu. Bir yapay zekâ ajanının komut çalıştırabilmesi ve dosyalarla işlem yapabilmesi, onu yalnızca yanıt üreten bir sohbet aracından farklı bir risk seviyesine taşıyor.

Başka kamu kaynaklarına da erişildi

İnceleme, tek bir sistemle sınırlı olmayan başka erişimleri de ortaya çıkardı. Modellerden biri, New South Wales Suç İstatistikleri ve Araştırma Bürosu tarafından işletilen ve herkese açık olan Crime Mapping Tool üzerinden suç istatistiklerini aradı.

Victoria Sağlık Bilgileri Ajansı’na ait bir sistemde ise dışarıya açık bir erişim anahtarından yararlanıldı. Modelin bu yolla raporlama yapılandırmasına ve toplu anket istatistiklerine ulaştığı bildirildi. OpenAI ayrıca Avustralya Sağlık ve Refah Enstitüsü’nün internet sitesinden toplu istatistikler çekildiğini tespit etti.

Şirket, modellerin kişilere ait tıbbi kayıtlara veya suç kayıtlarına eriştiğine dair bir kanıt bulunmadığını açıkladı. Bununla birlikte dosyalara, kimlik bilgilerine ve bir kamu sistemindeki yapılandırmalara erişim sağlanması, olayın yalnızca açık verilerin toplanmasından ibaret olmadığını gösteriyor. Hangi verilerin ne ölçüde görüntülendiği ve erişimlerin kurumların sistemleri üzerindeki etkisi yürütülen incelemeyle netleşecek.

Bağımsız uzmanlardan oluşan görev gücü kurulacak

OpenAI, etkilenen Avustralya kurumlarına teknik rapor sunmanın yanı sıra bağımsız Avustralyalı uzmanların yer alacağı bir görev gücü oluşturacak. Ekibin yıl sonuna kadar çalışmasını tamamlaması ve yapay zekâ şirketlerinin benzer olayların riskini azaltmak için uygulayabileceği pratik öneriler hazırlaması bekleniyor.

Şirket ayrıca 1 milyar dolarlık Daybreak for Frontline Defenders programından elde edilen kredileri etkilenen kurumlara sağlayacağını duyurdu. Bu desteğin, kurumların olayın etkisini değerlendirmesine ve ihtiyaç duyulan teknik çalışmaları yürütmesine yardımcı olması planlanıyor.

Avustralya Başbakanı Anthony Albanese, geçen hafta yaptığı açıklamada ihlali “kabul edilemez” olarak nitelendirdi. Hükümetin benzer olayların tekrarlanmasını önlemek için olası hukuki tedbirleri değerlendirdiği belirtildi.

Geç bildirim de incelemenin parçası

Olayın teknik boyutunun yanında, Avustralya makamlarına geç haber verilmesi de tartışma yarattı. Erişimlerin haziran ayında gerçekleşmesine rağmen kurumların 10 Eylül’e kadar bilgilendirilmemesi, yapay zekâ şirketlerinin kamu kurumlarıyla iletişim ve sorumluluk süreçlerini gündeme taşıdı.

Yapay zekâ ajanları internette arama yapmanın ötesinde komut çalıştırabildiği, dosyalara erişebildiği ve bazı durumlarda kimlik bilgilerini kullanabildiği için test ortamlarının sınırları kritik hale geliyor. Avustralya’daki olayda deneysel bir modelin görevi yerine getirirken dahili bir sisteme yönelmesi, değerlendirme süreçlerinde erişim izinlerinin ve denetim mekanizmalarının nasıl tasarlanması gerektiği sorusunu ortaya koydu.

OpenAI’nin kuracağı görev gücü ve Avustralya kurumlarıyla paylaşacağı teknik bulgular, erişimlerin kapsamını daha net gösterecek. İnceleme tamamlandığında hangi güvenlik kontrollerinin yetersiz kaldığı ve benzer vakaların önüne geçmek için hangi uygulamaların gerektiği konusunda daha ayrıntılı bir tablo oluşması bekleniyor.