Safeworld, yapay zekâlı robotlar için güvenlik arıyor

Üretken yapay zekânın robotların kontrol sistemlerinde kullanılması, robotik sektörünün önündeki güvenlik sorularını artırıyor. Geleneksel kontrol algoritmaları belirli kurallara göre çalıştığı için davranışlarını sınamak görece daha kolay. Olasılıksal sonuçlar üreten yapay zekâ sistemlerinde ise aynı koşullar altında farklı tepkiler ortaya çıkabiliyor. Bu durum, robotların insanlarla aynı ortamda çalışacağı senaryolar için daha gelişmiş test yöntemlerini gerekli kılıyor.

Safeworld, robotların gerçek dünyada daha geniş ölçekte kullanılmasından önce bu testleri simülasyon ortamlarına taşımayı amaçlıyor. Girişim, 5 Ekim 2026 itibarıyla gizlilik döneminden çıktı. Şirketin kurucuları arasında Carnegie Mellon Üniversitesindeki Safe AI Laboratuvarını yöneten Dr. Ding Zhao, girişim yöneticisi Kyle Wong ve makine öğrenimi mühendisi Simo Rachidi bulunuyor.

Şirket ayrıca 12 milyon doların üzerinde tohum yatırımı aldı. Yatırım turuna Shine Capital ile a16z Speedrun liderlik etti. Box Group, Carnegie Mellon University Endowment, Innovation Endeavors ve SV Angel da tura katılan yatırımcılar arasında yer aldı. Safeworld, aldığı yatırımla robotik kontrol sistemlerini farklı insan davranışları ve çevre koşulları altında değerlendirebilecek bir altyapı geliştirmeye odaklanacak.

Robotlar gerçek dünyaya çıkmadan test edilecek

İnsanlarla aynı alanı paylaşan bir robotun başarısı, yalnızca görevini doğru tamamlamasıyla ölçülemiyor. Robotun çevresindeki kişileri ne kadar hızlı algıladığı, hareketlerini nasıl tahmin ettiği ve tehlike oluştuğunda ne kadar güvenli durabildiği de performansın parçası hâline geliyor. Üretim tesisleri, depolar, iş yerleri ve evler birbirinden farklı düzenlere sahip olduğundan, tek bir kontrollü test bu koşulların tamamını temsil etmeye yetmeyebilir.

Safeworld’ün yaklaşımında, değerlendirmeye alınan robotun gerçek kontrol yazılımı simülasyon ortamına aktarılacak. Girişim, Genesis veya MuJoCo gibi modeller üzerinden robotun farklı koşullardaki davranışını incelemeyi planlıyor. Simülasyonlarda robotlar, çok sayıda insan modeliyle karşılaştırılacak ve farklı hareket biçimlerine verilen tepkiler ölçülecek.

Bu testlerin odağında yalnızca insanların normal biçimde hareket ettiği senaryolar bulunmayacak. Takılma, düşme veya robotun beklemediği bir yöne yönelme gibi durumlar da değerlendirilebilecek. Böylece robotun çevresindeki kişiyi fark etme süresi, hareketini değiştirme biçimi ve güvenli durma kabiliyeti daha ayrıntılı biçimde incelenebilecek.

Simülasyon kullanımı, geliştiricilerin gerçek insanları riskli durumlara sokmadan çok sayıda ihtimali değerlendirmesine olanak tanıyor. Gerçek dünyada nadir görülen ancak ciddi sonuçlara yol açabilecek durumların tekrar tekrar oluşturulabilmesi, robot güvenliği testlerinde önemli bir avantaj sağlayabilir. Safeworld’ün sistemi bu süreci, farklı insan davranışlarını ve çevre koşullarını bir araya getiren bir değerlendirme yöntemiyle yürütmeyi hedefliyor.

Bağımsız değerlendirme güvenlik iddialarını sınayabilir

Robot üreticileri kendi test araçlarını geliştirebilir veya ürünlerini kontrollü ortamlarda sınayabilir. Safeworld ise güvenlik değerlendirmelerinin üreticiden bağımsız bir üçüncü taraf tarafından yapılabileceği bir yapı kurmak istiyor. Böyle bir yaklaşım, robotların yalnızca tanıtım sırasında veya üreticinin belirlediği koşullarda değil, farklı senaryolar altında da incelenmesine yardımcı olabilir.

Bağımsız değerlendirme, farklı şirketlerin karşılaştığı güvenlik sorunlarının daha görünür hâle gelmesini de sağlayabilir. Robotların aynı ortamda insanlarla birlikte çalıştığı durumlarda ortaya çıkan riskler, yalnızca tek bir ürünün teknik özellikleriyle sınırlı kalmayabilir. Farklı robotlarda tekrarlanan sorunların belirlenmesi, geliştiricilerin test yöntemlerini ve güvenlik kurallarını gözden geçirmesine zemin hazırlayabilir.

Safeworld’ün kurucularına göre asıl sınav, robotun kontrollü bir tanıtım ortamında sorunsuz çalışması değil, geniş ölçekte kullanılırken farklı davranışlara sahip insanlarla karşılaşması. Üretken yapay zekânın olasılıksal yapısı, robotun her koşulda aynı tepkiyi vermesini zorlaştırabildiği için bu testler daha da önem kazanıyor.

Güvenlik standartları kullanım yaygınlaşmadan şekillenebilir

Safeworld, robotların evlerde ve iş yerlerinde daha fazla kullanılmasını beklemeden güvenlik değerlendirmelerinin yapılması gerektiğini savunuyor. Bu yaklaşım, gerçek hayatta yaşanabilecek kazaları yalnızca olaydan sonra incelemek yerine, farklı kullanım koşullarını önceden simülasyonlarla sınamaya dayanıyor.

Girişimin geliştireceği altyapının ne kadar yaygın kullanılacağı, robot üreticilerinin bağımsız testlere yaklaşımıyla belirlenecek. Safeworld’ün aldığı yatırım, robot güvenliğinde simülasyon tabanlı değerlendirmelere yönelik ticari ilginin bulunduğunu gösteriyor. Ancak yöntemin sektörde ortak bir uygulamaya dönüşmesi için üreticilerin yanı sıra güvenlik değerlendirmelerini yapan kuruluşların da farklı senaryoları tutarlı biçimde ölçebilmesi gerekecek.