Siber güvenlik dünyasında otonom yapay zeka ajanları hızla yaygınlaşıyor. Bu ajanlar, yazılımlardaki güvenlik açıklarını tespit ediyor, penetrasyon testleri gerçekleştiriyor ve daha önce insan operatör gerektiren saldırı adımlarını birleştiriyor. Ancak güvenlik araştırmaları hâlâ büyük ölçüde manuel ve uzman eksikliğiyle boğuşuyor. İşte tam da bu noktada, Çin Bilimler Akademisi'nden bir ekip, bu boşluğu kapatmak için 'Siber Güvenlik Yapay Zeka Bilim İnsanı' (Cybersecurity AI Scientist) kavramını tanımlıyor. Bu sistem, bir sorudan başlayarak deneysel tasarım, araç geliştirme, kontrollü yürütme, değerlendirme ve yazılı sonuç üretmeye kadar tüm araştırma döngüsünü otonom olarak gerçekleştiriyor.
Araştırmacılar, bu konsepti somutlaştırmak için Hephaestus adını verdikleri modüler, çoklu ajan sistemini öneriyor. Homeros'un hem kılıç hem de kalkan döven demirci tanrısından adını alan Hephaestus, saldırı ve savunma odaklı çalışmaları tek bir çatı altında topluyor. Sistem, problem çerçeveleme, tehdit modelleme, araç oluşturma ve raporlama gibi farklı rollerde uzmanlaşmış ajanlardan oluşuyor. Ancak araştırmacılar, siber güvenliğin diğer alanlardaki otomatik araştırma sistemlerinden farklı olduğunu vurguluyor. Çünkü siber güvenlikte çalışılan nesne, incelenmeye uyum sağlıyor; platformlar, korkuluklar ve araçlar hızla değişiyor; ve bulguların doğrulanması, dijital ikizler ve siber sahalar gibi yöntemin kendisinin bir parçası olan unsurlara bağlı.
Makalede dikkat çeken bir diğer kavram ise 'dört-zeros' çerçevesi. Bu çerçeve, sistemin odaklanması gereken dört başarısızlık türünü tanımlıyor: risk, güven, olay ve enerji. Risk, yazılımdaki gizli kusurları; güven, insan operatörün kontrolü elinde tutması için kalibre edilmiş yardımı; olay, operasyonel aksaklıklar ve test ortamlarını; enerji ise uzun vadeli organizasyonel ve etik sonuçları kapsıyor. Araştırmacılar, bu başarısızlık türlerini inceleyerek sistemin daha sağlam hale gelmesini hedefliyor. Ayrıca, 'dirençli ajan lejyonları' fikriyle geleneksel güvenlik yaklaşımını tamamen değiştiriyorlar. Artık tek bir uç noktayı korumak yerine, ağın çeşitli noktalarına dağılmış, olay ve savunma kapsülleri taşıyan çok sayıda savunma ajanından oluşan bir popülasyonu yönetmek söz konusu.
Eş yazar Lidong Zhai, sistemin başarısının sadece hızla değil, stratejik soğukkanlılık, daha keskin önceliklendirme ve daha dayanıklı savunma tasarımıyla ölçülmesi gerektiğini belirtiyor. Sistem, uzun vadeli kıyaslama protokolleri ve sonuç ağırlıklı değerlendirme ile performansını kanıtlayacak. Ayrıca, çift kullanımlı teknolojilerin kontrolü için yetenek, rol, ortam ve yapıt düzeylerinde dört aşamalı bir kısıtlama mekanizması öngörülüyor. Şu an için bu çalışma, henüz tam olarak inşa edilmemiş bir çerçeve olsa da, siber güvenlik araştırmalarında yeni bir dönemin habercisi olarak değerlendiriliyor.