Otonom yapay zeka ajanları, gerçek güvenlik işlerini üstlenmeye başladı. Dil modelleriyle çalışan ajanlar, yazılımlardaki açıkları tespit ediyor, sızma testleri yapıyor ve bir zamanlar insan operatör gerektiren saldırı adımlarını zincirleme olarak gerçekleştirebiliyor. Ancak siber güvenlik araştırmaları hâlâ yavaş ve manuel, uzman eksikliği ve elle tasarlanmış deneylere dayanıyor. Çin Bilimler Akademisi'ndeki bir ekip bu boşluğu kapatmak için harekete geçti. Son yayınladıkları makalede, 'Siber Güvenlik Yapay Zeka Bilim İnsanı' kavramını tanımladılar. Bu sistem, bir sorudan yola çıkarak deney tasarımı, araç geliştirme, kontrollü uygulama, değerlendirme ve kendi başına yazılı sonuç üretme aşamalarını gerçekleştirebiliyor.
Araştırmacılar, bu kavramı somutlaştırmak için Hephaestus adını verdikleri modüler, çoklu-ajan bir sistem öneriyor. Homeros'un hem mızrak hem de kalkan döven demirci tanrısından adını alan sistem, saldırı ve savunma çalışmalarını tek bir tasarım altında birleştirmeyi amaçlıyor. Hephaestus'ta her biri farklı roller üstlenen ajanlar var: problem çerçeveleme, tehdit modelleme, araç üretimi ve raporlama. Bu yapı, siber güvenlik araştırmalarını otomatikleştirerek hızlandırmayı hedefliyor. Ancak araştırmacılar, mevcut otomatik araştırma sistemlerinin siber güvenlik alanına doğrudan uygulanamayacağını belirtiyor. Çünkü siber güvenlikte çalışılan nesne, incelenmeye adapte oluyor; platformlar, güvenlik önlemleri ve araçlar hızla değişiyor.
Makalede, sistemin odaklanması gereken dört temel başarısızlık türü tanımlanıyor: risk, güven, olay ve enerji. Risk, yazılımdaki gizli kusurları; güven, insan operatörün kontrolü elinde tutmasını sağlayacak kalibrasyonu; olay, operasyonel hataları ve test ortamlarını; enerji ise uzun vadeli organizasyonel ve etik sonuçları kapsıyor. Özellikle risk ekseninde, son dönemdeki yetenek sıçramaları dikkat çekiyor. Örneğin, Project Glasswing kapsamında yayınlanan Claude Mythos Preview modeli, genel kullanıma açılmadı çünkü siber saldırı yeteneği çok güçlüydü. CyberGym benchmark testinde ise öncü modeller, binlerce gerçek dünya güvenlik açığı karşısında tek denemede yüzde onlarca başarı oranı yakaladı ve kendi başlarına yeni zero-day açıkları keşfetti.
Makalenin en çarpıcı fikirlerinden biri, 'dayanıklı ajan lejyonları' kavramı. Geleneksel savunmalar, çevrenin korunduğu, her ekibin kendi alanına sahip olduğu ve onarımların insan hızında yapıldığı varsayımlarına dayanır. Ancak her iki taraf da otonom ajanlarla savaştığında ve saldırı yüzeyi yamalardan daha hızlı değiştiğinde bu varsayımlar çöker. Yazarlar, ağın kenarlarına dağılmış, büyük ve kasıtlı olarak gereksiz bir savunma ajanı kalabalığı öneriyor. Her bir ajan, güvenlik olaylarını ve bunlarla başa çıkma rutinlerini içeren bir 'olay ve savunma kapsülü' taşıyor. Bu yaklaşımda, terminal güvenliği yerini ajan güvenliğine bırakıyor. Makalenin ortak yazarı Lidong Zhai, sistemin başarısının hızla değil, stratejik duruş, daha keskin önceliklendirme ve daha dayanıklı savunma tasarımıyla ölçülmesi gerektiğini vurguluyor.
