Otonom yapay zeka ajanları, siber güvenlik alanında gerçek işler yapmaya başladı. Dil modeli tabanlı ajanlar yazılımlardaki zafiyetleri tarıyor, sızma testleri gerçekleştiriyor ve bir zamanlar insan operatör gerektiren saldırı adımlarını zincirleme olarak yürütüyor. Ancak güvenlik araştırmaları, uzman kıtlığı ve elle tasarlanmış deneyler nedeniyle daha yavaş ve manuel kalmaya devam ediyor. Çin Bilimler Akademisi'nden bir ekip bu boşluğu kapatmayı hedefliyor. Son yayınladıkları makalede, 'Siber Güvenlik Yapay Zeka Bilim İnsanı' olarak adlandırdıkları bir kavramı tanımlıyorlar. Bu araştırma sistemi, bir sorudan yola çıkarak deney tasarımı, araç geliştirme, kontrollü yürütme, değerlendirme ve yazılı sonuç üretme aşamalarını otonom olarak gerçekleştiriyor.
Araştırmacılar, Hephaestus adını verdikleri modüler, çok ajanlı bir sistemi bu konseptin uygulanabilir bir örneği olarak sunuyor. Homeros'un destanlarındaki hem mızrak hem de kalkan döven demirci tanrıdan adını alan sistem, saldırı ve savunma çalışmalarını tek bir tasarım altında birleştirmeyi amaçlıyor. Ancak yazarlar, siber güvenliğin diğer alanlardaki otomatik araştırma sistemlerinin varsayımlarını bozduğunu belirtiyor. Çalışma nesnesinin kendisi incelenmeye adapte oluyor; model platformları, güvenlik önlemleri ve araç erişimi, tek bir araştırma döngüsünden daha hızlı değişiyor. Ayrıca bir bulgunun doğruluğu, yöntemin kendisinin bir parçası olan dijital ikizler, siber alanlar ve kanıt zincirlerine bağlı hale geliyor.
Makalede dört-zeros çerçevesi olarak adlandırılan bir yapı ile sistemin endişelenmesi gereken dört tür başarısızlık tanımlanıyor: risk, güven, olay ve enerji. Risk, yazılımdaki gizli kusurlarla ilgili; güven, insan operatörün kontrolü elinde tutması için kalibre edilmiş yardım; olay, operasyonel aksaklıklar ve bunları yakalamak için gereken test ortamları; enerji ise uzun vadede ortaya çıkan organizasyonel ve etik sonuçlar. Son dönemdeki yetenek sıçramaları risk eksenini besliyor. Anthropic'in Project Glasswing kapsamında yayınlanan Claude Mythos Preview modeli, siber saldırı yeteneğinin yüksek olması nedeniyle genel erişime açılmadı. Aynı modelin, yaygın olarak kullanılan yazılımlarda büyük ölçekli kusurlar keşfettiği raporlanıyor.
Gelecekte Ne Bekleniyor?
Makalenin en çarpıcı fikirlerinden biri 'dayanıklı ajan lejyonları' kavramı. Yazarlara göre, mevcut savunmalar çevrenin korunduğu, her ekibin kendi alanını yönettiği ve onarımların insan hızında gerçekleştiği varsayımlarına dayanıyor. Ancak bir çatışmanın her iki tarafı da otonom ajanlarla yönetilmeye başlandığında ve saldırı yüzeyi kimsenin yama gönderebileceğinden daha hızlı değiştiğinde bu varsayımlar çökmeye başlıyor. Yazarlar bu nedenle modeli tersine çeviriyor: Ağın kenarlarına dağılmış, izleme katmanları, koordinasyon kanalları ve kurtarma işleriyle ilgilenen büyük, kasıtlı olarak yedekli bir savunmacı ajan kalabalığı hayal edin. Her biri, bir güvenlik olayı kategorisini onu ele alacak rutinlere bağlayan bir 'olay ve savunma kapsülü' taşıyor. Bu anlatımda, eski terminal güvenliği kavramı parçalanıyor ve yerini ajan güvenliği alıyor. Artık iş, tek bir uç noktayı korumak değil, kolektif davranışı korumayı sağlayan bir ajan popülasyonunu yönetmek haline geliyor.
