Infosecurity Europe 2026'da, Açık Dünya Uygulama Güvenliği Projesi (OWASP), Ajanik Araştırma Konseyi'ni resmen tanıtacak. Bu koordineli araştırma çabası, hızla gelişen ajanik yapay zeka yetenekleri ile geleneksel güvenlik araştırmaları ve standartlarının daha yavaş temposu arasındaki büyüyen uçurumu kapatmak için oluşturuldu. Konsey, 4 Haziran Perşembe günü Infosecurity Europe'ın OWASP GenAI Zirvesi'nde resmen duyurulacak.
OWASP GenAI Güvenlik Projesi ve Ajanik Güvenlik Girişimi'nin eş lideri ve yönetim kurulu üyesi John Sotiropoulos, yeni konseyi projenin bir sonraki adımı olarak tanımladı. Sotiropoulos, 'Ajanik Güvenlik Girişimi uzman destekli, ancak topluluk odaklıdır' dedi. Konsey, akademi, endüstri, hükümet ve politika yapıcılar arasında küresel bir işbirliği oluşturmayı amaçlıyor. Böylece araştırmalar önceliklendirilebilir, uyumlu hale getirilebilir ve geleneksel standart döngülerinden daha hızlı bir şekilde uygulanabilir önlemlere dönüştürülebilir.
Sotiropoulos, konseyin mantığının doğrudan ajanik sistemlerin hızından ve doğasından kaynaklandığını belirtti. AI ajanlarının makine hızında hareket edebilmesi, birçok standart endüstri uygulamasını sorgulamaya açıyor. 'Bu değişim hızı, biraz daha uyumlu olmamızı gerektiriyor' diyen Sotiropoulos, zamandan etkiye çöküşün (bir güvenlik açığını kullanma süresinin AI ajanları tarafından kısaltılması) savunucuları geliştirme merkezli yönetişimden, çalışma zamanı ve ajan düzeyinde izleme ve kontrollere yönlendirmesi gerektiğini vurguladı. Ayrıca, OpenClaw ve NanoClaw gibi yerel olarak barındırılan ajanik AI projelerinin teknolojiyi neredeyse herkes için erişilebilir hale getirerek AI ajanlarını demokratikleştirdiğini belirtti.
Detaylar ve Etkileri
Ajanik Araştırma Konseyi, kamuya açık bir araştırma konuları hattı tutacak, düzenli çalışma grupları toplayacak ve akademik çalışmaları operasyonel gerçekliklere bağlamayı hedefleyecek. Örneğin, Konsey doktora çalışmalarına sponsor olacak, akademik yol haritalarını acil uygulayıcı ihtiyaçlarıyla uyumlu hale getirecek ve doğrudan rehberlik, araç ve standartlara beslenen koordineli çıktılar üretecek. Sotiropoulos, Konsey'in mevcut uygulayıcı çalışmalarının yerini almayacağını, aksine araştırma ve uygulama arasındaki köprüyü resmileştirip ölçeklendireceğini vurguladı.
OWASP'ın Ajanik Güvenlik Girişimi, çoklu ajan güvenliği üzerine bir ön baskı makalesi yayınladı. 'Çoklu Ajan Güvenliğinde Açık Zorluklar: Etkileşimli AI Ajan Sistemlerine Doğru' başlıklı makale, ajanları izole olarak analiz etmenin artık yeterli olmadığını savunuyor. Çünkü birden fazla ajan yeni araçlar keşfedebilir, dinamik araç zincirleri oluşturabilir ve tasarım zamanında görülmeyen saldırı yüzeyleri yaratan ortaya çıkan davranışlar sergileyebilir. Makale, güvenli tasarım düşüncesinin, ajan etkileşimlerine ve davranışlarına odaklanan çalışma zamanı yönetişimi ve gözlemlenebilirlik ile tamamlanması gerektiğini belirtiyor.
Uzmanların Görüşleri
Sotiropoulos, analiz biriminin 'bir ajan veya sistem inşa etmekten o çalışma zamanına' kayması gerektiğini söyledi. Pratikte bu, olay müdahalesi, kırmızı takım çalışmaları ve atıf modellerinin makine hızındaki saldırıları ve çoklu ajan sürülerini hesaba katacak şekilde değişmesi gerektiği anlamına geliyor. Çoklu ajan kurulumlarının insanın döngüde olduğu varsayımlarını bozabileceği uyarısında bulunan Sotiropoulos, savunucuların bunun yerine insanın döngü üzerinde olduğu (aksiyon bazlı doğrulama yerine insan gözetimi) ve ajan düzeyinde politika izleyicileri planlaması gerektiğini savundu. 'Ajan sürülerini, birçok küçük varlığın birlikte o kadar hızlı hareket ettiği drone sürülerine benzetiyorum ki, bu bir insan için aynı anda milyonlarca yanıt gerektiriyor' dedi.
Konsey ayrıca ajanik AI yönetişimi üzerine bir makale yayınlayacak. Bu makale, ajanik sistemlerin getirdiği yeni güvenlik ve yönetişim zorluklarına odaklanarak, kuruluşların bu teknolojileri güvenli bir şekilde benimsemeleri için pratik rehberlik sağlamayı hedefliyor. Sotiropoulos, Konsey'in şeffaf bildirgelerle herkesin katılımını sağlayacağını ve OWASP GenAI Güvenlik Projesi web sitesinde konseye özel bir sayfa oluşturulacağını belirtti.
Kaynak: infosecurity-magazine.com
