Yapay zeka destekli siber saldırılar, günümüzün en büyük tehditlerinden biri haline geldi. Kötü niyetli aktörler, insan saldırganlardan çok daha hızlı ve etkili olabilen AI ajanlarını kullanarak ağlara sızıyor, veri çalıyor ve sistemleri ele geçiriyor. Peki siber güvenlik uzmanları bu yeni nesil tehditle nasıl başa çıkabilir? Tracebit araştırmacılarının yeni keşfi 'bağlam bombaları' (context bombs), bu soruna yenilikçi bir çözüm sunuyor.
Bağlam bombaları, aslında bir tür prompt enjeksiyonu saldırısı. Ancak bu kez saldırgan değil, savunmacı tarafından kullanılıyor. Araştırmacılar, AI hackleme ajanlarının kendi güvenlik korkuluklarını (safety guardrails) tetikleyerek saldırıyı durdurmayı başardı. Yani bir AI ajanına, onu durduracak bir dizi özel komut gönderiliyor. Bu komutlar, ajanın kendi kurallarını ihlal etmesine neden oluyor ve saldırı otomatik olarak sonlanıyor.
Tracebit ekibi, bu tekniği beş farklı büyük dil modeli (LLM) üzerinde test etti: Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro ve Kimi 2.6. Sonuçlar çarpıcıydı: Tek bir bağlam bombası, AI hackleme ajanlarının başarı oranını yaklaşık %90 oranında düşürdü. En başarılı AI ajanı, bağlam bombası olmadan denemelerin %93'ünde tam hesap yöneticisi erişimi elde ederken, bomba devreye girdiğinde her seferinde başarısız oldu.
Gelecekte Ne Bekleniyor?
Peki bir bağlam bombası tam olarak neye benziyor? Araştırmacılar, Çin yapımı LLM modellerini hedef alan bir testte, Tiananmen Meydanı protestoları ve Tank Adamı gibi sansürlenen konulara atıfta bulundu. Çin hükümeti bu referansları sıkı bir şekilde sansürlediği için, Çinli LLM'ler bu kurallara uyuyor. Bağlam bombası olarak bu hassas konuları kullanan araştırmacılar, AI hackleme ajanlarını tüm komutları terk etmeye zorladı. Batı modelleri içinse (Opus 4.8, Gemini 3.1 Pro) tehlikeli biyolojik konulara yapılan atıflar işe yaradı.
Uzmanların Görüşleri
Bu teknik, prompt enjeksiyonlarının ilk kez savunma amaçlı kullanılması olarak kayıtlara geçti. Daha önce prompt enjeksiyonları genellikle saldırganlar tarafından kurbanların AI asistanlarını ve sohbet botlarını ele geçirmek için silah haline getirilmişti. Tracebit araştırmacıları, bu yöntemi tersine çevirerek iyi amaçla kullanmanın yolunu buldu. Bu, siber güvenlik dünyasında önemli bir dönüm noktası olarak değerlendiriliyor.
Bağlam bombaları, özellikle büyük dil modellerinin güvenlik açıklarını hedef alan saldırılara karşı etkili bir savunma mekanizması sunuyor. Ancak uzmanlar, bu yöntemin de mükemmel olmadığını ve AI ajanlarının zamanla bu tuzaklara karşı daha dirençli hale gelebileceğini belirtiyor. Yine de şimdilik, siber güvenlik uzmanlarının elinde güçlü bir araç var: AI korsanlarını kendi oyunlarıyla yenmek.
Kaynak: mashable.com
