Prompt injection, yani kötü niyetli kullanıcıların büyük dil modellerini (LLM) kandırmak için içeriklere gizlediği komutlar, bugüne kadar saldırganların en etkili araçlarından biriydi. Bir e-posta veya takvim davetiyesine ustalıkla yerleştirilen bir cümle, LLM'nin hassas verileri sızdırmasına veya zararlı eylemler gerçekleştirmesine yol açabiliyordu. Ancak artık bu silah, savunanların da eline geçmiş durumda. Tracebit araştırmacıları, prompt injection'ı savunma amaçlı kullanarak yapay zeka tabanlı siber saldırıları etkisiz hale getiren yeni bir yöntem geliştirdi: Context Bombing.
Context bombing, adını yapay zeka ajanlarının bağlamına (context) yerleştirilen güçlü ve keskin bir etki yaratan komutlardan alıyor. Tracebit CEO'su Andy Smith, bu tekniğin 'ajanların geri dönmesini zorlaştıran güçlü bir reddetme mekanizması tetiklediğini' belirtiyor. Yöntem, AWS'de depolanan şifreler, kriptografik anahtarlar ve diğer gizli bilgilerin yanına özel olarak hazırlanmış prompt injection'lar yerleştirmeye dayanıyor. Bu komutlar, saldırgan LLM'nin güvenlik korkuluklarını (guardrails) aşmasını engelliyor ve modeli otomatik olarak kapanmaya zorluyor.
Örnek olarak, LLM'ye inhalasyon yoluyla alınabilen şarbon sporları geliştirme adımlarını anlatmasını emreden bir prompt veya Çinli geliştiricilerin modellerinde Tiananmen Meydanı katliamındaki Tank Adam'a atıfta bulunan bir komut verilebilir. Bu tür yasaklı komutlarla karşılaşan LLM, mevcut görevini yerine getirmeyi reddediyor ve saldırı duruyor. Tracebit'in testlerinde, bu teknik sayesinde yapay zeka ajanlarının tam hesap yöneticisi yetkilerine ulaşma oranı %57'den %5'e, kalıcı erişim bırakma oranı ise %36'dan %1'e düştü.
Araştırmacılar, Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro ve Kimi 2.6 modellerini simüle edilmiş bir AWS ortamında test etti. En yetenekli ajan olan Opus 4.8, normalde %93 oranında yönetici erişimi elde ederken, context bombing ile karşılaştığında her seferinde başarısız oldu. Bu sonuçlar, tekniğin büyük bir potansiyel taşıdığını gösteriyor. Tracebit, bu yöntemin özellikle bulut ortamlarında güvenlik ekiplerine önemli bir avantaj sağlayabileceğini düşünüyor.
Context bombing'in en büyük avantajı, mevcut güvenlik altyapısına kolayca entegre edilebilmesi. Şifreler ve anahtarlar gibi zaten var olan gizli bilgilerin yanına eklenen bu komutlar, ek bir maliyet veya karmaşıklık gerektirmiyor. Ayrıca, yöntem sadece AWS ile sınırlı değil; benzer bir yaklaşım diğer bulut sağlayıcılarında da uygulanabilir. Ancak, bu tekniğin etkinliği, LLM'lerin güvenlik korkuluklarının ne kadar katı olduğuna bağlı olarak değişebilir.
Gelecekte Ne Bekleniyor?
Tracebit'in keşfi, siber güvenlik dünyasında önemli bir paradigma değişikliğine işaret ediyor. Artık sadece saldırganlar değil, savunanlar da prompt injection'ı etkin bir şekilde kullanabiliyor. Bu, yapay zeka tabanlı tehditlere karşı daha proaktif ve yaratıcı savunma yöntemlerinin önünü açıyor. Özellikle büyük dil modellerinin yaygınlaştığı günümüzde, context bombing gibi teknikler, güvenlik ekiplerine önemli bir nefes aldırabilir.
Sonuç olarak, yapay zeka güvenliği alanında yeni bir dönem başlıyor. Saldırganların en sevdiği araçlardan biri olan prompt injection, artık savunma hattının da vazgeçilmez bir parçası haline geliyor. Tracebit'in bu çalışması, siber güvenlik uzmanlarına ilham verirken, aynı zamanda yapay zeka sistemlerinin güvenlik açıklarını kapatmak için yeni yollar sunuyor. Gelecekte, bu tür yaratıcı savunma mekanizmalarının daha da yaygınlaşması bekleniyor.
Kaynak: arstechnica.com
