Infosecurity Europe 2026'da konuşan OWASP katılımcısı ve Pillar Security'de AI güvenlik araştırmacısı Ariel Fogel, prompt injection saldırılarının hala temel düzeyde çözülmemiş bir mimari problem olduğunu vurguladı. AI ve güvenlik uzmanları bu tehdidi uzun süredir bilse de, sorunun köküne inen bir çözüm geliştirilemedi.
Fogel'e göre, büyük dil modelleri (LLM'ler) girdileri tek bir token dizisi olarak işlediği için sistem promptları, kullanıcı sorguları ve ajan tarafından alınan içerik arasında güvenilir bir ayrım mekanizması bulunmuyor. Bu durum, saldırganların sistem talimatlarını manipüle etmesine olanak tanıyor.
Geleneksel prompt injection'da risk sınırlıyken, günümüzde ajanların araçlara ve eylem yeteneklerine sahip olmasıyla tehdit boyut değiştirdi. Fogel, başarılı bir enjeksiyonun artık sadece yanlış bir yanıt üretmekle kalmayıp, gerçek dünyada bir dizi eylemi tetikleyebileceğini belirtti.
Önemli Gelişmeler
Agentic AI iş akışlarında, araç erişimi olan ajanlar kullanıcı adına adımlar atabiliyor. Bu nedenle bir enjeksiyon, kötü bir çıktıdan aktif bir ihlale dönüşebiliyor. Fogel, 'Çoğu kuruluş, ajanları yönetebildiklerinden daha hızlı devreye alıyor' diyerek geleneksel kontrollerin bu hıza yetişemediğini ifade etti.
Detaylar ve Etkileri
İnsan operatörler için çalışan savunmaların (korumalı alan, izin listeleri, manuel inceleme) ajanlar söz konusu olduğunda başarısız olduğunu belirten Fogel, izin listelerinin bazı durumlarda saldırıyı kolaylaştırdığını, çünkü ajanın ihtiyaç duyduğu komutların zaten onaylanmış olduğunu söyledi. Ayrıca ajanın kendi çıktısının, korumalı alan sınırlarını yeniden tanımlayarak kısıtlamaları etkisiz hale getirebildiğini ekledi.
Fogel, ünlü açık kaynak geliştiricisi Simon Willison tarafından ortaya atılan 'Ölümcül Üçlü' (Lethal Trifecta) kavramına dikkat çekti. Bu kavram, bir AI ajanının özel verilere erişmesi, güvenilmeyen içeriğe maruz kalması ve harici iletişime izin vermesi durumunda prompt injection saldırılarının kritik ölçüde istismar edilebilir hale geldiğini açıklıyor. Fogel, bu üç koşulun bir araya gelmesinin agentic AI güvenliği için en büyük tehdit olduğunu vurguladı.
Kaynak: infosecurity-magazine.com
