Infosecurity Europe 2026'da konuşan OWASP katılımcısı Ariel Fogel, prompt enjeksiyonunun yapay zeka gelişimini sekteye uğratabilecek çözülmemiş bir mimari sorun olduğunu belirtti. Pillar Security CTO ofisinde AI güvenlik araştırmacısı olan Fogel, AI ve güvenlik uzmanlarının prompt enjeksiyonunu uzun süredir bildiğini ancak sorunun temel düzeyde henüz çözülmediğini ifade etti.
Bunun nedeninin, büyük dil modellerinin (LLM) girdileri tek bir token dizisi olarak işlemesi ve sistem istemleri, kullanıcı sorguları ve ajan tarafından alınan içerik arasında ayrıcalık sınırlarını zorunlu kılmak için güvenilir bir mekanizmanın bulunmaması olduğunu söyledi. Fogel, ajanların araçlara ve harekete geçme yeteneğine sahip olmasıyla sorunun daha da tehlikeli hale geldiği uyarısında bulundu.
Ayrıca Fogel, pratik riskin değiştiğini açıkladı: Başarılı bir enjeksiyon artık sadece kötü bir yanıt üretmekle kalmıyor, gerçek dünyada bir dizi eylemi tetikleyebiliyor. Günümüzde ajanik AI iş akışlarıyla, araç erişimine sahip ajanlar kullanıcılar adına adımlar atabiliyor, bu nedenle bir enjeksiyon kötü bir çıktıdan aktif bir ihlale dönüşebiliyor.
Teknik Analiz
Fogel, 'Çoğu kuruluş, ajanları yönetebileceklerinden daha hızlı bir şekilde devreye alıyor' diyerek bu hız ve ölçeğin, prompt enjeksiyonunu geleneksel kontrollerle kontrol altına almayı zorlaştırdığını savundu. İnsan operatörler için işe yarayan savunmaların (örneğin, kum havuzu, izin listeleri ve manuel inceleme), bir ajan yürütücü olduğunda başarısız olabileceğini belirtti. Bazı prompt enjeksiyon saldırılarında izin listelerinin aslında istismarı kolaylaştırdığını, çünkü ajanın ihtiyaç duyduğu komutların zaten onaylandığını söyledi.
