Infosecurity Europe 2026 sırasında Dünya Çapında Açık Uygulama Güvenliği Projesi'ne (OWASP) katkıda bulunan Ariel Fogel, hızlı enjeksiyonun, yapay zekanın gelişimini engelleyebilecek çözülmemiş bir mimari sorun olmaya devam ettiğini söyledi.
Pillar Security'nin CTO ofisinde yapay zeka güvenlik araştırmacısı olan Fogel, yapay zeka ve güvenlik uygulayıcılarının hızlı enjeksiyon hakkında uzun süredir bilgi sahibi olmasına rağmen sorunun henüz temel düzeyde çözülmediğini söyledi.
Bunun nedeni, büyük dil modellerinin (LLM'ler) girdileri tek bir belirteç dizisi olarak işlemesi ve sistem istemleri, kullanıcı sorguları ve bir aracı tarafından alınan içerik arasında ayrıcalık sınırlarını zorlayacak güvenilir bir mekanizmanın bulunmamasıdır.
Ajanlar araç ve hareket kabiliyeti kazandıkça sorunun daha da tehlikeli hale geldiği konusunda uyardı.
Dahası Fogel, pratik riskin değiştiğini açıkladı: Başarılı bir enjeksiyon artık yalnızca kötü bir yanıt vermekle kalmıyor, aynı zamanda gerçek dünyadaki bir dizi eylemi de tetikleyebiliyor.
Gelecekte Ne Bekleniyor?
Bugün, aracılı yapay zeka iş akışları sayesinde, araca erişimi olan aracılar kullanıcılar adına adımlar atabiliyor, böylece enjeksiyon kötü bir çıktıdan aktif bir uzlaşmaya dönüşebiliyor.
Fogel, bu hız ve ölçeğin, hızlı enjeksiyonun geleneksel kontrollerle kontrol altına alınmasını zorlaştırdığını savunarak, "Çoğu kuruluş, aracıları kendilerini yönetebileceklerinden daha hızlı bir şekilde görevlendiriyor" dedi.
Sistem Güvenliği
İnsan operatörler için işe yarayan savunmaların (ör. korumalı alan oluşturma, izin verilenler listeleri ve manuel inceleme), uygulayıcı aracı olduğunda başarısız olabileceğine dikkat çekti.
Bazı hızlı enjeksiyon saldırılarında, aracının ihtiyaç duyduğu komutlar zaten onaylanmış olduğundan, izin verilenler listelerinin istismarı kolaylaştırdığını söyledi. Diğer durumlarda, aracının kendi çıktısı sanal alan sınırlarını yeniden tanımladı ve onu durdurmayı amaçlayan sınırlamayı etkili bir şekilde yeniden yazdı.
Ajan Yapay Zekanın 'Ölümcül Üçlüsü'
Önemli Gelişmeler
Fogel, geçen yıl bu sorunla mücadele etmek için "girişimlerin" yapıldığını kabul etti.
Detaylar ve Etkileri
Ünlü açık kaynak geliştiricisi Simon Willison tarafından icat edilen ve özel verilere erişimi olan, güvenilmeyen içeriğe maruz kalan ve harici iletişime izin verilen bir yapay zeka aracısının tehlikeli kombinasyonunu tanımlayan bir kavram olan 'Ölümcül Üçleme'den bahsetti. Willison, bu üç koşulun bir arada mevcut olması durumunda anlık enjeksiyon saldırılarını kritik derecede istismar edilebilir hale getirdiğini savunuyor.
