Siber güvenlik firması Zscaler, yapay zeka ajanlarının dolandırıcılığa karşı direncini test etmek için kapsamlı bir çalışma yürüttü. Araştırmacılar, en popüler büyük dil modellerini (LLM) dolaylı prompt injection (IPI) tuzaklarına maruz bıraktı. Sonuçlar, birçok modelin insanları kandırması neredeyse imkansız olan bu tuzaklara düştüğünü ortaya koydu. Özellikle, üst düzey kurumsal yapay zeka ajanlarının bile bu tür saldırılara karşı ne kadar kırılgan olduğu dikkat çekti.
Zscaler'ın testinde kullanılan IPI tuzakları, bir yapay zeka ajanına dış kaynaklı bir girdiyle (örneğin bir e-posta veya web sayfası) kötü niyetli talimatlar enjekte etmeyi içeriyor. Test edilen yedi modelden dördü 'savunmasız' olarak sınıflandırıldı: Llama3-3-70b-instruct, Llama3-2-90b-instruct, Gemini-3-flash ve Gemini-2.5-pro. Bu modeller, dolandırıcılık girişimlerine karşı koyamadı. Öte yandan, Llama4-maverick, Gemini-3.1-pro ve Gemini-3.1-flash-lite modelleri 'güvenli' olarak değerlendirildi ve tuzaklara karşı direnç gösterdi.
Testin en ilginç bulgularından biri, model fiyatı ile güvenlik arasındaki ters ilişki oldu. Örneğin, daha pahalı ve gelişmiş bir model olan Gemini-2.5-pro, daha ucuz ve düşük seviyeli Gemini-3.1-flash-lite modeline kıyasla çok daha fazla tuzağa düştü. Bu durum, yüksek maliyetli yapay zeka modellerinin her zaman daha güvenli olmadığını, hatta bazen daha savunmasız olabileceğini gösteriyor. Araştırmacılar, bu açığın modellerin eğitim verilerindeki farklılıklardan veya karmaşık modellerin daha fazla saldırı yüzeyi sunmasından kaynaklanabileceğini belirtiyor.
Zscaler'ın bu çalışması, yapay zeka güvenliği alanında önemli bir uyarı niteliği taşıyor. Kurumsal yapay zeka ajanlarının otomatik karar alma süreçlerinde giderek daha fazla kullanıldığı bir dönemde, IPI gibi saldırı vektörlerine karşı korunma stratejileri geliştirmek kritik hale geliyor. Uzmanlar, şirketlerin yalnızca model seçiminde değil, aynı zamanda girdi doğrulama ve çıktı filtreleme gibi ek güvenlik katmanları eklemesi gerektiğini vurguluyor.
