Siber güvenlik firması Zscaler, büyük dil modelleri (LLM) üzerinde yaptığı testlerde, otonom yapay zeka ajanlarının dolandırıcılık tuzaklarına karşı ne kadar savunmasız olduğunu ortaya koydu. Şirket, çeşitli dolaylı yönlendirme (IPI) tuzaklarını test ederek, üst düzey kurumsal ajanların bile insanları kandırması zor olan basit aldatmacalara nasıl yenik düştüğünü gözlemledi. Bu durum, yapay zeka güvenliği konusundaki endişeleri bir kez daha gündeme getirdi.
Zscaler'ın testleri, dört modelin 'savunmasız' olarak sınıflandırıldığını gösterdi: Llama3-3-70b-instruct, Llama3-2-90b-instruct, Gemini-3-flash ve Gemini-2.5-pro. Bu modeller, dolaylı yönlendirme tuzaklarına karşı koymakta zorlanırken, üç model 'güvenli' olarak değerlendirildi: Llama4-maverick, Gemini-3.1-pro ve Gemini-3.1-flash-lite. İlginç bir şekilde, daha pahalı ve gelişmiş olduğu düşünülen bazı modeller, daha düşük seviyeli modellere kıyasla daha zayıf performans gösterdi.
Örneğin, Gemini-2.5-pro modelinin dolandırıcılıklara karşı direnci, daha hafif bir model olan Gemini-3.1-flash-lite'a göre belirgin şekilde daha zayıftı. Bu sonuç, yapay zeka modellerinin fiyatı veya boyutu ne olursa olsun, güvenlik açıklarının her seviyede olabileceğini gösteriyor. Zscaler, bu tür güvenlik açıklarının özellikle otonom yapay zeka ajanlarının yaygınlaştığı kurumsal ortamlarda ciddi riskler oluşturabileceğini vurguluyor.
Sistem Güvenliği
Rapor, yapay zeka geliştiricilerinin ve kullanıcılarının, dolaylı yönlendirme saldırılarına karşı daha sağlam savunma mekanizmaları geliştirmeleri gerektiğini ortaya koyuyor. Zscaler, modellerin eğitim aşamasında bu tür tuzaklara karşı test edilmesi ve güvenlik protokollerinin sürekli güncellenmesi gerektiğini belirtiyor. Ayrıca, işletmelerin otonom yapay zeka ajanlarını kullanırken dikkatli olmaları ve potansiyel riskleri göz önünde bulundurmaları öneriliyor.
