Siber güvenlik firması Zscaler, yapay zeka modellerinin dolandırıcılığa karşı ne kadar savunmasız olduğunu test etti. Şirket, büyük dil modelleri (LLM) üzerinde yaptığı deneylerde, otonom AI ajanlarının dolandırıcılık tuzaklarına insanlardan çok daha kolay düştüğünü ortaya koydu. Özellikle 'dolaylı komut enjeksiyonu' (IPI) olarak adlandırılan yöntemlerle, üst düzey kurumsal ajanların bile kandırılabildiği görüldü.
Test sonuçlarına göre, Llama3-3-70b-instruct, Llama3-2-90b-instruct, Gemini-3-flash ve Gemini-2.5-pro modelleri 'savunmasız' olarak sınıflandırılırken, Llama4-maverick, Gemini-3.1-pro ve Gemini-3.1-flash-lite modelleri 'güvenli' bulundu. Bu sonuçlar, pahalı ve gelişmiş modellerin her zaman daha güvenli olmadığını gösteriyor. Örneğin, Gemini-2.5-pro, daha düşük maliyetli Gemini-3.1-flash-lite modeline kıyasla dolandırıcılığa karşı daha zayıf çıktı.
Zscaler'in bulguları, yapay zeka güvenliği alanında önemli bir uyarı niteliği taşıyor. Otonom ajanların dolandırıcılık tuzaklarına karşı dirençsiz olması, işletmelerin bu teknolojileri kullanırken ek önlemler alması gerektiğini ortaya koyuyor. Özellikle finans, sağlık ve müşteri hizmetleri gibi hassas sektörlerde kullanılan yapay zeka sistemlerinin, kötü niyetli saldırılara karşı daha sıkı test edilmesi gerekiyor.
Test, ayrıca yapay zeka modellerinin güvenlik seviyesinin fiyatla doğru orantılı olmadığını gösterdi. Daha ucuz ve basit modeller, bazı durumlarda pahalı rakiplerine göre daha iyi performans sergileyebiliyor. Bu durum, işletmelerin yapay zeka seçiminde sadece maliyet ve performansa değil, aynı zamanda güvenlik test sonuçlarına da dikkat etmesi gerektiğini vurguluyor.
