Siber güvenlik firması Zscaler, yapay zeka ajanlarının dolandırıcılık karşısındaki dayanıklılığını test etti. Araştırma, bazı otonom AI ajanlarının, insanların kolayca fark edeceği dolandırıcılık planlarına kanarak büyük güvenlik açıkları sergilediğini ortaya koydu. Özellikle kurumsal düzeydeki pahalı modellerin, daha ucuz ve basit modellere kıyasla bu tür saldırılara karşı daha zayıf olduğu tespit edildi.
Zscaler, büyük dil modelleri (LLM) üzerinde dolaylı prompt enjeksiyonu (IPI) adı verilen tuzakları test etti. Bu yöntemde, saldırganlar AI ajanına dolaylı yoldan zararlı komutlar enjekte ederek onu yanıltmaya çalışıyor. Test sonuçları, Llama3-3-70b-instruct, Llama3-2-90b-instruct, Gemini-3-flash ve Gemini-2.5-pro modellerinin savunmasız olduğunu gösterirken; Llama4-maverick, Gemini-3.1-pro ve Gemini-3.1-flash-lite modelleri güvenli bulundu.
İlginç bir şekilde, araştırma pahalı ve gelişmiş modellerin her zaman daha güvenli olmadığını ortaya koydu. Örneğin, Gemini-2.5-pro modeli, daha düşük maliyetli Gemini-3.1-flash-lite modeline kıyasla dolandırıcılığa karşı daha zayıf çıktı. Bu durum, AI güvenliğinin sadece modelin büyüklüğü veya fiyatıyla ilgili olmadığını, aynı zamanda eğitim verileri ve güvenlik önlemlerine de bağlı olduğunu gösteriyor.
Teknik Analiz
Zscaler'ın bulguları, işletmelerin yapay zeka ajanlarını kullanırken dikkatli olması gerektiğini vurguluyor. Özellikle finans, sağlık ve hukuk gibi hassas sektörlerde kullanılan AI ajanlarının, dolaylı prompt enjeksiyonu gibi siber saldırılara karşı test edilmesi ve gerekli güvenlik önlemlerinin alınması büyük önem taşıyor. Araştırmacılar, AI modellerinin güvenlik açıklarını kapatmak için sürekli güncellenmesi gerektiğini belirtiyor.
