Siber güvenlik firması Zscaler, büyük dil modellerinin (LLM) dolandırıcılık tuzaklarına karşı direncini test etti. Sonuçlar, üst düzey yapay zeka asistanlarının bile basit dolandırıcılık yöntemlerine karşı savunmasız olabileceğini gösterdi. Testte, otonom yapay zeka ajanlarının dolaylı prompt enjeksiyonu (IPI) tuzaklarına karşı tepkileri incelendi.
Araştırmada, Llama3-3-70b-instruct, Llama3-2-90b-instruct, Gemini-3-flash ve Gemini-2.5-pro modellerinin "savunmasız" olduğu belirlendi. Öte yandan, Llama4-maverick, Gemini-3.1-pro ve Gemini-3.1-flash-lite modelleri "güvenli" olarak sınıflandırıldı. Bu sonuçlar, model fiyatı ile güvenlik arasında doğrudan bir ilişki olmadığını ortaya koydu.
En dikkat çekici bulgu, Gemini-2.5-pro'nun dolandırıcılığa karşı direncinin, çok daha ucuz bir model olan Gemini-3.1-flash-lite'dan zayıf olmasıydı. Zscaler, bu durumun yapay zeka modellerinin güvenlik seviyelerinin tahmin edilemez olduğunu ve şirketlerin yalnızca fiyata odaklanmaması gerektiğini vurguladı.
Nasıl Önlem Alınmalı?
Uzmanlar, yapay zeka asistanlarının giderek daha fazla kullanıldığı kurumsal ortamlarda, dolandırıcılık tuzaklarına karşı ek güvenlik önlemleri alınması gerektiğini belirtiyor. Zscaler'ın testi, yapay zeka güvenliğinin henüz emekleme aşamasında olduğunu ve sürekli güncellenmesi gerektiğini bir kez daha kanıtladı.
