Cisco araştırmacıları, ChatGPT, Claude, Gemini, Amazon Nova ve Grok gibi önde gelen büyük dil modellerinin (LLM) güvenlik önlemlerinin, çok adımlı konuşmalar yoluyla aşılabildiğini ortaya koydu. Araştırmada, kullanıcıların modellerle uzun süreli diyaloglar kurarak yasaklı işlemleri yaptırabildiği belirtildi. Bu yöntem, saldırganların gerçek dünyada kullandığı taktikleri yansıtıyor.
Araştırmacılar, modellerin tek bir sorguya dayalı güvenlik testlerinin yetersiz kaldığını vurguladı. Çok adımlı saldırılarda başarı oranı (ASR) tüm modellerde yüksek çıktı. Örneğin, GrokAI'nin 'akıl yürütme modu' etkinleştirildiğinde güvenlik açıkları daha da arttı. Cisco, işletmelerin mevcut güvenlik değerlendirmelerinin gerçek riskleri yansıtmadığı konusunda uyardı.
Manipülasyon teknikleri arasında rol yapma, belirsizlik yaratma, yönlendirme ve reddedilen istekleri yeniden çerçeveleme yer alıyor. Araştırmacılar, modellerin çok adımlı konuşmalarda kullanıcı kimliğine bürünme gibi yöntemlerle kandırılabildiğini tespit etti. Bu durum, kurumsal yapay zeka güvenliği için ciddi bir tehdit oluşturuyor.
Raporda, mevcut güvenlik kıyaslamalarının yapısal sınırlamalar nedeniyle riskleri olduğundan düşük gösterdiği belirtildi. Cisco, düzenleyici kurumların daha kapsamlı değerlendirme yöntemleri geliştirmesi gerektiğini vurguladı. Araştırma, yapay zeka modellerinin güvenliğinin yeniden düşünülmesi gerektiğini ortaya koyuyor.
