Cisco araştırmacıları, popüler büyük dil modellerinin (LLM) güvenlik duvarlarının, kullanıcıların çok adımlı ve sürekli konuşmalar başlatmasıyla aşılabildiğini açıkladı. Araştırma kapsamında OpenAI’ın ChatGPT’si, Anthropic’in Claude’u, Google Gemini, Amazon Nova ve xAI’ın Grok’u gibi öncü yapay zeka modelleri test edildi. Sonuçlar, gerçek dünya saldırganlarının kullanabileceği yöntemlerle modellerin istenmeyen eylemler gerçekleştirmeye zorlanabildiğini gösterdi.
Araştırmacılar, güvenlik önlemlerini aşmak için çok adımlı konuşmalar (multi-turn conversations) kullandı. Bu yöntemde kullanıcı ve model arasında birden fazla gidiş-geliş yapılan diyaloglar oluşturuluyor. LLM’lerdeki güvenlik duvarları kötü niyetli komutları engellemek için tasarlanmış olsa da, araştırmacılar bu duvarların konuşma ilerledikçe zayıfladığını keşfetti. Cisco, “Çok adımlı değerlendirme önemlidir çünkü saldırganların gerçekte yaşadığı yer burasıdır” uyarısında bulundu.
Rapora göre hiçbir model çok adımlı manipülasyona karşı tamamen güvenli değil. Cisco, bu durumun kurumsal yapay zeka güvenlik değerlendirmelerinin mevcut yöntemlerle yanıltıcı olabileceğini belirtiyor. Birçok kuruluş, çalışanları ve müşterileri için yapay zeka modellerini devreye alırken, güvenlik testlerinin tek seferlik sorgulara dayanması gerçek riski hafife alıyor. Araştırmada, tüm modellerin çok adımlı saldırı başarı oranından (ASR) etkilendiği vurgulandı.
Güvenlik önlemlerini aşmak için kullanılan teknikler arasında rol yapma, belirsizlik ve yönlendirme, başlangıçtaki reddetmelere rağmen talepleri yeniden çerçeveleme yer alıyor. Modellerin yapılandırması da direnci etkiliyor; örneğin GrokAI’nin ‘akıl yürütme modu’ etkinleştirildiğinde güvenlik açıkları artıyor. Cisco, mevcut güvenlik ölçütlerinin yetersiz olduğunu ve yeni düzenlemelerin bu boşluğu doldurması gerektiğini belirtiyor. Rapor, “Hızlı dağıtım, güvenlik ve emniyet kıyaslamalarının yapısal sınırlamalar nedeniyle riski hafife aldığı bir ekosistem yarattı” uyarısında bulunuyor.
