Cisco araştırmacıları, OpenAI’ın ChatGPT’si, Anthropic’in Claude’u, Google Gemini, Amazon Nova ve xAI’ın Grok’u dahil olmak üzere önde gelen büyük dil modellerinin (LLM) güvenlik önlemlerinin, kullanıcıların çok yönlü ve sürekli konuşmalar yaparak modelleri kandırması durumunda aşılabileceği konusunda uyardı. Araştırma, bu modellerin yerleşik güvenlik bariyerlerinin gerçek dünya saldırganlarına karşı ne kadar dayanıklı olduğunu test etti.
Araştırmacılar, çok turlu konuşmalar (kullanıcı ve LLM arasında birden çok ileri geri mesajlaşma içeren diyaloglar) kullanarak birçok modelin yapmaması gereken eylemleri yapmaya ikna edilebildiğini buldu. LLM’lerdeki güvenlik önlemleri, kullanıcıların kötü niyetli komutlar girmesini engellemek için tasarlanmış olsa da, araştırmacılar modellerle konuşmalar yaparak ve yanıtları sorgulayarak korumaların zayıfladığını keşfetti. Cisco, 'Çok turlu değerlendirme önemlidir çünkü saldırganların gerçekte yaşadığı yer burasıdır. Gerçek rakipler yineleme yapar, reddetmeleri yeniden çerçeveler, görevleri turlara böler, kişilikler benimser ve kademeli olarak tırmanır' ifadelerini kullandı.
Araştırma, hiçbir modelin çok turlu manipülasyon yoluyla güvenlik önlemlerinin atlatılmasına karşı tamamen güvende olmadığını ortaya koydu. Cisco, bu durumun işletmelerin yapay zeka güvenliğini ve emniyetini değerlendirme biçimine meydan okuduğu konusunda uyardı. Uyarı, birçok kuruluşun çalışanlar, müşteriler ve kullanıcılar için yapay zeka ve LLM’leri kullanıma sunduğu, ancak gerçek dünya riskini yanlış temsil eden güvenlik kıyaslamalarına güvendiği bir dönemde geldi. Raporda, LLM güvenliğinin çoğunun tek sorgu testine dayandığı, ancak saldırganların tek bir denemeden sonra durmadığı ve tüm modellerin çok turlu saldırı başarı oranlarından (ASR) etkilendiği belirtildi.
Araştırmacıların çok turlu konuşmalar yoluyla güvenlik önlemlerini aşmasını sağlayan teknikler arasında rol yapma kişilikleri benimseme, bağlamla ilgili belirsizlik ve yanıltma, ve LLM’nin ilk reddetmeleri üzerine istekleri yeniden çerçeveleme yer aldı. LLM’lerin nasıl yapılandırıldığı da manipülasyona karşı dirençlerinde fark yarattı. Örneğin, araştırmacılar GrokAI’nin 'akıl yürütme modu' etkinleştirildiğinde güvenlik korumalarının atlatılmasına karşı çok daha savunmasız hale geldiğini buldu. Cisco, yönetim organlarının ve düzenleyicilerin mevcut kıyaslamaların tam olarak ele almadığı değerlendirme uygulamaları çağrısında bulunmaya başladığını, ancak LLM’lerin rakipler tarafından kolayca kullanılmasını veya manipüle edilmesini önlemek için çok daha fazlasının yapılması gerektiğini vurguladı.
