Yapay zeka güvenliği alanında prompt enjeksiyon saldırıları, kısa sürede en büyük tehdit haline geldi. Büyük dil modelleri (LLM), kullanıcıların meşru komutları ile e-postalar, kaynak kodları veya diğer üçüncü taraf içeriklerine gizlenmiş kötü niyetli komutlar arasında ayrım yapamıyor. Bu durum, saldırganların LLM'lerin sorgulamadan uyguladığı gizli komutları kolayca yerleştirmesine olanak tanıyor. Platform geliştiricileri, bu kritik güvenlik açığını kapatmak yerine yalnızca zararı azaltmaya yönelik önlemler almak zorunda kalıyor.
Şimdiye kadar prompt enjeksiyon saldırıları genellikle 'itme' (push) tabanlıydı; yani her kurban hedef alınıyordu. Örneğin, saldırgan bir e-postaya veya takvim davetiyesine kötü niyetli komutlar yerleştiriyor ve bu komutların her bir hedefe ulaşması gerekiyordu. Bu yöntem, saldırıların ölçeğini sınırlandırarak büyük çaplı istismarları engelliyordu. 'Çekme' (pull) tabanlı saldırılarda ise LLM'nin web sitelerindeki düşmanca yönlendirmeleri aktif olarak araması gerekiyordu, ancak çok sayıda LLM'yi kötü niyetli bir siteye çekmenin bir yolu olmadığından bu saldırılar da ölçeklenemiyordu.
Araştırmacılar, tüm bu sınırlamaları aşan 'HalluSquatting' adlı yeni bir çekme tabanlı saldırı geliştirdi. HalluSquatting, adını LLM'lerin halüsinasyonlarından alıyor. Saldırı, Cursor, Gemini CLI, GitHub Copilot gibi popüler yapay zeka kodlama asistanlarını ve ajanlarını hedef alıyor. Bu araçlar, günlük işlemlerini gerçekleştirirken depolar ve kayıt defterlerinden kod ve diğer kaynakları rutin olarak çekiyor. HalluSquatting, LLM'lerin en sık halüsinasyon gördüğü kaynak tanımlayıcılarını tahmin edip bu tanımlayıcıları ters kabuk veya diğer kötü amaçlı yazılımları yüklemek için kaydederek, her bir cihazı hedeflemeye gerek kalmadan büyük ölçekli botnet'ler oluşturmayı ve DDoS saldırıları düzenlemeyi mümkün kılıyor.
Detaylar ve Etkileri
HalluSquatting, prompt enjeksiyon saldırılarında bir ilk olarak, devasa botnet'ler oluşturma, büyük ölçekli DDoS saldırıları düzenleme ve cihazları toplu halde enfekte etme potansiyeli taşıyor. Bu saldırı yöntemi, yapay zeka güvenliğinde köklü bir değişiklik yapılmazsa, siber suçluların elinde güçlü bir araç haline gelebilir. Geliştiricilerin, LLM'lerin halüsinasyonlarını azaltmak ve güvenilir kaynaklarla güvenilmez kaynaklar arasındaki ayrımı netleştirmek için acilen yeni önlemler alması gerekiyor.
