Yapay zeka güvenliğinde prompt injection (istem sızması) saldırıları hızla en büyük tehdit haline gelirken, araştırmacılar bu alanda çığır açan bir saldırı yöntemi keşfetti. HalluSquatting adı verilen bu yeni teknik, yapay zeka modellerinin halüsinasyon görme eğilimini kullanarak, kod asistanları ve ajanları üzerinden devasa botnet'ler oluşturmayı hedefliyor. Cursor, Gemini CLI, GitHub Copilot gibi 9 popüler yapay zeka aracı bu saldırıya karşı savunmasız durumda.
Prompt injection saldırıları geleneksel olarak 'push' (itme) tabanlıydı; yani saldırgan, her bir kurbana özel olarak kötü niyetli komutlar gönderiyordu. Bu yöntem, saldırının ölçeğini sınırlıyordu. Ancak HalluSquatting, 'pull' (çekme) tabanlı bir yaklaşım benimsiyor. Saldırganlar, yapay zeka modellerinin halüsinasyon görerek oluşturduğu kaynak tanımlayıcılarını önceden tahmin ediyor ve bu tanımlayıcıları kötü niyetli yazılımlarla doldurulmuş depolar olarak kaydediyor. Böylece, AI asistanları normal işleyişleri sırasında bu kaynakları çektiğinde, sistem otomatik olarak enfekte oluyor.
Bu saldırı, özellikle yüksek yetkilere sahip komut satırlarına erişebilen kod asistanlarını hedef alıyor. Cursor, Cursor CLI, Gemini CLI, Windsurf, GitHub Copilot, Cline, OpenClaw, ZeroClaw ve NanoClaw gibi araçlar, günlük görevleri sırasında üçüncü taraf kaynaklardan kod çekme eğiliminde. HalluSquatting, bu süreci kullanarak her bir cihazı hedeflemeye gerek kalmadan, büyük ölçekli DDoS saldırıları ve botnet enfeksiyonları gerçekleştirebiliyor. Araştırmacılar, bu yöntemin prompt injection saldırılarında ilk kez bu kadar büyük bir ölçeğe ulaştığını belirtiyor.
Yapay zeka güvenliği uzmanları, HalluSquatting'in yarattığı tehdidin ciddiyetine dikkat çekiyor. Şu anda bu saldırıya karşı etkili bir savunma mekanizması bulunmuyor; çünkü LLM'ler, güvenilir ve güvenilmez kaynaklar arasındaki ayrımı yapamıyor. Araştırmacılar, AI geliştiricilerinin bu açığı kapatmak için acilen önlem alması gerektiğini vurguluyor. Aksi takdirde, HalluSquatting benzeri saldırıların gelecekte çok daha yaygın hale gelmesi bekleniyor.
