Yapay zeka tabanlı asistanların hayali kaynaklar oluşturma eğilimi, siber saldırganlar için yeni bir istismar vektörü haline geldi. Tel Aviv Üniversitesi, Technion ve Intuit araştırmacıları, 'HalluSquatting' adını verdikleri bu tekniğin, yapay zeka halüsinasyonlarını ölçeklenebilir bir enfeksiyon yöntemine dönüştürdüğünü açıkladı. Bu yöntem, geleneksel prompt injection saldırılarından farklı olarak, saldırganın hedef kullanıcının yapay zeka uygulamasına doğrudan bir kanala ihtiyaç duymamasıyla dikkat çekiyor.
HalluSquatting, 'adversarial hallucination squatting' adı verilen bir teknik kullanıyor. Saldırgan, yapay zeka modellerinin popüler kaynakları ararken sıkça hayal ettiği sahte depo veya paket adlarını önceden kaydediyor. Araştırmacılar, yaptıkları testlerde halüsinasyon oranlarının depo klonlama komutlarında %85'e, beceri yüklemelerinde ise %100'e ulaştığını belirtiyor. Ayrıca, aynı hayali adların farklı temel modellerde tekrarlandığı gözlemlenmiş, bu da tekniğin geniş çapta uygulanabilir olduğunu gösteriyor.
Saldırgan, kaydettiği sahte depolara veya paketlere kötü amaçlı talimatlar yerleştiriyor. Kullanıcı, Cursor, Windsurf, GitHub Copilot, Cline, Gemini CLI veya OpenClaw gibi bir yapay zeka aracına bir depoyu klonlamasını veya bir beceri yüklemesini istediğinde, asistan hayali adı kullanarak sahte kaynağı indiriyor ve saldırganın komutlarını çalıştırıyor. Bu komutlar, ek araçlar veya kodlar çalıştırarak çeşitli kötü amaçlı yazılımları veya hacker araçlarını devreye sokabiliyor.
HalluSquatting araştırması, bu tekniği 'ajan botnet' (agentic botnet) oluşturmak için kullanmaya odaklanmış durumda. Geleneksel botnet'ler güvenlik açıklarına ve zayıf güvenlik uygulamalarına dayanırken, ajan botnet'ler geleneksel güvenlik duvarlarını aşan prompt injection yoluyla yayılıyor. Bu yöntem, neredeyse her cihaza yerleşebildiği için Mirai gibi botnet'lerden çok daha heterojen bir enfekte host popülasyonu oluşturuyor.
Teknik Analiz
Araştırmacılar, HalluSquatting'in etkilediği satıcıları yayın öncesinde bilgilendirdi ve doğrudan kötüye kullanılabilecek ayrıntıları paylaşmamayı tercih etti. Bu durum, yapay zeka araçlarının güvenlik açıklarının ne kadar ciddi olabileceğini gösteriyor. Özellikle AI kodlama araçlarının son dönemde artan kullanımı, bu tür saldırıların potansiyel etkisini artırıyor.
Kullanıcıların bu tür saldırılardan korunmak için yapay zeka araçlarını güncel tutması, yalnızca güvenilir kaynaklardan depo klonlaması ve bilinmeyen becerileri yüklemekten kaçınması öneriliyor. Kurumsal düzeyde ise, yapay zeka asistanlarının çıktılarının doğrulanması ve kötü amaçlı komutların çalıştırılmasını engelleyen güvenlik politikaları uygulanması kritik önem taşıyor.
Kaynak: securityweek.com
