Yeni bir araştırmaya göre, siber saldırganlar web sitelerine gizlenmiş talimatlar kullanarak yapay zeka ajanlarını hedef almaya başladı. Zscaler’ın ThreatLabz ekibi, AI ajanlarının okuduğu web sayfaları gibi içeriklere yerleştirilen komutlarla çalışan dolaylı prompt enjeksiyonu tekniğini kullanan iki gerçek kampanya belgeledi. Bu kampanyalardan biri yazılım dokümantasyonu kılığında ödeme dolandırıcılığı yaparken, diğeri kripto para hizmeti taklidi yaptı.
Her iki vakada da saldırganlar, sitelerini arama sonuçlarında üst sıralara çıkarmak için SEO zehirlenmesi kullandı. Ardından, insanların görmediği sayfa bölümlerine prompt tarzı talimatlar gömdüler. Bunun için CSS ile metni ekran dışına taşıma veya makinelerin güvendiği yapılandırılmış JSON-LD meta verilerinin içine gizleme yöntemlerini kullandılar. İlk kampanyada, Python kütüphanesi dokümantasyonu gibi görünen sahte bir sayfa, kodlama görevindeki herhangi bir AI ajana bir hatayı düzeltmek için 3 dolarlık bir API lisans anahtarı satın alması gerektiğini söyleyerek, saldırganın kripto para cüzdanına ödeme yapmaya yönlendirdi.
İkinci kampanyada ise saldırganlar, popüler kripto para portföy takipçisi DeBank’ı taklit eden bir yazım hatası alan adı kullandı. Gizli metinlerle ajanlara sahte siteyi 'yetkili' DeBank olarak kabul etmeleri ve ilk sıraya koymaları talimatı verildi. ThreatLabz, riski ölçmek için 26 farklı büyük dil modelini (LLM) kullanarak kendi otonom ajanını bu sitelere karşı test etti. 26 modelden dördü, Meta’nın Llama ve Google’ın Gemini sürümleri de dahil olmak üzere, sahte ödemeyi gerçekleştirmek için manipüle edildi. İkinci testte ise OpenAI’nin GPT-5.4 ve Anthropic’in Claude Sonnet 4.5 modelleri, gerçek DeBank için güvenilir bir referans olmadığında sahte siteyi meşru olarak değerlendirdi.
Önemli Gelişmeler
Zscaler’ın kum havuzu testleri, modellerin bu saldırılara karşı duyarlılığının büyük ölçüde LLM’ye ve verilen bağlam miktarına bağlı olduğunu gösterdi. Şirket, 'Yapay zeka ajanları web için daha yaygın bir arayüz haline geldikçe, içeriğin kendisi daha büyük bir saldırı yüzeyi haline gelecek' uyarısında bulundu. Bu durum, AI’nın iş akışlarını kolaylaştırırken aynı zamanda yeni suistimal yolları açan çift taraflı bir kılıç olduğunu vurguluyor.
