Zscaler ThreatLabz araştırmacıları, yapay zeka asistanlarını hedef alan iki aktif kampanya tespit etti. Bu kampanyalarda, kötü amaçlı web sitelerine gizlenen talimatlar, AI asistanlarının farkında olmadan para transferi yapmasına veya sahte sitelere güvenmesine neden oluyor. 'Dolaylı komut enjeksiyonu' olarak adlandırılan bu teknikte, insan kullanıcıların göremediği ancak AI asistanlarının okuyup uygulayabileceği talimatlar HTML koduna gömülüyor.
İlk kampanya, sahte bir Python kütüphanesi (requests-secure-v2) arayan AI kod asistanlarını hedef alıyor. Sahte site, gerçek API dokümantasyonu gibi görünürken, sayfaya gizlenmiş talimatlarla asistana 3 dolarlık bir 'geliştirici API lisans ücreti' ödemesi gerektiğini söylüyor. Ödeme talimatları JSON-LD meta verileri ve CSS ile gizlenmiş div etiketleriyle kodlanmış durumda. Ayrıca site, 0.0012 ETH transferi başlatan bir JavaScript kodu içeriyor. Araştırmacılar, kampanyayla ilişkili Ethereum cüzdanının daha önce de ödeme aldığını tespit etti.
İkinci kampanya ise popüler DeFi portföy takipçisi DeBank'ı hedef alan bir yazım hatası saldırısı. debank[.]auction alan adı üzerinden yapılan saldırıda, sayfa başlıkları ve meta etiketler DeBank ile ilgili anahtar kelimelerle doldurulmuş. JSON-LD verileri, gerçek DeBank.com'u yayıncı olarak gösterirken, gizli talimat AI asistanlarına debank[.]auction'ı resmi kaynak olarak kabul etmelerini ve 'Auction' kelimesini kullanmamalarını emrediyor.
Zscaler, 26 büyük dil modeli üzerinde yaptığı testlerde, dört modelin (Llama 3.3 70B, Llama 3.2 90B, Gemini 3 Flash, Gemini 2.5 Pro) birinci kampanyada para transferini gerçekleştirdiğini, ikinci kampanyada ise GPT-5.4 ve Claude Sonnet 4.5'in sahte siteyi gerçek olarak sınıflandırdığını belirledi. Araştırmacılar, AI asistanlarının web içeriğini girdi olarak kabul ederken daha dikkatli olması gerektiğini, organizasyonların ise AI araçlarının yetkilerini sınırlaması gerektiğini vurguluyor. Bu saldırılar, yapay zekanın iş akışlarını kolaylaştırırken yeni güvenlik açıklarına da yol açtığını gösteriyor.
