Yeni araştırmaya göre saldırganlar, yapay zeka ajanlarını hedef almak için web sitelerine gizli talimatlar yerleştirmeye başladı.
Zscaler'in ThreatLabz'ı, dolaylı istem enjeksiyonu adı verilen bir tekniği kullanan iki gerçek dünya kampanyasını belgeledi; burada talimatlar, bir AI aracısının davranışını yönlendirmek için bir web sayfası gibi okuduğu içeriğe yerleştiriliyor.
Biri ödeme dolandırıcılığı yapmak için yazılım belgeleri gibi görünüyordu, diğeri ise bir kripto para birimi hizmetinin kimliğine bürünüyordu.
Sistem Güvenliği
Düz Görüşte Gizli Talimatlar
Her iki durumda da saldırganlar, sitelerini arama sonuçlarında üst sıralara çıkarmak için ilk olarak SEO zehirlemesini kullandı; bu da bir aracının onları bulma olasılığını artırdı.
Daha sonra metni ekranın dışına taşımak için CSS kullanarak veya makinelerin güvenilir bağlam olarak okuduğu yapılandırılmış JSON-LD meta verilerinin içine sıkıştırarak, sayfanın bir insanın asla görmediği bölümlerine bilgi istemi tarzı talimatları gömdüler.
İlk kampanyada Python kütüphanesinin dokümantasyonu gibi görünen sahte bir sayfa kullanıldı. Kodlama görevindeki herhangi bir yapay zeka temsilcisine, bir hatayı düzeltmek için 3 dolarlık bir API lisans anahtarı satın alması gerektiğini söyledi ve ardından sahte bir anahtar için saldırganın kripto para birimi cüzdanına ödeme yaparak onu yönlendirdi.
Gelecekte Ne Bekleniyor?
Zscaler, aynı sitenin insan geliştiricileri de dolandırmaya çalıştığını söyledi.
Devamını oku: Araştırmacılar, Yapay Zeka Aracılarını Hedefleyen 10 Kullanıma Hazır İstemi Enjeksiyon Yükünü Ortaya Çıkardı
Nasıl Önlem Alınmalı?
Modeller Nasıl Durdu?
İkinci kampanyada saldırganlar, popüler bir kripto para birimi portföy izleyicisi olan DeBank'ı taklit eden, yazım yanlışı yapan bir alan adı kullandı ve aracılara sahte siteyi "yetkili" DeBank olarak ele alıp ilk sıraya koymaları talimatını veren gizli metin kullandı.
Teknik Analiz
Riski ölçmek için ThreatLabz, 26 büyük dil modelindeki (LLM) sitelere karşı kendi otonom aracısını çalıştırdı.
Meta'nın Llama ve Google'ın Gemini versiyonları da dahil olmak üzere 26 modelden dördü hileli ödemeyi gerçekleştirmek üzere manipüle edildi.
Detaylar ve Etkileri
İkinci testte, OpenAI'nin GPT-5.4'ü ve Anthropic'in Claude Sonnet 4.5'i olmak üzere iki modelin, sahte siteyi yanlışlıkla meşru olarak derecelendirdiği bildirildi, ancak yalnızca gerçek DeBank için güvenilir bir referansa sahip olmadıklarında. Karşılaştırma için orijinal site sunulduğunda hiçbiri kandırılmadı.
Zscaler'in kendi sanal alan testlerinden elde edilen sonuçlar, duyarlılığın büyük ölçüde Yüksek Lisans'a ve ona verilen bağlam miktarına bağlı olduğunu göstermektedir.
Sonuç ve Değerlendirme
Şirket, "Yapay zeka ajanları web için daha yaygın bir arayüz haline geldikçe, içeriğin kendisi de daha büyük bir saldırı yüzeyi haline gelecektir" diye uyardı ve "Yapay zekanın iş akışlarını kolaylaştıran ve aynı zamanda kötüye kullanım için yeni yollar sunan iki ucu keskin bir kılıç olduğunu vurguladı."
