Büyük dil modelleri (LLM'ler) giderek daha fazla güven duyulan araçlar haline gelirken, siber saldırganlar da bu güveni istismar etmenin yeni yollarını keşfediyor. Palo Alto Networks'ün güvenlik araştırma birimi Unit 42'nin son raporuna göre, saldırganlar yapay zeka modellerinin 'halüsinasyon' olarak ürettiği, gerçekte var olmayan alan adlarını satın alıp buralara oltalama (phishing) sayfaları ve kötü amaçlı yazılımlar yerleştiriyor. Bu yönteme 'phantom squatting' (hayali alan adı gaspı) adı veriliyor.
Araştırmacılar, iki farklı yapay zeka modeline 913 tanınmış marka hakkında 685.339 soru sordu. Modellerin ürettiği 2,1 milyon bağlantıdan 13.229'u doğrudan kötü amaçlı olarak işaretlenirken, yaklaşık 250.000 hayali alan adının henüz kayıtlı olmadığı tespit edildi. Bu durum, saldırganların bu alan adlarını önceden tahmin edip satın almasına olanak tanıyor. Üstelik farklı modeller aynı soruya benzer hayali alan adları üretebiliyor, bu da saldırganların işini kolaylaştırıyor.
Raporda iki somut örnek veriliyor: Bir modelin hayali bir posta servisi alan adı oluşturmasından 23 gün sonra, bir saldırgan bu alan adını satın alarak Montana Empire adlı bir oltalama kiti yerleştirdi. Bu kit, gerçek mağazayı anlık olarak kopyalayarak kredi kartı bilgileri ve kimlik verilerini çaldı. İkinci örnekte ise bir başka hayali posta servisi alan adı, 51 gün sonra bir saldırgan tarafından satın alınarak sahte bir Android uygulaması dağıtmak için kullanıldı. Bu saldırılar, yapay zeka destekli kodlama araçlarıyla oluşturulmuştu.
Uzmanlar, bu tehdide karşı alınabilecek önlemleri sıralıyor: Yapay zekanın verdiği bağlantılara körü körüne güvenmeyin, alan adının resmi ve gerçek olduğunu doğrulayın. Yapay zeka ajanlarının, model tarafından oluşturulan bağlantıları otomatik olarak açmasını veya indirmesini engelleyin. Model çıktılarını doğrulanmamış bir taslak olarak kabul edin. Güvenlik ekipleri, modellerin hangi hayali alan adlarını üretebileceğini önceden tespit ederek bu alan adlarının kaydedilmesini izleyebilir. Bu sayede saldırganlardan önce davranarak koruma sağlanabilir.
