Büyük dil modelleri (LLM'ler), kullanıcı sorularına yanıt olarak gerçekte var olmayan web adresleri üretebiliyor. Siber saldırganlar bu açığı fark ederek, yapay zekanın 'hayal ettiği' alan adlarını önceden satın alıp üzerlerine kimlik avı sayfaları yerleştiriyor. Palo Alto Networks'ün Unit 42 araştırma ekibi, bu yönteme 'phantom squatting' (hayali alan adı işgali) adını verdi ve saldırıların şimdiden aktif olarak kullanıldığını tespit etti. Sorunun temelinde, geliştiricilerin ve yapay zeka asistanlarının modellerin ürettiği bağlantıları sorgulamadan güvenmesi yatıyor.
Unit 42, iki büyük dil modeline 913 tanınmış marka hakkında 685.339 soru sorarak sorunun boyutunu ölçtü. Modeller 2,1 milyon bağlantı üretti; bunların 13.229'u doğrudan kötü amaçlı olarak işaretlenirken, yaklaşık 250.000 hayali alan adının henüz bir sahibi yoktu. Bu alan adları, ilk satın alan kişi için hazır bir hedef oluşturuyor. Saldırı, yeni kaydedilen alan adlarının herhangi bir itibar puanına sahip olmaması nedeniyle güvenlik filtrelerinden kaçabiliyor; kötü amaçlı oldukları anlaşılana kadar kurbanlar güvendikleri bir araç tarafından bu sitelere yönlendirilmiş oluyor.
Araştırmacılar, iki somut vakayı inceledi. İlkinde, yapay zeka modellerinin bir ulusal posta servisinin çevrimiçi pazar yerini taklit eden bir alan adı üreteceği öngörüldü. 23 gün sonra bir saldırgan bu alan adını satın alarak gerçek mağazayı anlık kopyalayan 'Montana Empire' adlı bir kimlik avı kiti yerleştirdi. Kit, kredi kartı bilgileri, banka transfer detayları ve ulusal kimlik verilerini çalıyordu. İkinci vakada ise yine bir posta servisi alan adı, saldırgan tarafından satın alınmadan 51 gün önce tespit edildi. Saldırgan, alan adını sahte bir uygulama yüklemek için kullanarak kötü amaçlı bir Android uygulaması yaydı.
Uzmanların Görüşleri
Bu saldırı yöntemi, yazılım paketi adlarının hayal edilmesine dayanan 'slopsquatting' ile benzerlik gösteriyor. USENIX çalışması, kod üreten modellerin sıklıkla var olmayan paket adları önerdiğini ve PhantomRaven kampanyasının bu davranışı 126 npm paketinde kötü amaçlı yazılım gizlemek için kullandığını ortaya koydu. Uzmanlara göre, modellerin tutarlı halüsinasyonları sayesinde güvenlik ekipleri hangi hayali alan adlarının üretileceğini önceden tahmin edebilir. Ancak bireysel kullanıcılar için en önemli önlem, yapay zekanın verdiği bağlantılara otomatik olarak güvenmemek ve her zaman resmi kaynakları doğrulamaktır. Savunmacılar ve saldırganlar arasındaki yarışta, bu alan adlarına ilk kimin ulaşacağı belirleyici olacak.
