Büyük dil modelleri (LLM'ler), var olmayan web adresleri üretmeye devam ediyor. Saldırganlar, AI araçlarının yönlendirdiği trafiği yakalamak için bu uydurma domainleri satın alıp kimlik avı sayfaları barındırıyor. Palo Alto Networks'ün Unit 42 ekibi bu yöntemi 'phantom squatting' olarak adlandırıyor ve yaptıkları araştırma, bu saldırıların şimdiden gerçek dünyada kullanıldığını gösteriyor.
Araştırmada, iki AI modeline 913 tanınmış marka hakkında 685.339 soru soruldu ve 2,1 milyon bağlantı üretildi. Bunlardan 13.229'u doğrudan kötü amaçlı olarak işaretlenirken, yaklaşık 250.000 uydurma domainin henüz bir sahibi yoktu ve ilk kaydeden kişiyi bekliyordu. Phantom squatting, yeni bir domainin itibarı olmadığı için güvenlik filtrelerini atlatıyor; kurban, güvendiği bir araç tarafından kötü amaçlı siteye yönlendiriliyor.
Bir vakada, Unit 42'nin tahmin ettiği bir domain, 23 gün sonra bir saldırgan tarafından kaydedildi ve Montana Empire adlı bir kimlik avı kitiyle gerçek bir posta hizmeti sitesini klonladı. Saldırgan, AI kodlama asistanı kullanarak bu kiti oluşturmuştu. Başka bir vakada ise, uydurma domain 51 gün önceden tespit edilmesine rağmen saldırgan tarafından kaydedildi ve sahte bir Android uygulaması dağıtmak için kullanıldı.
Bu saldırı, AI modellerinin yapısal bir özelliğini istismar ediyor ve yamalanması zor bir güvenlik açığı oluşturuyor. Uzmanlar, AI tarafından üretilen bağlantılara güvenilmemesi, otomatik işlemlerden önce domainlerin doğrulanması ve model çıktılarının doğrulanmamış taslak olarak ele alınması gerektiğini vurguluyor. Savunmacıların bu domainlere saldırganlardan önce ulaşması kritik önem taşıyor.
