Infosecurity Europe 2024'te konuşan Halcyon Ransomware Araştırma Merkezi Başkan Yardımcısı Cynthia Kaiser, dark web'de yapay zeka destekli siber suç araçlarında benzeri görülmemiş bir artış olduğunu açıkladı. Eski FBI siber direktör yardımcısı ve Beyaz Saray danışmanı olan Kaiser, yeraltı pazarlarında AI tabanlı araçların sayısının sadece üç ayda 38'den 1.486'ya yükseldiğini, bunun %3810'luk bir artış anlamına geldiğini belirtti. Kaiser, 'Bu, yaşamımızın ulusal güvenlik mücadelesi' diyerek tehdidin ciddiyetine dikkat çekti.
Halcyon ekibi, 4000 girdi, 77 Telegram kanalı, 20 dark web forumu ve 5 özel yeraltı pazarını analiz ederek bu verilere ulaştı. Kaiser, araştırma sonuçlarının şok edici olduğunu söyledi: 'Siber suçlular artık AI araçlarını freemium modelleri, otomatik dağıtım ve kademeli fiyatlandırma ile sunuyor. Bu, son derece sofistike bir pazarın işareti.' Pazarın olgunlaştığını gösteren bu unsurlar, siber suçluların tıpkı meşru işletmeler gibi hareket ettiğini ortaya koyuyor.
Kaiser, satılan araçları dört kategoride sınıflandırdı. İlk kategori, silahlandırılmış LLM'ler (büyük dil modelleri). Bunlar, gizlice kötü amaçla yeniden eğitilmiş AI modelleri, güvenlik önlemleri kaldırılmış korsan araçlar veya WormGPT gibi sıfırdan oluşturulmuş sistemler olabiliyor. İkinci kategori, AI destekli kimlik dolandırıcılığı: ses ve video deepfake'leri ile BEC (iş e-postası dolandırıcılığı), KYC atlatma ve selfie doğrulama sistemlerini aldatma. Kaiser, bu araçların sadece 3 saniyelik ses kaydıyla eğitilebildiğini ve bir tanesinin KYC platformlarını atlatmada %92 başarı oranı iddia ettiğini belirtti.
Üçüncü kategori, AI destekli kötü amaçlı yazılım ve altyapı: metin üretiminin ötesine geçerek canlı operasyonel kullanımı destekliyor. Örneğin, 25 dilde hizmet veren, 150.000'den fazla çağrıyla eğitilmiş ve kurbanları rahatlatmak için arka planda çağrı merkezi gürültüsü üreten bir AI çağrı merkezi mevcut. Dördüncü ve en ucuz kategori ise jailbreak yapılmış ve çalıntı AI servisleri: çalıntı bir ChatGPT hesabı sadece 10 cent'e satılıyor. Kaiser, 'Son derece organize ve aktif bir topluluk, jailbreak edilmiş AI'lar sunuyor' dedi.
Sonuç ve Değerlendirme
Kaiser, siber suçluların bu araçları nasıl yaygınlaştırdığını da açıkladı. Freemium araçlar sayesinde giriş engeli neredeyse sıfır. Telegram botlarıyla otomatik satış, müşteri hizmeti, bildirim ve sipariş takibi yapılıyor; bu botlar 'insansız mağaza önü' işlevi görüyor. Ayrıca, birden fazla kanal kullanılarak yedeklilik sağlanıyor: 'Ücretli katman kesilirse ücretsiz katman devam eder. Web sitesi kapanırsa Telegram bot çalışır. Telegram kanalı yasaklanırsa forum mesajı kalır. Her kanal diğerinin yedeği.' Bu yapı, kolluk kuvvetlerinin müdahalesini zorlaştırıyor.
Önemli Gelişmeler
Kaiser, kuruluşların dört cephede hazırlıklı olması gerektiğini vurguladı: Düşük yetenekli aktörlerin hacim artışına karşı savunma; telefon görüşmelerinin birincil saldırı vektörü haline geldiğini kabul ederek farkındalık yaratma; AI hızlandırmalı saldırılara karşı AI tabanlı davranışsal koruma ve otomatik izolasyon kullanma; ve kamu-özel sektör işbirliğini güçlendirme. 'AI model üreticileri daha fazla sorumluluk almalı. Bu, teknik olduğu kadar politika ve ortaklık sorunu. İyi haber, bu pazarların nasıl işlediğini anlamak, onları nerede vuracağımızı da gösteriyor. Kolluk kuvvetleri ve finansal baskı, gerçek sürtünme yaratabilir.' Kaiser sözlerini, 'Saldırganların ne satın aldığını, inşa ettiğini ve yaptığını doğrudan gözlemleyen savunmacılar anlamlı bir avantaja sahip' diyerek tamamladı.
Kaynak: infosecurity-magazine.com
