Önde gelen bir fidye yazılımı uzmanına göre, son aylarda yeraltı pazarlarında bulunan yapay zeka destekli siber suç araçlarında bir patlama yaşandı.
Halcyon Fidye Yazılımı Araştırma Merkezi Kıdemli Başkan Yardımcısı Cynthia Kaiser aynı zamanda eski bir FBI siber direktör yardımcısı ve Beyaz Saray danışmanıdır. 2 Haziran'daki Infosecurity Europe'da hükümette geçirdiği sürenin, siber tehditlerle mücadelenin "hayatımızın ulusal güvenlik sorunu" olduğunu fark etmesini sağladığını söyledi.
Katılımcılara şunları söyledi: "Dünyanın en güçlü insanlarından bazılarına bakıp gözlerindeki korkuyu görmek ve bunun insanların binlerce kilometre ötedeki klavyelerde yaptıklarından kaynaklandığını bilmek korkutucu."
Kaiser ve Halcyon'daki ekibi, tedarik zincirindeki "uzmanlaşma, verimlilik ve işbölümüne" bağlı bir yeraltı siber suçunun haritasını zaten çıkarmıştı.
Ancak yapay zeka destekli araçların nasıl bir etkiye sahip olacağını görmek istediler. Böylece 4000 girişin, 77 Telegram kanalının, 20 dark web forumunun ve beş özel yeraltı pazarının analizini yürüttüklerini açıkladı.
Sonuç ve Değerlendirme
Ekip, teknolojinin Aralık ayında sadece 38'den Şubat ayında 1486'ya yükseldiğini belirten gönderileri görünce şok oldu. Bu %3810'un üzerinde bir artış.
Yapay Zeka hakkında daha fazlasını okuyun: Avrupa Bilgi Güvenliği: Tehdit Aktörü, EDR Kaçırma Araçlarını Geliştirmek İçin Yapay Zekayı Kullanıyor
Uzmanların Görüşleri
Dahası, Kaiser, bu hizmetlerin pazara girdiğinde otomatik dağıtım, ücretsiz seçenekler ve kademeli fiyatlandırma özelliklerine sahip olduğunu ve bunun da gelişmiş bir pazarın işareti olduğunu söyledi.
Siber Suçlular Ne Satıyor?
Kaiser, bu forumlarda ve pazar yerlerinde siber suç aktörlerinin kabaca dört kategoriye ayrılan araçları sattığını açıkladı.
Gelecekte Ne Bekleniyor?
Silahlandırılmış Yüksek Lisanslar: Bunlar, kötü şeyler yapmak üzere gizlice yeniden eğitilen yapay zeka modelleri, meşru araçların "kuralları ve güvenlik sınırları" kaldırılmış hacklenmiş versiyonları veya WormGPT gibi sıfırdan oluşturulmuş yeni yapay zeka sistemleri olabilir.
Nasıl Önlem Alınmalı?
Bunlar, kötü şeyler yapmak üzere gizlice yeniden eğitilen yapay zeka modelleri, meşru araçların "kuralları ve güvenlik sınırları" kaldırılmış saldırıya uğramış sürümleri veya WormGPT gibi sıfırdan oluşturulmuş yeni yapay zeka sistemleri olabilir. Yapay zeka destekli kimlik sahtekarlığı: BEC, KYC bypass'ı ve dolandırıcılık yapan selfie kontrolü tanıma sistemleri için ses ve video tabanlı derin sahtekarlıkları etkinleştirir. Kaiser, bugün bu araçların yalnızca üç saniyelik ses ile eğitilebileceğini söyledi. Gösterdiği bir araç, KYC platformlarını aşmada %92 başarı elde ettiğini iddia ediyor ve karanlık ağda öyle bir pazar tanınırlığına sahip ki, görünüşe göre suçlular korsan kopyalar arıyor.
BEC, KYC bypass ve dolandırıcılık yapan selfie kontrolü tanıma sistemleri için ses ve video tabanlı deepfake'leri etkinleştirir. Kaiser, bugün bu araçların yalnızca üç saniyelik ses ile eğitilebileceğini söyledi. Gösterdiği bir araç, KYC platformlarını atlamada %92 başarı elde ettiğini iddia ediyor ve karanlık ağda öyle bir pazar tanınırlığına sahip ki suçlular görünüşe göre korsan kopyaların, yapay zeka destekli kötü amaçlı yazılım ve altyapının peşinde koşuyor: Bu, canlı operasyonel kullanımı desteklemek için metin oluşturmanın ötesine geçiyor. Bunun bir örneği, 25 dili destekleyen, 150.000'den fazla çağrı konusunda eğitim almış ve kurbanlara güven vermek için ortamdaki çağrı merkezi arka plan gürültüsünü bile üreten, yapay zeka destekli bir çağrı merkezidir.
Detaylar ve Etkileri
Bu, canlı operasyonel kullanımı desteklemek için metin oluşturmanın ötesine geçer. Bunun bir örneği, 25 dili destekleyen, 150.000'den fazla çağrı üzerine eğitilmiş ve kurbanlara Jailbreak yapılmış ve çalınmış yapay zeka hizmetlerine güven vermek için ortam çağrı merkezi arka plan gürültüsü bile üreten, yapay zeka destekli bir çağrı merkezidir: Bunlar, karanlık web tekliflerinin çoğunluğunu oluşturur ve en ucuzudur; çalıntı bir ChatGPT hesabı için yalnızca 10 sentten başlar. Kaiser, jailbreakli yapay zeka sunan son derece organize ve aktif bir siber suç topluluğunun bulunduğunu söyledi.
Kaiser, suçluların talebi nasıl artırmaya ve aksaklığa karşı dayanıklılığı artırmaya devam ettiğini açıkladı.
Yaygın olarak bulunan ücretsiz araçlar sayesinde siber suçluların giriş önündeki mali engel "neredeyse sıfır"dır. Kasier, Telegram bot tabanlı dağıtımın satış, müşteri hizmetleri, bildirim ve sipariş takibi süreçlerini otomatik hale getirdiğini ve "insansız vitrinler" olarak işlev gördüğünü ekledi.
Son olarak, kanalların çokluğu yedeklilik sağlar.
Sistem Güvenliği
"Ücretli katman kesintiye uğrarsa ücretsiz katman dağıtılmaya devam eder. Bir web sitesi çökerse Telegram botu devam eder" diye açıkladı. "Telegram kanalı yasaklanırsa forum başlığı devam eder, forum ele geçirilirse web sitesi ayakta kalır. Her kanal diğerinin yedeğidir."
Mücadele Burada Başlıyor
Önemli Gelişmeler
Kaiser, bu çerçevede organizasyonların dört cephede hazırlanması gerektiğini söyledi:
Düşük kapasite hacmindeki artışa karşı savunma aktörlerin yanı sıra sofistike grupların sürekli baskısı. İlki daha temel bir tehdit olabilir ancak güvenlik ekiplerinin gürültü yapmasına ve yorulmasına neden olabilir.
Toplumu birincil saldırı vektörü olarak telefon görüşmeleri etrafında yeniden yönlendirmek, bu da farkındalık oluşturmak ve doğrulama protokollerini yeniden tasarlamak anlamına gelir
Yapay zeka tabanlı davranışsal koruma, otomatik izolasyon, belirteç iptali ve kimlik bilgilerinin devre dışı bırakılmasıyla yapay zeka tarafından hızlandırılan hızlı saldırıları durdurmaya hazır olun
Kamu ve özel sektör genelinde birlikte daha iyi çalışın. Yapay zeka model üreticilerinin bu konuda adım atması gerekiyor. Kaiser, "Bu aslında teknik olduğu kadar bir politika ve ortaklık sorunudur" dedi. "Bu pazarın etkili bir şekilde bozulması, savunucular, model sağlayıcılar, ödeme işlemcileri ve barındırma altyapısı arasında koordinasyonu gerektirir
Kaiser sözlerini şöyle tamamladı: "İyi haber şu ki, bu piyasaların nasıl çalıştığını ortaya koyan aynı istihbarat çalışması aynı zamanda nerede savunmasız olduklarını da ortaya çıkarıyor."
Teknik Analiz
“Kolluk kuvvetlerinin aksaması ve mali baskı, gerçek sürtüşmeye neden olabilir. Saldırganların gerçekte ne satın aldıklarını, inşa ettiklerini ve yaptıklarını doğrudan gözlemleyerek nasıl hareket ettiklerini anlayan savunucular, anlamlı ve eyleme dönüştürülebilir bir avantaja sahip oluyor."
