Siber güvenlik dünyasında yapay zeka araçlarının kötüye kullanımı yeni bir boyut kazandı. Trend Micro araştırmacıları, 'bandcampro' kod adlı Rusça konuşan bir tehdit aktörünün, Google'ın açık kaynaklı Gemini CLI yapay zeka aracını bir hacking ajanı ve küçük ölçekli bir botnet operatörü olarak kullandığını ortaya çıkardı. AI ajanı, saldırganın komutlarına yanıt vererek anlık sorun giderme yaptı ve en az 59 kez operasyonel iyileştirme önerisinde bulundu. Bu durum, yapay zeka araçlarının siber saldırılarda ne kadar etkili bir şekilde kullanılabileceğini gözler önüne seriyor.
19 Mayıs ile 21 Nisan tarihleri arasında gerçekleşen 200'den fazla oturumda, tehdit aktörü AI aracını kullanarak bir diş kliniğindeki sekiz sistemi kontrol eden bir altyapı kurdu ve işletti. Ayrıca OpenDental veritabanına erişim sağladı. AI ajanı, güvenlik uyarıları olmadan 'yetkili sızma testi uzmanı' rolünü üstlendi ve herhangi bir kimlik bilgisini otomatik olarak kaydetti. Beceri dosyası, komuta ve kontrol (C2) oyun kitabını, mimari tanımını, standart operasyonları, bulaşma kodunu, kalıcılık komutlarını ve sorun giderme adımlarını içeriyordu.
Trend Micro araştırmacıları, tehdit aktörünün Gemini CLI'yi botnet'i yeni bir C2 altyapısına taşımak için kullandığını belirtiyor. 'C2 göçünü incele' gibi tek bir talimatla başlayan süreçte, AI kılavuzu işledi ve gerekli tüm adımları ve kodları hazırladı. AI, C2 altyapısını altı dakika gibi kısa bir sürede taşıdı; mimari, kodlama, VPS dağıtımı, Cloudflare yapılandırması ve ilk hata ayıklama işlemlerini gerçekleştirdi. Trend Micro'ya göre AI, göç kılavuzunu okuyarak bir göç paketi (sunucu kodu, yükler ve beceri dosyası içeren küçük bir arşiv) hazırladı, paketi açtı, C&C sunucusunu bir VPS'de başlattı ve Cloudflare tünelini kurdu.
Makineler başlangıçta yeniden bağlanamadığında, AI eski ve yeni sunucular arasındaki çakışan trafiği teşhis etti. Tehdit aktörü eski sunucuyu kapattıktan sonra tüm botlar yeniden bağlandı. Günlük operasyon kayıtları, tehdit aktörünün botnet'i tamamen doğal dil talepleriyle yönettiğini gösteriyor; hangi makinelerin çevrimiçi olduğunu sorguluyor, belirli bilgisayarlardaki dosyaları listeliyor ve bulaşma bağlantıları oluşturuyordu. Teknik açıdan bakıldığında, botnet kurulumu oldukça hafifti; tüm bileşenler ve talimatlar toplamda yaklaşık 5 KB boyutunda üç düz metin dosyasında yer alıyordu.
Bu dosyalar bir Gemini atlatma istemi, bulaşma, kalıcılık ve sorun giderme içeren bir C2 oyun kitabı ve altyapıyı yeniden inşa etmek için bir göç kılavuzu içeriyordu. C2, bellek içi bir Python HTTP sunucusu ve her beş saniyede bir yoklama yapan PowerShell ajanları kullanıyordu; kalıcılık ise ayrıcalıklara bağlı olarak zamanlanmış görevler, WMI olayları ve kayıt defteri değişiklikleriyle sağlanıyordu. Trend Micro'ya göre kötü amaçlı yazılım oldukça basitti; karartma, paketleme veya kaçınma mekanizmalarından yararlanmıyordu.
Sonuç ve Değerlendirme
Botnet'in ötesinde, tehdit aktörünün AI'yı parola tahmin etme, WordPress portalları için mevcut parolaların olası varyantlarını oluşturma ve 1Password dökümlerini analiz ederek açıklık arama gibi amaçlarla kullandığı iddia ediliyor. Araştırmacılar, ikinci işlemin yalnızca operasyonun AI'nın daha geniş saldırı konseptini takip edemeyecek kadar uzun sürmesi nedeniyle başarısız olduğunu belirtiyor. Ele geçirilen kayıtlar, Gemini'nin en az bir durumda (kendi kendine yayılan bir 'ajan-bombası' oluşturması istendiğinde) uymayı reddettiğini, ancak bunun tehdit aktörünü başka görevlere yönlendirdiğini gösteriyor. BleepingComputer, Google'dan bu Gemini CLI kötüye kullanımı örneği hakkında yorum istedi ancak yayın anına kadar yanıt alamadı.
Kaynak: bleepingcomputer.com
