Google Threat Intelligence Group (GTIG), siber suçluların ilk kez yapay zeka kullanarak bir sıfırıncı gün (zero-day) zafiyetini tespit edip kullandığını bildirdi. 11 Mayıs'ta yayımlanan GTIG AI Tehdit Takip Raporu'na göre, 'önde gelen' siber suç grupları, büyük çaplı bir zafiyet istismarı operasyonu planlamak için işbirliği yaptı. Bir yapay zeka modeli, popüler bir açık kaynak web tabanlı sistem yönetim aracındaki zafiyeti bularak, iki faktörlü kimlik doğrulamayı (2FA) atlatmak için kullanıldı. GTIG, zafiyeti kapatmak ve kampanyayı durdurmak için yazılım satıcısıyla işbirliği yaptı.
Google, bu olayın bir tehdit aktörünün yapay zekayı başarıyla kullanarak sıfırıncı gün zafiyeti keşfetmesi ve silah haline getirmesine dair ilk kanıt olduğunu belirtti. Saldırganın ne Google Gemini ne de Anthropic Mythos modelini kullanmadığı ifade edildi. Python ile yazılan kodun analizi, yapay zeka tarafından üretildiğine işaret eden izler taşıyordu. Bunlar arasında eğitim dokümantasyonu (docstrings) ve Pythonic format gibi büyük dil modellerinin (LLM) eğitim verilerine özgü yapısal özellikler bulunuyordu. Ayrıca kod, insan yerine yapay zeka tarafından geliştirildiğini gösteren hayali bir CVSS skoru içeriyordu.
Bu kampanya henüz devreye alınmadan durdurulsa da, yapay zeka ile geliştirilen sıfırıncı gün zafiyetinin keşfi, AI tehdit ortamının ne kadar hızlı evrildiğini gösteriyor. GTIG baş analisti John Hultquist, 'Yapay zeka zafiyet yarışının yakın olduğu yanılgısı var. Gerçek şu ki, çoktan başladı. AI kaynaklı her sıfırıncı gün için muhtemelen daha birçokları var' dedi. Rapor, devlet destekli grupların (Çin ve Kuzey Kore) zafiyet keşfi için yapay zekaya büyük ilgi gösterdiğini, siber suç gruplarının ise kötü amaçlı yazılım geliştirme ve operasyonel destek araçları için AI kullandığını ortaya koydu.
Detaylar ve Etkileri
Siber suçlular, yapay zekayı en çok araştırma ve sorun giderme için kullanıyor. Bu, istihbarat toplama ve görev desteğini otomatikleştirerek daha karmaşık, çok aşamalı operasyonlar için zaman ve kaynak sağlıyor. Hultquist, 'Tehdit aktörleri, saldırılarının hızını, ölçeğini ve karmaşıklığını artırmak için yapay zekayı kullanıyor. Operasyonlarını test etmelerine, hedeflere karşı direnç göstermelerine, daha iyi kötü amaçlı yazılım oluşturmalarına ve birçok iyileştirme yapmalarına olanak tanıyor' dedi. Devlet aktörlerinin bu teknolojiden yararlandığını ancak suç tehdidinin de hafife alınmaması gerektiğini vurguladı.
