Siber suçlular, ilk kez yapay zeka kullanarak bir sıfırıncı gün açığını başarıyla tespit edip istismar etti. Google Tehdit İstihbarat Grubu'nun (GTIG) 11 Mayıs'ta yayımladığı AI Tehdit Takip Raporu'na göre, önde gelen siber suç aktörleri bir araya gelerek büyük çaplı bir güvenlik açığı istismar operasyonu planladı. AI modeli, popüler bir açık kaynak web tabanlı sistem yönetim aracındaki sıfırıncı gün açığını belirlemek ve bu açığı kullanarak iki faktörlü kimlik doğrulamayı (2FA) atlatan bir araç geliştirmek için kullanıldı.
GTIG, güvenlik açığını kapatmak ve kampanyayı engellemek için sistem yönetim aracı satıcısıyla iş birliği yaptı. Google, bunun bir tehdit aktörünün yapay zekayı başarıyla kullanarak sıfırıncı gün açığı keşfi ve silahlandırmasına destek olduğuna dair gördüğü ilk kanıt olduğunu belirtti. Raporda, saldırganın ne Google Gemini AI modelini ne de Anthropic Mythos'u kullandığı ifade edildi. Python ile yazılan kodun analizi, eğitim dokümantasyonu ve Pythonik format gibi büyük dil modellerinin (LLM) eğitim verilerine özgü yapılar içerdiğini ve AI tarafından üretildiğini gösterdi. Ayrıca, kodda hayali bir CVSS puanı bulunması da AI geliştiriciliğine işaret ediyor.
Bu kampanya devreye alınmadan engellenmiş olsa da, AI tarafından geliştirilen bu sıfırıncı gün açığının keşfi, AI tehdit ortamının ne kadar hızlı evrildiğini gösteriyor. GTIG baş analisti John Hultquist, 'AI güvenlik açığı yarışının yakın olduğu yanılgısı var. Gerçek şu ki, çoktan başladı. AI'ya dayandırabildiğimiz her sıfırıncı gün için, muhtemelen daha birçokları var,' dedi. Raporda ayrıca devlet destekli hacker gruplarının, özellikle Çin ve Kuzey Kore'nin, yapay zekayı güvenlik açığı keşfi için kullanmaya büyük ilgi gösterdiği belirtildi.
Detaylar ve Etkileri
Siber suç grupları, yapay zekayı kötü amaçlı yazılım geliştirme ve anti-virüs yazılımları tarafından tespit edilmesi daha zor olan operasyonel destek araçları oluşturmak için kullanıyor. En yaygın AI kullanımı ise, normal kullanıcılar gibi, tehdit aktörlerinin araştırma ve sorun giderme için LLM'leri kullanması. Hultquist, 'Tehdit aktörleri, saldırılarının hızını, ölçeğini ve karmaşıklığını artırmak için AI kullanıyor. Operasyonlarını test etmelerini, hedeflere karşı direnç göstermelerini, daha iyi kötü amaçlı yazılım geliştirmelerini ve diğer iyileştirmeleri yapmalarını sağlıyor. Devlet aktörleri bu teknolojiden yararlanıyor, ancak suç tehdidi, özellikle geniş ve agresif saldırı geçmişleri göz önüne alındığında, hafife alınmamalı,' diye ekledi.
