Google Tehdit İstihbarat Grubu (GTIG), siber suçluların bir sıfır gün açığını tespit etmek ve istismar etmek için ilk kez yapay zeka kullandığını duyurdu. 11 Mayıs'ta yayınlanan GTIG AI Tehdit İzleme raporuna göre, önde gelen siber suç aktörleri kitlesel bir açık istismar operasyonu planlamak için bir araya geldi. Yapay zeka modeli, popüler bir açık kaynak web tabanlı sistem yönetim aracındaki iki faktörlü kimlik doğrulama (2FA) korumalarını aşmak için bir sıfır gün açığını tespit etmek ve silah haline getirmek için kullanıldı. GTIG, açığı kapatmak ve kampanyayı engellemek için sistem yönetim aracı satıcısıyla birlikte çalıştı.
Google, bunun bir tehdit aktörünün sıfır gün açığının keşfi ve silah haline getirilmesini desteklemek için yapay zekayı başarıyla kullandığına dair gördüğü ilk kanıt olduğunu belirtti. Rapora göre, saldırgan ne Google Gemini yapay zeka modelini ne de Anthropic Mythos'u kullanmadı. Python ile yazılmış kodun analizi, yapay zeka tarafından üretildiğine dair işaretler gösterdi. Bunlar arasında, büyük dil modelleri (LLM) tarafından kullanılan eğitim verilerinin karakteristik özelliği olan eğitimsel docstring'lerin ve Pythonic formatın yüksek yapılandırılmış kullanımı yer alıyordu. Ayrıca script, insan yerine yapay zeka tarafından geliştirildiğinin bir başka göstergesi olan hayali bir CVSS puanı içeriyordu.
Bu kampanya uygulamaya konulmadan engellenmiş olsa da, yapay zeka tarafından geliştirilen bu sıfır gün açığının keşfi, yapay zeka tehdit ortamının ne kadar hızlı evrildiğinin bir göstergesidir. GTIG baş analisti John Hultquist, "Yapay zeka açık yarışının yakın olduğu yanlış bir kanı var. Gerçek şu ki çoktan başladı. Yapay zekaya kadar takip edebildiğimiz her sıfır gün için, muhtemelen daha birçokları var" dedi. GTIG raporu, son zamanlarda kampanyalarının bir parçası olarak yapay zekayı kullanan çeşitli tehdit aktörlerinin örneklerini detaylandırdı. Bunlar arasında devlet destekli bilgisayar korsanlığı ve casusluk grupları da yer alıyordu.
Google, Çin Halk Cumhuriyeti ve Kuzey Kore'nin açık keşfi için yapay zekadan yararlanmaya "önemli ilgi" gösterdiğini söyledi. Siber suç grupları da yapay zeka modellerini kötü amaçlı yazılım geliştirmeye yardımcı olmak için kullanmaya devam ediyor. GTIG ayrıca yapay zekanın, antivirüs yazılımları ve siber güvenlik korumaları tarafından tespit edilmesi daha zor olan operasyonel destek araçları için kullanıldığını belirtti. Saldırganlar yapay zekayı sıfır gün geliştirme ve kötü amaçlı yazılım gizleme gibi daha karmaşık faaliyetler için kullanırken, tehdit aktörleri tarafından en yaygın yapay zeka kullanımı, normal kullanıcılar gibi, araştırma ve sorun giderme için LLM'leri kullanmak olarak kaldı.
