Google Tehdit İstihbarat Grubu (GTIG), siber suçluların ilk kez sıfır gün güvenlik açığını başarıyla tespit etmek ve istismar etmek için yapay zekayı kullandığı konusunda uyardı.
11 Mayıs'ta yayınlanan GTIG Yapay Zeka Tehdit Takipçisi raporu, "önde gelen" siber suç tehdit aktörlerinin, kitlesel bir güvenlik açığından yararlanma operasyonu planlamak için ortaklık kurduğunu söyledi.
Bir yapay zeka modeli muhtemelen sıfır gün güvenlik açığını tanımlamak ve onu, popüler bir açık kaynaklı, web tabanlı sistem yönetim aracında iki faktörlü kimlik doğrulama (2FA) korumalarını atlamak üzere silahlandırmak için kullanıldı.
Sonuç ve Değerlendirme
GTIG, güvenlik açığını kapatmak ve yeni sıfır gün istismarından önce kampanyayı kesintiye uğratmak için sistem yöneticisi aracı satıcısıyla birlikte çalıştı.
Sistem Güvenliği
Google bunun, bir tehdit aktörünün sıfır gün güvenlik açığının keşfedilmesini ve silah haline getirilmesini desteklemek için yapay zekayı başarıyla kullandığına dair gördüğü ilk kanıt olduğunu söyledi.
Detaylar ve Etkileri
Raporda, saldırgan tarafından ne Google Gemini AI modelinin ne de Antropik Mythos'un kullanılmadığı belirtildi.
Python'da uygulanan kodun analizi, yapay zeka tarafından oluşturulduğunun işaretlerini ortaya koydu. Bu, büyük dil modelleri (LLM'ler) tarafından kullanılan eğitim verilerinin karakteristiği olan eğitimsel doküman dizilerinin ve Pythonic formatının oldukça yapılandırılmış kullanımını içeriyordu.
Nasıl Önlem Alınmalı?
Senaryo ayrıca halüsinasyonlu bir CVSS puanı da içeriyordu; bu da senaryonun bir insan yerine yapay zeka tarafından geliştirildiğini gösteren başka bir gösterge.
Bu kampanya, devreye alınmadan önce kesintiye uğramış olsa da, yapay zeka tarafından geliştirilen bu sıfır günün keşfi, yapay zeka tehdit ortamının ne kadar hızlı geliştiğinin bir göstergesidir.
GTIG baş analisti John Hultquist, "Yapay zeka zayıflık yarışının yaklaştığı yönünde bir yanlış kanı var. Gerçek şu ki, bu zaten başlamış durumda. Yapay zekaya kadar izini sürebildiğimiz her sıfır gün için, muhtemelen çok daha fazlası var" dedi.
Bilgisayar Korsanları için Etkinleştirici Olarak Yapay Zeka
GITG raporu, yakın zamanda kampanyalarının bir parçası olarak yapay zekayı kullanan tehdit aktörlerinin çeşitli örneklerini ayrıntılı olarak açıkladı.
Buna ulus devlet hackleme ve casusluk grupları da dahildi. Google, Çin Halk Cumhuriyeti'nin (PRC) ve Kore Demokratik Halk Cumhuriyeti'nin (DPRK), güvenlik açığı keşfi için yapay zekadan yararlanmaya "önemli ilgi" gösterdiğini söyledi.
Gelecekte Ne Bekleniyor?
Siber suçlu grupları, kötü amaçlı yazılım geliştirmeye yardımcı olmak için yapay zeka modellerini kullanan tehdit aktörleriyle birlikte hackleme kampanyalarının bir parçası olarak yapay zekayı kullanmaya devam etti. GTIG ayrıca yapay zekanın, anti-virüs yazılımı ve siber güvenlik korumaları tarafından tespit edilmesi daha zor olan operasyonel destek araçları için kullanıldığını da belirtti.
Saldırganlar yapay zekayı sıfır gün geliştirme ve kötü amaçlı yazılım gizleme gibi daha karmaşık faaliyetler için kullanırken, tehdit aktörleri tarafından yapay zekanın en yaygın kullanımı, sıradan kullanıcılar gibi, araştırma ve sorun giderme amacıyla LLM'leri kullanmaktır.
Siber suçlular, istihbarat toplamayı ve görev desteğini otomatikleştirerek karmaşık, çok aşamalı operasyonları ve daha etkili kampanyaları yönetmek için kendilerine ek zaman ve kaynak sağlıyor.
Hultquist, "Tehdit aktörleri, saldırılarının hızını, ölçeğini ve karmaşıklığını artırmak için yapay zekayı kullanıyor. Bu onların operasyonlarını test etmelerine, hedeflere karşı ısrarcı olmalarına, daha iyi kötü amaçlı yazılım geliştirmelerine ve daha birçok iyileştirme yapmalarına olanak tanıyor" dedi.
Teknik Analiz
"Devlet aktörleri bu teknolojiden yararlanıyor, ancak özellikle geniş, saldırgan saldırı geçmişi göz önüne alındığında suç tehdidi hafife alınmamalı" diye ekledi.
