Yapay zeka tedarik zinciri güvenliği, yeni bir tehditle karşı karşıya. Güvenlik araştırmacıları, Hugging Face platformunda en çok trend olan depolar arasında yer alan bir repoda gizlenmiş bilgi hırsızı (infostealer) kötü amaçlı yazılım tespit etti. AI güvenlik firması HiddenLayer, 7 Mayıs'ta Open-OSS/privacy-filter adlı deponun kötü amaçlı olduğunu belirledi. Depo, platformda en çok trend olanlar arasında görünüyor ve 18 saatten kısa sürede 244 binden fazla indirme ve 667 beğeni almıştı. Araştırmacılar, bu rakamların depoyu meşru göstermek için yapay olarak şişirildiğini belirtiyor.
Depo, OpenAI'nin meşru Privacy Filter sürümünün tipografik taklidini (typosquatting) yapıyor ve model kartını neredeyse birebir kopyalıyor. Bu, saldırganların AI modelleri ve veri kümeleri gibi güvenilir kaynakları taklit ederek kullanıcıları kandırmasının bir başka örneği. Daha önce de Hugging Face'de kötü amaçlı AI modelleri kullanılarak yeni saldırı teknikleri keşfedilmişti. Bu kampanya, altı aşamalı bir saldırı zinciri ile yayılıyor.
Saldırı zinciri şu şekilde işliyor: Kullanıcı kötü amaçlı depoya yönlendiriliyor ve repoyu klonlayıp doğrudan start.bat (Windows) veya python loader.py (Linux/macOS) çalıştırması talimatı veriliyor. Python betiği, base64 kodlu bir dize içeriyor ve bu dize sonunda Rust tabanlı bir infostealer olan kötü amaçlı bir çalıştırılabilir dosyayı indiriyor. Infostealer, güvenlik kontrollerini atlatmak için birden fazla teknik kullanıyor: Windows API'lerini gizleyerek statik analizi engelliyor, hata ayıklayıcı ve sanal kutu (VirtualBox, VMware, QEMU, Xen) tespiti yapıyor, Windows Antimalware Scan Interface (AMSI) ve Event Tracing for Windows (ETW) devre dışı bırakarak davranışsal tespitten kaçıyor.
Sistem Güvenliği
Kötü amaçlı yazılım, tarayıcı şifreleri ve oturum çerezleri, Discord tokenleri, kripto para cüzdanları, Telegram oturumları ve daha fazlasını çalmak üzere tasarlanmış. Bu tür infostealer'lar, siber suç ekonomisini beslemeye devam ediyor. Geçtiğimiz ay KELA verileri, infostealer'lar tarafından ele geçirilen en az 347 milyon kimlik bilgisinin 3,9 milyon enfekte makineden toplandığını ortaya koydu.
Gelecekte Ne Bekleniyor?
Peki bu saldırıdan nasıl korunulur? HiddenLayer, kötü amaçlı depoyu klonlayıp start.bat, python loader.py veya repodaki herhangi bir dosyayı çalıştıran kullanıcıların sistemlerini tamamen ele geçirilmiş olarak kabul etmelerini öneriyor. Satıcı, 'Payload bir kimlik bilgisi toplayıcı infostealer olduğundan, etkilenen cihazı silmeden önce herhangi bir hesaba giriş yapmayın' uyarısında bulunuyor. Cihaz izole edildikten sonra, tarayıcılarda, parola yöneticilerinde veya kimlik bilgisi depolarında saklanan tüm şifreler, oturum çerezleri, OAuth tokenleri, SSH anahtarları, FTP kimlik bilgileri (özellikle FileZilla) ve bulut sağlayıcı tokenleri değiştirilmelidir.
Kullanıcılar, şifre kaydedilmemiş olsa bile tarayıcı oturumlarını ele geçirilmiş saymalıdır; çünkü çalınan oturum çerezleri, saldırganların çok faktörlü kimlik doğrulamayı (MFA) atlamasına yardımcı olabilir. Ayrıca şu önlemler alınmalıdır: Kripto para cüzdanı fonları, temiz bir cihazda oluşturulan yeni bir cüzdana taşınmalı; tohum ifadeleri, anahtar depoları ve cüzdan uzantı verilerinin çalınmış olabileceği varsayılmalıdır. Discord oturumları geçersiz kılınmalı ve Discord şifreleri sıfırlanmalıdır, çünkü tokenler ve ana anahtarlar hedef alınmaktadır. Raporun IOC'leri (Gösterge) ağ çıkışında engellenmeli ve geçmiş bağlantılar taranarak diğer etkilenmiş cihazlar tespit edilmelidir.
Bu olay, AI tedarik zinciri güvenliğinin ne kadar kritik olduğunu bir kez daha gösteriyor. Kullanıcılar, Hugging Face gibi platformlardan indirdikleri modellere ve veri kümelerine karşı dikkatli olmalı, resmi kaynakları doğrulamalı ve şüpheli depoları çalıştırmadan önce güvenlik kontrolleri yapmalıdır. HiddenLayer, bu tür tehditlerin artacağını ve sürekli tetikte olunması gerektiğini vurguluyor.
Kaynak: infosecurity-magazine.com
