Yapay zeka (AI) teknolojileri iş dünyasında verimliliği artırırken, siber saldırganlar için de yeni fırsatlar yaratıyor. Microsoft'un Dedektif ve Müdahale Ekibi (DART), Infosecurity Europe 2024'te yaptığı uyarıda, AI destekli siber tehditlerin arttığını ve kurumların bu konuda hazırlıklı olması gerektiğini vurguladı. Microsoft kıdemli güvenlik araştırmacısı Mary Asaolu, "AI harika, işimizi kolaylaştırıyor. Ancak aynı AI, tehdit aktörleri tarafından kolayca manipüle edilebiliyor. Bunu sosyal mühendislik saldırılarında ve günlük araştırmalarımızda görüyoruz," dedi.
AI'nın kurumsal dünyada yaygınlaşması, beraberinde yeni siber güvenlik risklerini getiriyor. Microsoft baş güvenlik araştırmacısı Meaghan Bradshaw, "AI gerçekten ortaya çıkan bir açı. Ancak AI kodu, ek bir risk katmanı oluşturuyor. Neredeyse AI kodunun yarısı kusur içeriyor. Saldırganlar bu kusurları kullanarak uygulamaları veya verileri tehlikeye atabilir," şeklinde konuştu. Bu teorik bir kavram değil; siber suçlular, AI araçlarını saldırı zincirinde kullanmaya başladı bile.
Microsoft, Infosecurity Europe'ta 'JustAskJacky' adlı bir kampanyayı detaylandırdı. Bu saldırıda, kullanıcılar meşru bir AI asistanı görünümündeki bir uygulamayı indirmeye ikna ediliyor, ancak uygulama aslında bir arka kapı (backdoor) içeriyor. Saldırganlar, profesyonel görünümlü arayüzler ve geçerli dijital imzalar kullanarak kötü amaçlı yazılımı gizlemeyi başarıyor. Bu sayede hem kullanıcılar hem de güvenlik araçları tarafından fark edilmesi zorlaşıyor.
Sonuç ve Değerlendirme
JustAskJacky kampanyasındaki kötü amaçlı AI asistanı, tespit edilmekten o kadar iyi kaçınıyordu ki, ancak Microsoft DART'ın ilgili bir kuruluşta başka bir sorunu araştırırken tesadüfen keşfedildi. Bradshaw, "Bu uygulamanın günlük iş akışlarına yardımcı olan bir AI asistanı gibi davrandığını bulduk," dedi. İlk bakışta normal çalışıyor gibi görünse de, kurulum sırasında Java ile yazılmış bir arka kapı ve her dört saatte bir çalışan kalıcılık mekanizması devreye giriyor, böylece saldırganlar kontrolü sürdürüp telemetri topluyor.
Bradshaw, bu kampanyadan çıkarılacak dersin, kurumlar ve kullanıcıların hangi AI hizmetlerini yüklediklerini ve bunların kaynağını dikkatlice değerlendirmeleri gerektiği olduğunu belirtti. "Herkes günlük işlerini iyileştirmek için AI'yı kullanma heyecanı içinde. Ancak bu, kullanıcıların dikkatini dağıtıyor ve ne çalıştırdıklarını bilmemelerine yol açıyor. Tek bir kullanıcının ikna olması, saldırganların içeri girmesi için yeterli," uyarısında bulundu. En yaygın önerilerinin, standart olmayan uygulamaları değerlendirmek ve iş gereksinimi yoksa kaldırmak olduğunu ekledi.
AI destekli çalışanların güvenliğini sağlamak için kurumların proaktif olması gerekiyor. Yönetim kurulundan alt kademelere kadar tüm çalışanlar, izinsiz AI araçlarının indirilmesinin riskleri konusunda bilgilendirilmeli ve güvenli AI kullanımı için net bir yol haritası sunulmalı. Asaolu, "Güvenli benimseme için net bir yol haritası sağlayın. AI güvenliğini liderlik önceliği haline getirin, güvenlik incelemeleri yapın ve AI'yı yönetim kurulu tartışma seviyesine taşıyın. AI'nın sorumlu kullanılmasını sağlayın ve iyi AI'yı varsayılan davranış haline getirin. Ayrıca güvenlik ekiplerini risk değerlendirmeleri ve anormal davranış izleme için donatın ve koordine edin," önerilerinde bulundu.
Kaynak: infosecurity-magazine.com
