Microsoft Detection and Response Team (DART), yapay zeka (AI) destekli siber tehditlerin yükselişine karşı kurumların ve güvenlik ekiplerinin nasıl hareket etmesi gerektiği konusunda önemli uyarılarda bulundu. Infosecurity Europe etkinliğinde konuşan Microsoft kıdemli güvenlik araştırmacısı Mary Asaolu, "AI harika, işimizi kolaylaştırıyor. Ancak aynı AI, tehdit aktörleri tarafından kolayca manipüle edilebiliyor; bunu sosyal mühendislik ve günlük soruşturmalarımızda görüyoruz" dedi. Ayrıca, kurumsal ortamlarda AI kullanımının yaygınlaşmasıyla birlikte, yönetilmediği takdirde AI kodunun siber güvenlik riskleri oluşturabileceği vurgulandı.
Microsoft baş güvenlik araştırmacısı Meaghan Bradshaw, "AI gerçekten yeni bir boyut. Ancak AI kodu, ek bir risk katmanı daha getiriyor. Neredeyse AI kodlarının yarısı hata içeriyor. Saldırganlar bunu uygulamalara veya verilere sızmak için kullanabilir" ifadelerini kullandı. Bu teorik bir kavram değil; siber suçlular halihazırda AI araçlarını saldırı zincirinin bir parçası olarak kullanıyor. Microsoft'un 'Akıllı Tehditler Çağında AI'yi Güvence Altına Almak' başlıklı sunumunda, 'JustAskJacky' adlı bir kampanya detaylandırıldı. Bu saldırı, kullanıcıları meşru bir AI asistanı gibi görünen, ancak aslında bir arka kapı olan yazılımı indirmeye ikna ediyor.
JustAskJacky kampanyası, profesyonel görünümlü arayüzler ve geçerli dijital imzalar kullanarak hem kullanıcıların hem de güvenlik araçlarının bu yazılımı meşru olandan ayırt etmesini zorlaştırıyor. Kötü amaçlı AI asistanı, tespit edilmekten o kadar iyi kaçıyor ki, ancak Microsoft DART'ın bir kuruluşta başka bir sorunu araştırmak üzere görevlendirilmesiyle ortaya çıkarılabiliyor. Bradshaw, "Bu uygulamanın günlük iş akışlarına yardımcı olmak için AI asistanı kılığına girdiğini buldular" dedi. İlk bakışta normal çalışıyor gibi görünse de, kurulum sırasında Java ile yazılmış bir arka kapı ve her dört saatte bir çalışan bir zamanlanmış görev ile kalıcılık mekanizması devreye giriyor.
Uzmanların Görüşleri
Bradshaw, buradan çıkarılacak dersin, kurumların ve kullanıcıların hangi AI hizmetlerini yüklediklerini ve bunların nereden geldiğini sorgulamaları gerektiği olduğunu belirtti. "Herkes AI'yi günlük işleri geliştirmek için kullanma heyecanı içinde. Ancak bu, kullanıcıların dikkatlerini dağıtmalarına ve ne çalıştırdıklarını bilmemelerine yol açıyor. Tek bir kullanıcının ikna edilmesi, saldırgana bir dayanak noktası sağlamak için yeterli" dedi. Microsoft'un en yaygın önerilerinden birinin, standart dışı uygulamaları değerlendirmek ve iş gereksinimi yoksa bunları kaldırmak olduğunu ekleyen Bradshaw, "Çünkü AI sizin için ne kadar faydalıysa, tehdit aktörleri için de o kadar faydalı. Çalışanlarınızın ne kullandığını bildiğinizden emin olun" uyarısında bulundu. Ayrıca, kurumların AI kullanımını güvenli hale getirmek için net bir yol haritası oluşturması, AI güvenliğini liderlik önceliği haline getirmesi ve güvenlik ekiplerini risk değerlendirmeleri yapmak ve anormal davranışları izlemek için donatması gerektiği vurgulandı.
