Infosecurity Europe 2024'te konuşan Microsoft'un Dedektif ve Müdahale Ekibi (DART), yapay zeka destekli siber tehditlerin yükselişine karşı kuruluşları uyardı. Microsoft kıdemli güvenlik araştırmacısı Mary Asaolu, AI'nın işleri kolaylaştırdığını ancak aynı AI'nın tehdit aktörleri tarafından manipüle edilebileceğini vurguladı. Sosyal mühendislik ve günlük araştırmalarda bu durumun sıkça gözlemlendiğini belirtti.
AI'nın kurumsal ortamda sağladığı faydalara rağmen, doğru yönetilmediğinde siber güvenlik riskleri oluşturduğu ifade edildi. Microsoft baş güvenlik araştırmacısı Meaghan Bradshaw, AI kodunun neredeyse yarısının kusur içerdiğini ve saldırganların bu kusurları uygulamaları veya verileri tehlikeye atmak için kullanabileceğini söyledi. Bu, teorik bir kavram değil; siber suçlular AI araçlarını saldırı zincirinde halihazırda kullanıyor.
Microsoft'un 'Securing AI in the Age of Intelligent Threats' oturumunda detaylandırılan 'JustAskJacky' kampanyası, kullanıcıları meşru bir AI asistanı gibi görünen ancak aslında bir arka kapı olan yazılımı indirmeye kandırıyor. Profesyonel görünümlü arayüzler ve geçerli dijital imzalar sayesinde hem kullanıcılar hem de güvenlik araçları tarafından fark edilmesi zorlaşıyor.
Kötü amaçlı AI asistanı, ancak Microsoft DART'ın bir kuruluşta başka bir sorunu araştırırken keşfedildi. İlk bakışta normal çalışıyor gibi görünse de, kurulum sırasında Java ile yazılmış bir arka kapı ve her dört saatte bir çalışan bir kalıcılık mekanizması devreye giriyor. Bu mekanizma, saldırganlara kontrol ve telemetri sağlıyor.
Teknik Analiz
Bradshaw, kuruluşların ve kullanıcıların hangi AI hizmetlerini yüklediklerini ve nereden geldiklerini düşünmeleri gerektiğini vurguladı. Tehdit aktörleri, çalışanların AI araçları aradığını biliyor. Kullanıcıların heyecanla AI'yı benimserken dikkatlerini kaybettiğini ve ne çalıştırdıklarını bilmediklerini belirtti. Tek bir kullanıcının ikna edilmesi, saldırganlara bir dayanak noktası kazandırmak için yeterli.
En yaygın önerilerinden birinin, standart dışı uygulamaları değerlendirmek ve iş gereksinimi yoksa kaldırmak olduğunu söyledi. Ayrıca, çalışanların ne kullandığını bilmenin önemine dikkat çekti. AI benimsenmesiyle ilgili siber güvenlik risklerini önlemenin en iyi yollarından biri, proaktif olmak. Şirket genelinde, yönetim kurulundan alt düzey personele kadar herkesin yetkisiz AI araçlarını indirmenin riskleri konusunda bilgilendirilmesi gerekiyor.
Asaolu, güvenli benimseme için net bir yol haritası sağlanması, AI güvenliğinin liderlik önceliği haline getirilmesi ve güvenlik incelemelerinin yapılması gerektiğini söyledi. AI'nın sorumlu kullanılması ve iyi AI'nın varsayılan davranış olması gerektiğini ekledi. Güvenlik ekiplerinin risk değerlendirmeleri ve anormal davranış izleme için donanımlı ve koordineli olması önemli.
Kaynak: infosecurity-magazine.com
