Microsoft'un olay müdahale ekibi DART, yapay zeka destekli siber tehditlerin yükselişine karşı kuruluşların ve güvenlik ekiplerinin nasıl yanıt vermesi gerektiğine dair önemli tavsiyelerde bulundu. Infosecurity Europe 2024 konferansında konuşan Microsoft kıdemli güvenlik araştırmacısı Mary Asaolu, "Yapay zeka harika, işimizi kolaylaştırıyor. Ancak aynı yapay zeka, tehdit aktörleri tarafından kolayca manipüle edilebiliyor; bunu sosyal mühendislikte ve günlük araştırmalarımızda görüyoruz" dedi. Bu uyarı, yapay zekanın hem savunma hem de saldırı amaçlı kullanımının hızla arttığı bir dönemde geldi.
Kurumsal dünyada yapay zeka verimliliği artırmak için kullanılırken, Microsoft'un baş güvenlik araştırmacısı Meaghan Bradshaw, "Yapay zeka gerçekten de yeni bir risk katmanı oluşturuyor. Neredeyse her iki AI kodundan biri kusur içeriyor. Saldırganlar bunları uygulamalara veya verilere sızmak için kullanabilir" diyerek önemli bir noktaya dikkat çekti. Bu sadece teorik bir kavram değil; siber suçlular, saldırı zincirinin bir parçası olarak AI araçlarını çoktan kullanmaya başladı.
Microsoft, Infosecurity Europe'taki 'Zeki Tehditler Çağında Yapay Zekayı Güvence Altına Alma' başlıklı oturumunda, 'JustAskJacky' adlı bir kampanyayı detaylandırdı. Bu saldırıda kullanıcılar, meşru bir AI asistanı gibi görünen ancak aslında bir arka kapı (backdoor) olan yazılımı indirmeye ikna ediliyor. Siber suçlular bu arka kapıyı kullanarak kötü amaçlı yazılım dağıtıyor. Kampanya, profesyonel görünümlü arayüzler ve geçerli dijital imzalar kullanarak hem kullanıcıların hem de güvenlik araçlarının meşru yazılımla sahtesini ayırt etmesini zorlaştırıyor ve böylece radarın altında kalıyor.
Sahte AI asistanı, tespit edilmekten o kadar iyi kaçıyordu ki, ancak Microsoft DART'ın başka bir sorunu araştırmak için bir kuruluşa çağrılmasıyla keşfedildi. Bradshaw, "Bu uygulamanın günlük iş akışlarına yardımcı olmak için bir AI asistanı gibi davrandığını bulduk" dedi. İlk bakışta normal çalışıyor gibi görünüyor; ancak kurulum sırasında Java ile yazılmış bir arka kapı devreye giriyor ve her dört saatte bir çalışan bir zamanlanmış görev oluşturan bir kalıcılık mekanizmasıyla kontrolü sürdürüp telemetri gönderiyor.
Detaylar ve Etkileri
Bradshaw'a göre bu saldırıdan çıkarılacak ders, kuruluşların ve kullanıcıların hangi AI hizmetlerini yüklediklerini ve bunların nereden geldiğini düşünmek için geri adım atmaları gerektiği. Tehdit aktörleri, çalışanların AI araçları aradığını biliyor. "Herkes günlük işlerini geliştirmek için AI'dan yararlanma konusunda heyecanlı. Ancak diğer taraftan, bu genellikle kullanıcıların dikkatlerini gevşetmelerine ve ne çalıştırdıklarını bilmemelerine yol açıyor. Bir kullanıcının ikna olması ve o yerleşimi kazanması yeterli" dedi. En yaygın önerilerinden birinin, standart dışı uygulamaları değerlendirmek için zaman ayırmak olduğunu belirtti: "İş gereksinimi yoksa, onlardan kurtulun. Çünkü sizin için ne kadar yararlıysa, tehdit aktörleri için de o kadar yararlı. Çalışanlarınızın ne kullandığını bildiğinizden emin olun."
Yapay zeka destekli çalışanları güvence altına almak için birçok siber güvenlik sorununda olduğu gibi, en iyi çözümlerden biri sorunun önüne geçmek. İşletme genelinde, yönetim kurulundan alt kademelere kadar çalışanlar, yetkisiz AI araçlarını indirmenin potansiyel riskleri konusunda bilgilendirilmeli ve AI asistanlarının güvenli bir şekilde nasıl benimseneceği ve dağıtılacağı konusunda bilgi sahibi olmalıdır. Asaolu, "Güvenli benimseme için net bir yol haritası sağlayın. AI güvenliğini bir liderlik önceliği haline getirin, güvenlik incelemelerinin yerinde olduğundan emin olun ve AI'yı yönetim kurulu düzeyinde bir tartışma konusu yapın" dedi. Ayrıca, AI'nın sorumlu bir şekilde kullanılmasını sağlamak, iyi AI'nın varsayılan davranış olmasını temin etmek ve güvenlik ekiplerinin risk değerlendirmeleri yapmak ve olağandışı davranışları izlemek için donanımlı ve koordineli olmasını sağlamak gerektiğini ekledi.
Kaynak: infosecurity-magazine.com
