Yapay zeka güvenlik şirketi Noma Security, GitHub'ın önizleme sürümündeki Agentic Workflows özelliğinde kritik bir güvenlik açığı keşfetti. 'GitLost' adı verilen bu saldırı, prompt injection yöntemiyle AI ajanlarını manipüle ederek özel depolardaki hassas verileri herkese açık olarak yayınlayabiliyor. Bu durum, kurumsal yazılım geliştirme ortamlarında AI ajanlarının giderek artan kullanımıyla birlikte ciddi güvenlik risklerini gündeme getiriyor.
Saldırı, kimliği doğrulanmamış bir kullanıcının herkese açık bir GitHub deposuna özel olarak hazırlanmış bir issue (sorun) göndermesiyle başlıyor. GitHub'ın Agentic Workflows'u, bu issue'yu işlemek üzere bir AI ajanını tetikliyor. Eğer ajan, aynı organizasyon içindeki özel depolara okuma erişimine sahipse, saldırganın talimatları doğrultusunda bu depolardan hassas bilgileri alıp herkese açık bir yorumda yayınlayabiliyor.
GitHub Agentic Workflows, GitHub Actions ile Claude veya GitHub Copilot gibi AI modellerini birleştirerek geliştiricilerin Markdown formatında iş akışları tanımlamasına olanak tanıyor. AI ajanları, issue'ları okuyor, araçları çağırıyor ve geliştiriciler adına görevleri yerine getiriyor. Ancak bu mimari, prompt injection saldırılarına karşı savunmasız kalabiliyor.
Nasıl Önlem Alınmalı?
Noma Security'nin raporuna göre, bu güvenlik açığı yalnızca GitHub'a özgü değil; genel olarak AI ajanlarının ayrıcalıklı erişime sahip olduğu ortamlarda benzer riskler bulunuyor. Şirketler, AI ajanlarına çok geniş yetkiler verirken, bu ajanların kötü niyetli girdilere karşı nasıl korunacağını yeterince düşünmüyor. Prompt injection, AI modellerinin talimatları yanlış yorumlamasına ve istenmeyen eylemler gerçekleştirmesine yol açabiliyor.
Teknik Analiz
Bu saldırı türü, özellikle yazılım geliştirme süreçlerinde AI kullanımının yaygınlaştığı günümüzde büyük önem taşıyor. Özel depolarda genellikle API anahtarları, veritabanı şifreleri, ticari sırlar ve müşteri verileri gibi kritik bilgiler bulunuyor. Bir prompt injection saldırısı, bu verilerin saniyeler içinde herkese açık hale gelmesine neden olabilir.
Kuruluşların bu tür saldırılara karşı alabileceği önlemler arasında AI ajanlarına verilen erişim izinlerini sıkılaştırmak, girdi doğrulama mekanizmaları uygulamak, AI modellerini düzenli olarak güvenlik testlerinden geçirmek ve en önemlisi, kritik işlemler için insan onayı mekanizmaları eklemek yer alıyor. GitHub'un bu açığı kapatmak için bir güncelleme yayınlaması bekleniyor.
GitLost saldırısı, AI çağında güvenliğin yalnızca geleneksel yazılım güvenliğiyle sınırlı olmadığını, AI modellerinin kendilerinin de birer güvenlik vektörü haline geldiğini gösteriyor. Şirketler, AI ajanlarını devreye alırken sadece işlevselliğe değil, aynı zamanda bu ajanların kötüye kullanımına karşı dayanıklılığa da odaklanmalı.
Kaynak: csoonline.com
