Yapay zeka destekli kod asistanları, geliştiricilerin iş akışını hızlandırmak için tasarlanmış olsa da, güvenlik söz konusu olduğunda önemli riskler barındırabiliyor. Son yapılan bir araştırma, xAI'nin Grok Build adlı CLI aracının, kodlama görevleri için gerekli olan dosyaların ötesine geçerek tüm Git depolarını, eksiksiz commit geçmişiyle birlikte xAI'nin Google Cloud Storage bucket'ına yüklediğini ortaya çıkardı. Bu durum, geliştiricilerin en mahrem verilerinin bile farkında olmadan üçüncü bir tarafa aktarılabileceği anlamına geliyor.
Araştırmacı 'cereblab' takma adıyla yayınladığı raporda, Grok Build'in 0.2.93 sürümünü test ederken bu sıra dışı davranışı tespit etti. Yapılan incelemede, aracın modelle iletişim kurduğu kanaldan ayrı olarak, bir depolama kanalı üzerinden tüm depoyu yüklediği görüldü. 12 GB boyutundaki bir depo için model iletişimi yalnızca 192 KB iken, depolama kanalı 5.10 GiB veri taşıdı. Bu, modelin ihtiyaç duyduğu veri ile makineden çıkan veri arasında yaklaşık 27.800 katlık bir fark anlamına geliyor. Yükleme, 73 parça halinde ve her biri yaklaşık 75 MB olacak şekilde gerçekleşti ve tümü HTTP 200 koduyla başarılı oldu.
Daha da endişe verici olanı, araştırmacının depoya 'asla okunmaması' talimatı verdiği bir dosya (src/_probe/never_read_canary.txt) yerleştirmesine rağmen, bu dosyanın da yüklenen paket içinde eksiksiz olarak bulunması oldu. Bu, Grok Build'in yalnızca okuduğu dosyaları değil, depodaki tüm dosyaları ve commit geçmişini kopyaladığını kanıtlıyor. Aynı test ikinci bir depoda tekrarlandığında da aynı sonuç alındı. Bu, sadece bir izole vaka değil, sistematik bir durum.
Güvenlik açığı bununla da sınırlı değil. Araştırmacı, Grok Build'in okuduğu bir .env dosyasındaki API anahtarlarını ve veritabanı şifrelerini hiçbir şekilde maskelemeden hem model kanalına hem de depolama kanalına gönderdiğini tespit etti. Neyse ki testte kullanılan anahtarlar sahteydi, ancak bu davranış, gerçek bir senaryoda hassas bilgilerin sızmasına yol açabilir. Ayrıca, çoğu geliştiricinin kullanacağı 'Modeli iyileştir' seçeneğinin kapalı olması da bu yüklemeyi engellemiyor. Bu ayar yalnızca verilerinizin model eğitiminde kullanılıp kullanılmayacağını kontrol ediyor, makinenizden veri çıkışını durdurmuyor.
Peki, diğer yapay zeka kod asistanları da aynı sorunu yaşıyor mu? Araştırmacının karşılaştırmasına göre, Claude Code ve Codex herhangi bir depo paketi göndermezken, Gemini de boş bir testte hiçbir şey göndermedi. Grok Build bu açıdan diğerlerinden ayrışıyor. Tabii ki tüm bulut tabanlı araçlar, okudukları dosyaları bir yere gönderiyor, bu nedenle 'yerel' çalıştıklarını düşünmek doğru değil. Ancak tüm çalışma alanını toplu olarak yüklemek, Grok Build'e özgü bir durum.
Önemli Gelişmeler
xAI'nin tepkisi ne oldu? 13 Temmuz'da aynı 0.2.93 sürümü, depolama isteklerini durdurdu. Araştırmacı altı kez test yaptı ve hiçbir /v1/storage yüklemesi görmedi. Sunucu artık 'disable_codebase_upload: true' ve 'trace_upload_enabled: false' döndürüyor. Bu değişiklik, bir güncelleme olmadan sunucu tarafında yapıldı. xAI, konuyu bir güvenlik danışmanlığı veya değişiklik günlüğü yerine X üzerinden ele aldı. @SpaceXAI hesabı, sıfır veri saklama (ZDR) politikası olan kurumsal ekipler için kod veya iz verilerinin saklanmadığını, API anahtarı kullanımının ZDR'ye saygı duyduğunu ve tüketicilerin CLI'da /privacy komutunu çalıştırarak saklamayı devre dışı bırakabileceğini ve önceden senkronize edilmiş verileri silebileceğini belirtti. Elon Musk daha da ileri giderek, daha önce yüklenen tüm kullanıcı verilerinin 'tamamen ve tamamen silineceğini' söyledi.
Ancak bu açıklamalar, güvenlik endişelerini tam olarak gidermiyor. Araç daha önce kullanılmışsa, Grok'un göndermiş olabileceği herhangi bir kimlik bilgisinin (okuduğu, izlenen bir dosyada bulunan veya paketin taşıdığı git geçmişindeki) döndürülmesi gerekiyor. Geçmişte bir sır commitlenip sonra silinmiş olsa bile, bu sır hala geçmişte duruyor ve yüklenmiş olabilir. Ayrıca, 0.2.99 sürümünün analizinde, yükleme kodunun hala ikili dosyada bulunduğu, ancak sunucu bayrağı tarafından devre dışı bırakıldığı görüldü. Bu, xAI'nin bir güncelleme olmadan bu özelliği tekrar etkinleştirebileceği anlamına geliyor.
Detaylar ve Etkileri
xAI hala neden tüm depoların varsayılan olarak yüklendiğini, ne kadar süre saklandığını ve kaç kullanıcının etkilendiğini açıklamadı. Eğitim amaçlı devre dışı bırakma, kodunuzun yerinde kalacağı anlamına gelmiyor. Bu olay, bulut tabanlı yapay zeka araçlarının güvenlik modellerini sorgulamamıza neden oluyor. Geliştiriciler, kullandıkları araçların tam olarak ne gönderdiğini kontrol etmeli ve hassas verilerini korumak için ek önlemler almalıdır. Grok Build kullanıcıları için en önemli adım, tüm kimlik bilgilerini döndürmek ve /privacy komutunu kullanarak veri saklamayı devre dışı bırakmaktır.
Kaynak: thehackernews.com
