xAI'nin Grok Build adlı kodlama CLI aracı, yalnızca bir kodlama görevi için gerekli dosyaları değil, tüm Git depolarını, eksiksiz commit geçmişiyle birlikte xAI'ye ait bir Google Cloud Storage bucket'ına yüklüyor. Bu durum, bir araştırmacı tarafından ortaya çıkarıldı. Araştırmacı, 0.2.93 sürümünü test ederken yapılan yüklemelerden birini yakaladı, Git bundle'ını klonladı ve aracın açık talimatlarla okumaması söylenen bir dosyayı geri çekti. Bu, kullanıcı verilerinin izinsiz olarak toplandığını gösteriyor.
Yükleme, modelin kendisinden ayrı bir kanal üzerinden gerçekleşiyor ve byte dağılımı oldukça çarpıcı. 12 GB'lık bir depoda, modelin hiç okumadığı dosyalar için model dönüş trafiği yaklaşık 192 KB iken, depolama kanalı 5.10 GiB veri taşıdı. Bu, modelin ihtiyaç duyduğu ile makineden çıkan arasında yaklaşık 27.800 katlık bir fark anlamına geliyor. Yükleme, her biri HTTP 200 döndüren 73 parça halinde gerçekleşti ve toplam depo boyutuyla doğru orantılıydı. Hedef bucket, grok-code-session-traces, binary'de ve metadata.json'da adlandırılmıştı.
Test sırasında, araca okumaması söylenen src/_probe/never_read_canary.txt dosyası, benzersiz bir işaretleyici ile yerleştirildi. Yakalanan bundle'ın klonlanması, bu dosyayı ve tüm commit geçmişini aynen kurtardı. Aynı test, ilgisiz başka bir depoda da tekrarlandı. Bu yakalamalar, iletimin, kabulün ve depolamanın gerçekleştiğini kanıtlıyor, ancak eğitim amaçlı kullanıldığını kanıtlamıyor. xAI'nin kod üzerinde eğitim yaptığı veya personelinin kodu okuduğu iddia edilmiyor.
Grok Build'in bir dosyayı okuması durumunda, dosya içeriği model dönüşüne ve ayrıca depolamaya yönelik bir session_state arşivine gidiyor. Bir .env dosyası, API_KEY ve DB_PASSWORD gibi sırlarla birlikte, hiçbir redaksiyon yapılmadan yüklendi. Testte kullanılan sırlar sahte olduğu için gerçek bir sızıntı olmadı, ancak bu davranış, bir kimlik bilgisi dosyasının redaksiyonsuz olarak dışarı çıkıp depolanması sorununu ortaya koyuyor. Bu, kullanıcıların hassas verilerinin korunmasız olduğunu gösteriyor.
Nasıl Önlem Alınmalı?
Çoğu geliştiricinin kullanacağı 'Modeli İyileştir' ayarı burada işe yaramadı. Bu ayar kapalıyken bile Grok, depoyu yüklemeye devam etti ve sunucunun /v1/settings yanıtı trace_upload_enabled: true döndürdü. Bu geçiş, verilerinizin modeli eğitip eğitmediğini kontrol ediyor, ancak kodunuzun makineden çıkıp çıkmadığını kontrol etmiyor. Kullanıcıya yalnızca bir kontrol sunulmuştu. Her bulut tabanlı kodlama aracı, işini yapmak için kaynak kodun bir kısmını uzak modele göndermek zorundadır, ancak tüm depoyu ve geçmişini göndermek, gerekli dosyaları göndermekten çok daha geniş bir sınırdır.
xAI, 13 Temmuz'da 0.2.93 binary'sinin depolama isteklerini durdurduğunu fark etti. Araştırmacı altı kez test yaptı ve hiçbir /v1/storage yüklemesi görmedi; sunucu artık disable_codebase_upload: true ve trace_upload_enabled: false döndürüyordu. Bu değişiklik, sunucu tarafında yapıldı ve bir güncelleme ile değil, bir geçiş anahtarıyla gerçekleşti. xAI, konuyu bir güvenlik danışmanlığı veya değişiklik günlüğü notu yerine X üzerinden ele aldı. @SpaceXAI hesabı, sıfır veri saklama politikasına sahip kurumsal ekiplerin kod veya iz verilerinin asla saklanmadığını belirtti.
Elon Musk, daha önce yüklenen tüm kullanıcı verilerinin 'tamamen ve mutlak bir şekilde silineceğini' söyledi. Bireysel aboneler için /privacy komutu sunuluyor. Kullanıcıların, Grok'un göndermiş olabileceği tüm kimlik bilgilerini (okuduğu dosyalar, takip edilen dosyalar ve Git geçmişindeki sırlar) döndürmeleri öneriliyor. Git geçmişinde bir sır, daha sonra silinse bile bundle'da taşınmış olabilir. 0.2.99 yapısında yükleme kodunun hala binary'de olduğu, ancak sunucu bayrağı tarafından engellendiği tespit edildi, bu nedenle xAI bir güncelleme olmadan tekrar etkinleştirebilir.
Uzmanların Görüşleri
xAI, tam depoların neden varsayılan olarak yüklendiğini, ne kadar süre saklandığını veya kaç kullanıcının etkilendiğini henüz açıklamadı. Eğitimden vazgeçme seçeneği, kodunuzun yerinde kalacağının garantisi değildir. Kullanıcılar, makineden ne çıktığını kendileri kontrol etmelidir. Bu olay, yapay zeka araçlarının veri gizliliği konusunda daha şeffaf olması gerektiğini bir kez daha gösteriyor.
Kaynak: thehackernews.com
