OpenAI, ChatGPT kullanıcıları için iki yeni güvenlik kontrolü sunuyor: Kilitli Mod ve Aktif Oturumlar. Kilitli Mod, prompt injection saldırıları yoluyla veri hırsızlığını önlemeyi hedeflerken, Aktif Oturumlar kullanıcıların hesap girişlerini izlemesine olanak tanıyor. Bu özellikler, özellikle hassas verilerle çalışan kurumlar için önemli bir güvenlik katmanı sağlıyor.
Kilitli Mod, ChatGPT'nin web ve harici hizmetlere erişimini sınırlayan isteğe bağlı bir ayardır. İlk olarak Şubat ayında kurumsal planlara sunulan bu özellik, Haziran başında kişisel ve kendi kendine hizmet veren iş hesaplarına ulaştı. Bu özellik, prompt injection saldırılarının neden olduğu veri sızıntılarını engellemek için tasarlandı.
Prompt injection, bir web sayfası veya dosyaya gizlenmiş kötü niyetli bir talimatın, ChatGPT'nin bağlantılı bir posta kutusundan veri çekmesine veya kullanıcı konuşmalarını sızdırmasına neden olabileceği bir saldırı türüdür. Kilitli Mod, bu saldırıların son adımını hedef alarak, saldırganın çalınan verileri dışarı göndermek için kullanacağı giden ağ isteklerini engeller.
Siber güvenlik uzmanı ve prompt injection terimini popülerleştiren Simon Willison, bu değişikliği memnuniyetle karşıladı. Willison, prompt injection'a karşı en pratik savunmanın, saldırganın veri sızdırma yolunu kesmek olduğunu ve Kilitli Mod'un bunu yapay zeka modelinin manipüle edemeyeceği deterministik kontrollerle gerçekleştirdiğini belirtti. Ancak, bu özelliğin varlığının varsayılan ChatGPT'nin kararlı bir veri sızdırma girişimini tamamen engelleyemediği anlamına geldiğini de ekledi.
Sonuç ve Değerlendirme
Kilitli Mod'un bir bedeli var: canlı bağlayıcı erişimi ve yazma işlemleri kapanıyor, bu da Finans aracı ve alışveriş asistanları gibi özellikleri devre dışı bırakıyor. Ayrıca, Geliştirici Modu ile birlikte çalışamıyor. OpenAI, bu özelliği genel kullanıcılar yerine hassas verilerle çalışan kullanıcılar ve kuruluşlar için tasarladı.
İkinci kontrol olan Aktif Oturumlar, ChatGPT'nin güvenlik ayarlarına oturum yönetimi ekliyor. Kullanıcılar, hesaplarının nerede oturum açtığını denetleyebilir. Her giriş, cihaz veya tarayıcı bilgileri, yaklaşık konum ve oturum açma zamanı, hangi birinci taraf uygulamanın kullanıldığı ve güvenilir bir cihaz olup olmadığı gibi detayları gösteriyor.
Kullanıcılar, tek bir oturumu sonlandırabilir veya tüm oturumları aynı anda kapatabilir, ancak tam bir temizlik 30 dakika kadar sürebilir. Tanıdık gelmeyen bir oturum görülmesi durumunda OpenAI, şifrenin değiştirilmesini, oturum açma yöntemlerinin gözden geçirilmesini ve destek ekibiyle iletişime geçilmesini öneriyor.
Teknik Analiz
Aktif Oturumlar, SAML ve OpenID Connect dahil olmak üzere tek oturum açma (SSO) kullanan hesaplarda kullanılamıyor. Ayrıca, üçüncü taraf uygulama oturumlarını veya Codex CLI girişlerini izlemiyor. Bu eksiklik, büyük kuruluşlar için önemli bir boşluk oluşturabilir.
Kaynak: infosecurity-magazine.com
