OpenAI, ChatGPT kullanıcıları için iki yeni güvenlik kontrolü sunmaya başladı. Bunlardan ilki, prompt injection saldırılarıyla veri hırsızlığını engellemeyi amaçlayan Lockdown Modu; ikincisi ise hesap oturumlarını izlemeye yarayan Aktif Oturumlar özelliği. OpenAI'ye göre Lockdown Modu, ChatGPT'nin web ve harici hizmetlere erişimini sınırlayan isteğe bağlı bir ayar. Şubat ayında ilk olarak kurumsal planlarda sunulan bu özellik, haziran başında kişisel ve kendi kendine hizmet veren iş hesaplarına da ulaştı. Bu özellik, özellikle hassas verilerle çalışan kullanıcılar ve kuruluşlar için tasarlanmış olsa da, genel kullanıcıların da dikkat etmesi gereken bir güvenlik açığını hedef alıyor.
Lockdown Modu'nun hedef aldığı risk, teorik bir senaryo değil. Araştırmacılar, tek bir gizli yönergenin (prompt injection) bağlı bir posta kutusundan veri çekebildiğini veya kullanıcının sohbetlerini sızdırabildiğini defalarca gösterdi. Bu tür saldırılar, kullanıcının farkında olmadan zararlı bir web sayfasını ziyaret etmesi veya bir dosyayı açmasıyla başlayabilir. Prompt injection, yapay zeka modellerine gizlice talimatlar enjekte ederek onları istenmeyen eylemler yapmaya yönlendiren bir teknik. OpenAI'nin yeni özelliği, bu saldırıların son aşamasını hedef alıyor.
Lockdown Modu, kötü niyetli prompt'u yakalamak yerine, veri sızdırma kanalını tıkıyor. Saldırganın çalınan verileri dışarı göndermek için kullanacağı giden ağ isteklerini engelliyor. Enjekte edilen metin modele ulaşsa da, dışarı veri çıkışı engelleniyor. Siber güvenlik uzmanı ve prompt injection terimini popülerleştiren Simon Willison, bu değişikliği memnuniyetle karşıladı. Willison, prompt injection'a karşı en pratik savunmanın, saldırganın veri sızdırma yolunu kesmek olduğunu uzun zamandır savunuyor. Lockdown Modu, manipüle edilmiş bir modelin geçersiz kılamayacağı deterministik kontroller kullanarak bunu yapıyor.
Ancak Willison, bu özelliğin varlığının, varsayılan ChatGPT'nin kararlı bir veri sızdırma girişimini tamamen engelleyemediği anlamına geldiğini de belirtiyor. Lockdown Modu'nun bir bedeli var: canlı bağlantı erişimi ve yazma işlemleri devre dışı kalıyor, Finans aracı ve alışveriş asistanları gibi özellikler çalışmıyor, ayrıca Geliştirici Modu ile birlikte kullanılamıyor. OpenAI, bu özelliği genel kamuoyundan ziyade hassas verilerle çalışan kullanıcılar ve kuruluşlar için sundu. Bu nedenle, günlük kullanıcıların bu modu etkinleştirmeden önce ihtiyaçlarını değerlendirmesi gerekiyor.
Önemli Gelişmeler
İkinci güvenlik kontrolü olan Aktif Oturumlar, ChatGPT'nin güvenlik ayarlarına oturum yönetimi ekliyor. Kullanıcılar, hesaplarının hangi cihazlarda oturum açtığını denetleyebiliyor. Her bir giriş, cihaz veya tarayıcı ayrıntıları, yaklaşık konum ve oturum açma zamanı, hangi birinci taraf uygulamanın kullanıldığı (ChatGPT veya Codex gibi) ve güvenilir cihaz veya mevcut oturum olup olmadığı gibi bilgileri gösteriyor. Kullanıcılar tek bir oturumu sonlandırabilir veya tüm oturumları aynı anda kapatabilir, ancak tam bir temizlik 30 dakika kadar sürebilir. Tanımadıkları bir oturum görürlerse OpenAI, şifre değiştirmeyi, giriş yöntemlerini gözden geçirmeyi ve desteğe başvurmayı öneriyor.
Teknik Analiz
Aktif Oturumlar özelliği, büyük kuruluşlar için bir boşluğa sahip: SAML ve OpenID Connect dahil olmak üzere tek oturum açma (SSO) kullanan hesaplarda kullanılamıyor. Ayrıca üçüncü taraf uygulama oturumlarını veya Codex CLI girişlerini izlemiyor. Bu, özellikle kurumsal kullanıcılar için alternatif güvenlik önlemleri almayı gerektirebilir. OpenAI'nin bu yeni özellikleri, ChatGPT'nin güvenlik açıklarını kapatma yolunda önemli adımlar olsa da, kullanıcıların dikkatli olması ve ek güvenlik önlemleri alması gerektiğini gösteriyor. Özellikle hassas verilerle çalışanlar, Lockdown Modu'nu etkinleştirerek ve oturumlarını düzenli olarak kontrol ederek riski azaltabilir.
Kaynak: infosecurity-magazine.com
