ChatGPT kullanıcıları iki yeni güvenlik kontrolü elde etti: Biri hızlı enjeksiyon yoluyla veri hırsızlığını önlemeyi, diğeri ise hesap oturum açma işlemlerini izlemeyi hedefliyor.
OpenAI'ye göre bunlardan ilki olan Kilitleme Modu, ChatGPT'nin web ve harici hizmetlere ne kadar erişebileceğini sınırlayan isteğe bağlı bir ayardır.
İlk olarak kurumsal planlara Şubat ayında sunulan bu plan, Haziran başında kişisel ve self-servis ticari hesaplara ulaşmaya başladı.
Detaylar ve Etkileri
Karşılaştığı risk varsayımsal değildir. Araştırmacılar, tek bir gizli talimatın bağlantılı bir gelen kutusundan nasıl veri çekebileceğini veya bir kullanıcının konuşmalarını nasıl sızdırabileceğini defalarca gösterdi.
Süzme Kanalının Engellenmesi
Sistem Güvenliği
Kilitleme Modu, kötü niyetli istemi yakalamak yerine son adımı hedef alarak bir saldırganın çalınan verileri dışarı göndermek için kullanacağı giden ağ isteklerini bastırır. Enjekte edilen metin yine de modele engelsiz bir şekilde, bir web sayfasında veya dosyada gizlenerek ulaşır.
Anında enjeksiyon terimini popüler hale getiren siber güvenlik uzmanı ve ünlü açık kaynak geliştiricisi Simon Willison, değişikliği memnuniyetle karşıladı. Hafta sonu blogunda "Bu bana gerçekten çok iyi görünüyor" diye yazdı.
Sonuç ve Değerlendirme
Willison uzun süredir, hızlı enjeksiyona karşı en pratik savunmanın, saldırganın veri sızdırma yolunu kesmek olduğunu savunuyor; bu, ayarın, manipüle edilmiş bir modelin geçersiz kılamayacağı deterministik kontrolleri kullanarak yaptığı şey.
Bununla birlikte, özelliğin varlığının aynı zamanda varsayılan ChatGPT'nin belirli bir veri sızdırma girişimini tamamen engelleyemeyeceği anlamına geldiğini de ekledi.
Teknik Analiz
Bu korumanın bir bedeli var: Canlı bağlayıcı erişimi ve yazma eylemleri kapatılıyor, Finans aracı ve alışveriş aracıları gibi özellikler devre dışı bırakılıyor ve Geliştirici Moduyla birlikte çalışamıyor. OpenAI bunu kamuoyuna değil, hassas verileri işleyen kullanıcılara ve kuruluşlara sundu.
ChatGPT veri sızıntısı hakkında daha fazlasını okuyun: ChatGPT Güvenlik Sorunu, Tek İstemle Veri Hırsızlığını Etkinleştirdi
Oturum Açılan Cihazları İnceleme
İkinci kontrol olan Aktif Oturumlar, oturum yönetimini ChatGPT'nin güvenlik ayarlarına getirerek kullanıcıların hesaplarında nerede oturum açıldığını denetlemesine olanak tanır. Her giriş şunları gösterebilir:
Gelecekte Ne Bekleniyor?
Cihaz veya tarayıcı ayrıntıları
Yaklaşık konum ve oturum açma zamanı
ChatGPT veya Codex gibi hangi birinci taraf uygulamasının kullanıldığı
Güvenilir bir cihaz mı, yoksa mevcut oturum mu?
Kullanıcılar tek bir oturumu sonlandırabilir veya her yerden aynı anda çıkış yapabilir, ancak tam tarama 30 dakika kadar sürebilir. Bir şey tanıdık gelmiyorsa OpenAI şifreyi değiştirmenizi, oturum açma yöntemlerini gözden geçirmenizi ve destek ekibiyle iletişime geçmenizi önerir.
Bir boşluk daha büyük kuruluşlar için önemli olacaktır: Bu özellik, SAML ve OpenID Connect dahil olmak üzere tek oturum açma (SSO) kullanan hesaplarda kullanılamaz ve üçüncü taraf uygulama oturumlarını veya Codex CLI oturum açma bilgilerini izlemez.
