OpenAI, ChatGPT platformunda şiddet tehditleri veya çevrimiçi şiddet eylemleri nedeniyle hesabı kapatılan genç kullanıcıların ebeveynlerine artık bildirim gönderecek. Şirket, geçtiğimiz yıl ebeveyn kontrollerini başlatmış ve ebeveynlerin kendi hesaplarını genç çocuklarının hesaplarıyla bağlamasına izin vermişti. Bu kontroller, ChatGPT'nin kullanılamayacağı saatleri ayarlama, hassas içeriği azaltma ve çocuğun kendine zarar verme düşüncelerini tespit etme gibi özellikler sunuyordu. Şimdi ise bildirimler, çocuğun başkalarına zarar verme potansiyelini de kapsayacak şekilde genişletildi.
OpenAI'nin yayınladığı örnekte, ebeveynlere çocuklarının hesabıyla ilgili 'önemli bir güncelleme' uyarısı gönderiliyor. Ebeveynler, 'Daha Fazla Bilgi' seçeneğine tıklayarak çocuklarının hesabının Şiddet İçeren Eylemlerle ilgili kullanım politikalarını ihlal ettiği için devre dışı bırakıldığını görebiliyor. Bu bildirim, ailelerin duruma erken müdahale etmesi ve gerekli yardımı alması için kritik bir adım olarak değerlendiriliyor.
OpenAI, bu özelliği geliştirirken çevrimiçi şiddeti izleme ve önleme konusunda uzmanlaşmış Moonshot firmasıyla işbirliği yaptı. Moonshot'un kurucusu Vidhya Ramalingam, 'Ciddi bir endişe ortaya çıktığında ebeveyni bilgilendirmek ve daha fazla bağlam sağlamak, ailelere erken müdahale ve yardım arama şansı vermek için kritik bir ilk adımdır' dedi. Ramalingam, gençlerin ChatGPT'yi daha güvenli kullanması için bu tür erişimin birçok önlemden sadece biri olduğunu vurguladı.
Gelecekte Ne Bekleniyor?
Bu adım, 2025 yılında British Columbia'daki Tumbler Ridge toplu saldırısı şüphelisinin ChatGPT kullandığının ortaya çıkmasının ardından geldi. Kanada makamları, OpenAI'nin şüphelinin hesabını yasaklamasına rağmen yetkililere bildirimde bulunmadığı için şirketi sorgulamıştı. OpenAI CEO'su Sam Altman, bu gözden kaçırma için özür dilemişti. Yeni bildirim sistemi, bu tür olayların tekrarlanmasını önlemeyi amaçlıyor.
Nasıl Önlem Alınmalı?
OpenAI ayrıca, ebeveyn kontrollerinden doğrudan etkinleştirilebilen Çalışma Modu'nu da tanıttı. Bu mod, ChatGPT'nin soruları yanıtlamadan önce ipuçları vermesini sağlayarak öğrencilerin öğrenmesine ve çalışmasına yardımcı oluyor. Ayrıca, ChatGPT uzun süre kullanan genç kullanıcılara daha sık ara verme hatırlatmaları göstererek daha sağlıklı teknoloji alışkanlıkları geliştirmelerine katkıda bulunuyor.
OpenAI'nin bu yeni özellikleri, genç kullanıcıların güvenliğini artırmaya yönelik önemli adımlar olarak öne çıkıyor. Ebeveyn bildirimleri, ailelerin çocuklarının çevrimiçi davranışlarını daha yakından takip etmelerine ve potansiyel risklere karşı önlem almalarına olanak tanıyor. Çalışma Modu ise eğitim amaçlı kullanımı teşvik ederken, ara verme hatırlatmaları teknoloji bağımlılığını önlemeye yardımcı oluyor.
Kaynak: engadget.com
