Meta, genç kullanıcılarını korumak için yeni bir adım atarak, ebeveynlere çocuklarının Meta AI araçlarıyla yaptığı konuşmalarda kendine zarar verme veya intihar düşünceleri tespit edildiğinde bildirim gönderecek bir özellik duyurdu. Bu adım, şirketin platformlarının gençler için güvenli olduğunu gösterme çabalarının bir parçası olarak görülüyor. Meta, daha önce ebeveynlere gençlerin AI konuşmalarının konularını gösteren bir özellik sunmuştu.
Yeni özellik, genç bir kullanıcının Meta AI ile intihar veya kendine zarar verme hakkında konuşması durumunda devreye giriyor. Meta AI, bu tür konuşmalarda kullanıcıyı kriz yardım hatlarına yönlendiriyor ve bir yetişkinden yardım almasını teşvik ediyor. Şimdi ise şirket, ebeveynlere veya vasilere proaktif bir şekilde bildirim göndererek çocuklarının risk altında olduğunu haber verecek. Bildirimle birlikte ebeveynlere nasıl yardımcı olabileceklerine dair kaynaklar ve tavsiyeler de sunulacak.
Meta, bu konuşmaları tespit etmek için özel bir AI sistemi geliştirdiğini belirtiyor. Ancak şirket, yanlış alarmlara neden olmamak için AI tarafından işaretlenen tüm sohbetleri manuel olarak inceleyecek. Yine de insan incelemecinin kullanıcının niyetini net olarak belirleyemediği durumlarda, ihtiyatlı davranarak bildirim gönderilecek. Bu özellik şu anda Instagram ebeveyn denetimlerini kullanan ABD, İngiltere, Avustralya ve Kanada'daki ebeveynler için aktif. Yıl sonuna kadar dünya genelinde tüm ebeveyn denetimi kullanıcılarına sunulması planlanıyor.
Meta ayrıca, bir kullanıcının Meta AI ile yaptığı konuşmanın yakın bir intihar riski taşıdığını gösterdiği durumlarda acil servislerle iletişime geçme yeteneği üzerinde çalışıyor. Bu özellik hem reşit olmayanlar hem de yetişkinler için geçerli olacak. OpenAI de Mayıs ayında benzer bir özellik olan ChatGPT için Güvenilir Kişi özelliğini duyurmuştu. Bu özellik, kullanıcıların kendilerine zarar verme riski altında olduklarında şirketin iletişime geçebileceği bir arkadaş belirlemelerine olanak tanıyor.
Uzmanların Görüşleri
Son olarak, Meta'nın Sınırlı İçerik ayarı artık Meta AI etkileşimleri için de geçerli. Ebeveynler Instagram'da Sınırlı İçerik'i etkinleştirdiğinde, olgun görseller ve kendine zarar verme gibi hassas konuları içeren içerikler filtreleniyor. Bu ayarın açık olması durumunda, çocukların AI etkileşimleri de daha kısıtlı hale gelecek.
Önemli Gelişmeler
Meta'nın bu adımı, sosyal medya platformlarının genç kullanıcıların güvenliğini sağlama konusunda artan baskıyla karşı karşıya olduğu bir dönemde geliyor. Özellikle ABD'de, sosyal medyanın gençlerin ruh sağlığı üzerindeki etkilerine ilişkin endişeler, yasal düzenlemeleri gündeme getirmişti. Meta'nın bu özelliği, ebeveynlere daha fazla kontrol ve farkındalık sağlayarak olası riskleri azaltmayı hedefliyor. Ayrıca, şirketin bu tür önlemlerle düzenleyicilere platformlarının güvenli olduğunu kanıtlama çabası olarak da yorumlanabilir.
Kaynak: engadget.com
