Meta, gençlerin Meta AI ile yaptığı intihar veya kendine zarar verme konuşmalarını ebeveynlere bildirecek yeni bir özellik duyurdu. Şirketin blog yazısına göre, bu bildirimler yalnızca Instagram denetim kontrollerini kullanan ebeveynlere ulaşacak. Gelecekte diğer Meta uygulamalarındaki ebeveyn kontrollerine de entegre edilmesi planlanıyor. Meta, konuyla ilgili olarak "ebeveynler ve uzmanlarla hangi yapay zeka konuşmalarının uyarı gerektirdiğini belirledik" açıklamasını yaptı.
Yeni özellik, ABD, Birleşik Krallık, Kanada ve Avustralya'daki ebeveynler için aktif olacak. 2025 yılı sonuna kadar küresel erişime açılması hedefleniyor. Meta, kriz anlarında gençlere yardım hatlarını yönlendiren ve güvendikleri bir yetişkine başvurmalarını öneren mevcut sistemini genişletiyor. Şimdi ise ebeveynler, bu tür konuşmalar hakkında doğrudan bilgilendirilecek.
Meta, endişe verici sohbetleri yapay zeka ile tespit ediyor ancak bildirim göndermeden önce manuel olarak inceliyor. Ebeveynler, uygulama bildirimi ve e-posta, SMS veya WhatsApp mesajı yoluyla uyarı alacak. Ayrıca, uzmanlar tarafından geliştirilmiş, çocuklarıyla intihar ve kendine zarar verme konusunu nasıl konuşacaklarına dair öneriler de sunulacak.
Ancak çocuk savunuculuğu kuruluşu Fairplay'den Brendan Bouffard, bu adımı olumlu bulmakla birlikte temkinli yaklaşılması gerektiğini belirtti. Fairplay'in 2025 araştırması, Meta'nın Teen Accounts güvenlik araçlarının etkisiz veya var olmadığını ortaya koymuştu. Meta ise bu raporun güvenlik araçlarını yanlış yansıttığını savunuyor.
Nasıl Önlem Alınmalı?
Çocuk hastanesi Nationwide Children's Hospital'dan Dr. John Ackerman, ebeveyn izleme araçlarının erken uyarı sağlayabileceğini ancak bildirimlerin erişilebilir ve anlaşılır olması gerektiğini vurguladı. Ayrıca, platformların sosyal karşılaştırma, siber zorbalık ve aşırı kullanım gibi krize katkıda bulunan faktörleri de ele alması gerektiğini ekledi.
Sonuç ve Değerlendirme
Meta ayrıca Meta AI için sınırlı içerik ayarını duyurdu. Bu ayar, en katı filtreleri etkinleştirerek gençlerle cinsel veya romantik konuşmaları, alkol tarifleri gibi uygunsuz içerikleri engelliyor. Şirket, bu özelliğin potansiyel olarak uygunsuz konuşma olasılığını daha da azalttığını belirtiyor. Ancak çocuk güvenliği savunucuları, Meta'nın ebeveyn kontrolü güncellemelerini yetersiz buluyor ve şirketin güvenli bir ürün oluşturmak yerine bakım yükünü ebeveynlere yüklediğini eleştiriyor.
Kaynak: mashable.com
