Meta, gençlerin Meta AI ile intihar veya kendine zarar verme hakkında yaptığı konuşmaları ebeveynlere bildirecek yeni bir özellik duyurdu. Şirket, Perşembe günü yayınladığı blog yazısında, bu politikanın mevcut genç koruma önlemlerini genişlettiğini belirtti. Sadece Instagram denetim kontrollerini kullanan ebeveynler bildirim alacak; ancak ilerleyen dönemde diğer Meta uygulamalarındaki ebeveyn kontrolleri için de uyarılar eklenecek.
Meta, ebeveynler ve uzmanlarla işbirliği yaparak hangi AI konuşmalarının uyarı gerektirdiğini belirlediğini açıkladı. 'Bir gencin kendine zarar vermeye yönelik net bir atıfta bulunduğu, hatta bu atıf ince olsa bile' konuşmalar tetikleyici olarak kabul ediliyor. ABD, Birleşik Krallık, Kanada ve Avustralya'daki ebeveynler ilk etapta bildirim alacak; özellik yıl sonuna kadar küresel olarak kullanıma sunulacak.
Meta AI, zaten kriz yardım hatlarına yönlendirme yapıyor ve gençleri güvendikleri bir yetişkinden yardım almaya teşvik ediyor. Şimdi ise ebeveynler bu konuşmalar hakkında doğrudan uyarılacak. Meta, yapay zekanın endişe verici sohbetleri işaretlemesinin ardından, uyarı göndermeden önce içeriklerin manuel olarak inceleneceğini belirtti. Ebeveynler, uygulama bildirimi, e-posta, SMS veya WhatsApp mesajı yoluyla bilgilendirilecek.
Sonuç ve Değerlendirme
Ancak çocuk savunuculuğu kuruluşu Fairplay'in avukatı Brendan Bouffard, bu adımı doğru yönde atılmış bir adım olarak nitelendirirken, şüpheyle karşılanması gerektiğini söyledi. Bouffard, Fairplay'in 2025 araştırmasının Meta'nın Teen Accounts özelliğinde etkisiz veya var olmayan güvenlik araçları bulduğunu belirtti. Meta ise raporun güvenlik araçlarını yanlış yansıttığını savundu.
Nasıl Önlem Alınmalı?
Nationwide Children's Hospital'dan Dr. John Ackerman, ebeveyn izleme araçlarının erken uyarı sağlayarak destekleyici konuşmalar başlatmaya yardımcı olabileceğini söyledi. Ancak ebeveynlerin güvenlik ayarlarını kullanma konusunda net rehberliğe ihtiyaç duyduğunu ve platformların krize katkıda bulunan sosyal karşılaştırma, siber zorbalık gibi faktörleri de ele alması gerektiğini ekledi.
Meta ayrıca Meta AI için sınırlı içerik ayarı eklediğini duyurdu. Bu ayar, Meta'nın en katı filtrelerini etkinleştiriyor ve AI modellerinin sorunlu sorguları daha agresif bir şekilde tanımlamasını sağlıyor. Meta, bu yaklaşımın 'potansiyel olarak uygunsuz konuşma olasılığını daha da azalttığını' belirtti. Çocuk güvenliği savunucuları ise Meta'nın ebeveyn kontrol güncellemelerini yetersiz buluyor ve şirketin güvenli bir ürün oluşturmak yerine bakıcılara izleme yükü bindirdiğini eleştiriyor.
Kaynak: mashable.com
