Meta, gençlerin Meta AI ile intihar veya kendine zarar verme hakkında konuşmalarını tespit eden ve ebeveynlere bildirim gönderen yeni bir özellik duyurdu. Perşembe günü yayınlanan blog yazısına göre, bu politika, Meta AI'nın gençler tarafından nasıl kullanıldığına dair ebeveynleri bilgilendirmeyi amaçlayan mevcut önlemleri genişletiyor. Yalnızca Instagram denetim kontrollerini kullanan ebeveynler bildirim alacak; ancak ilerleyen dönemde diğer Meta uygulamaları için ebeveyn kontrollerini kullanan bakıcılar da uyarılara erişebilecek.
Meta, ebeveynler ve uzmanlarla hangi yapay zeka konuşmalarının uyarı gerektirdiğini belirlemek için çalıştıklarını belirtti. Örneğin, bir gencin kendine zarar vermeye yönelik net bir atıfta bulunması, bu atıf ince bile olsa, uyarı tetiklenecek. ABD, Birleşik Krallık, Kanada ve Avustralya'daki ebeveynler ilk etapta bildirim alacak; özellik yıl sonuna kadar küresel olarak kullanıma sunulacak.
Meta AI, halihazırda kriz yardım hatlarına yönlendirme yapıyor ve intihar veya kendine zarar vermeyi düşünen gençleri güvendikleri bir yetişkinden yardım almaya teşvik ediyor. Şimdi ise ebeveynler bu tür konuşmalar hakkında uyarı alacak. Meta, endişe verici sohbetlerin yapay zeka tarafından işaretlenmesine rağmen, bildirim göndermeden önce manuel olarak incelendiğini belirtti. Ebeveynler ayrıca, kendine zarar verme ve intiharı çocuklarıyla nasıl tartışacaklarına dair uzmanlar tarafından geliştirilmiş öneriler alacak.
Önemli Gelişmeler
Ancak çocuk savunuculuğu kuruluşu Fairplay'den Brendan Bouffard, bu adımı doğru yönde bir hamle olarak nitelendirse de şüpheyle karşılanması gerektiğini söyledi. Bouffard, Fairplay'in 2025 araştırmasının Meta'nın Genç Hesapları'nda etkisiz veya var olmayan güvenlik araçları bulduğunu belirtti. Meta ise raporun güvenlik araçlarının nasıl çalıştığını yanlış yansıttığını savundu. Şubat ayında Meta, Instagram için benzer bir intihar ve kendine zarar verme bildirim özelliği başlatmıştı.
Nationwide Çocuk Hastanesi'nden Dr. John Ackerman, bu tür bir özelliğin aileler için yararlı olabileceğini ancak bildirimlerin erişilemez, kullanımı zor veya 'eyleme dönüşmeyen sözler' olarak kalması durumunda etkisiz olabileceğini vurguladı. Ackerman, ebeveyn izleme araçlarının endişeleri erken tespit etmeye, destekleyici konuşmalar başlatmaya ve intihar belirtileri görüldüğünde çocuğu yardıma yönlendirmeye yardımcı olabileceğini söyledi. Ayrıca platformların, sosyal karşılaştırma, siber zorbalık, uyku bozukluğu ve aşırı kullanım gibi krize katkıda bulunan faktörleri ele alması gerektiğini ekledi.
Sistem Güvenliği
Meta ayrıca Perşembe günü Meta AI için sınırlı içerik ayarını duyurdu. Bu ayar, Instagram'da geçen yıl kullanıma sunulmuştu ve Meta'nın en katı filtrelerini etkinleştiriyor. Meta AI, gençlerle cinsel veya romantik konuşmalar yapmamak veya alkollü içecek tarifleri vermemek üzere eğitilmiş durumda. Sınırlı içerik ayarı açıldığında, modeller sorunlu sorguları belirlemede daha agresif hale geliyor ve daha geniş bir sorgu yelpazesine yanıt vermeyi reddediyor. Meta, bu yaklaşımın 'potansiyel olarak uygunsuz konuşma olasılığını' daha da azalttığını belirtti.
Çocuk güvenliği savunucuları, Meta'nın son ebeveyn denetimi güncellemelerini yetersiz buluyor. Nisan ayında Meta, ebeveynlere çocuklarının Meta AI ile konuşmaları hakkında sınırlı bilgi vermişti. Fairplay yöneticisi Josh Golin, bu özelliğin güvenli bir ürün oluşturmak yerine bakıcılara çocuklarının çevrimiçi etkinliklerini izleme yükü getirdiğini söyledi. Meta, çocuk güvenliği konusunda yasal incelemelerle karşı karşıya; bu yıl iki ayrı davayı kaybetti ve yüzlerce dava henüz görülmedi. Şirket her iki karara da itiraz edeceğini açıkladı.
Kaynak: mashable.com
