Meta, genç kullanıcıların yapay zeka sohbet robotu Meta AI ile intihar veya kendine zarar verme hakkında yaptığı konuşmaları ebeveynlere bildirme kararı aldı. Şirket, Perşembe günü yayınladığı blog yazısında, bu yeni politikanın mevcut genç koruma önlemlerini genişlettiğini duyurdu. Bildirimler, yalnızca Instagram ebeveyn denetimlerini kullanan ebeveynlere iletilecek; ancak ilerleyen dönemde diğer Meta uygulamalarındaki ebeveyn kontrollerine de entegre edilmesi planlanıyor.
Meta, ebeveynler ve uzmanlarla iş birliği yaparak hangi yapay zeka konuşmalarının uyarı gerektirdiğini belirlediklerini açıkladı. Şirkete göre, bir gencin kendine zarar verme konusunda net bir referans yapması, üstü kapalı da olsa, uyarıya yol açacak. Meta AI, halihazırda kriz yardım hatlarını yönlendiriyor ve gençleri güvendikleri bir yetişkinden yardım istemeye teşvik ediyor; şimdi ise ebeveynler bu konuşmalardan haberdar olacak.
Bildirim süreci şöyle işliyor: Endişe verici sohbetler yapay zeka tarafından işaretleniyor, ardından Meta çalışanları tarafından manuel olarak inceleniyor. Ebeveynlere, uygulama bildirimi, e-posta, SMS veya WhatsApp mesajıyla uyarı gönderiliyor. Ayrıca, ebeveynlere çocuklarıyla kendine zarar verme ve intihar konusunda nasıl konuşacaklarına dair uzman geliştirmesi öneriler de sunuluyor.
Uzmanların Görüşleri
Meta, bu özelliğin ABD, İngiltere, Kanada ve Avustralya'da kullanıma sunulduğunu, yıl sonuna kadar küresel çapta erişilebilir olacağını belirtti. Ancak çocuk güvenliği savunucuları, Meta'nın ebeveyn denetimlerini yetersiz buluyor. Fairplay adlı çocuk savunuculuğu kuruluşunun avukatı Brendan Bouffard, 'Meta'nın bu adımı doğru yönde bir adım, ancak şüpheyle karşılanmalı' dedi ve Meta'nın 2025 araştırmasının güvenlik araçlarının etkisiz olduğunu ortaya koyduğunu iddia etti.
Teknik Analiz
Meta ayrıca, Meta AI için sınırlı içerik ayarı eklediğini duyurdu. Bu ayar, Meta'nın en katı filtrelerini etkinleştiriyor. Örneğin, Meta AI gençlerle cinsel veya romantik konuşmalar yapmamak ve alkol tarifi vermemek üzere eğitildi. Sınırlı içerik ayarı açıldığında, modeller sorunlu sorguları belirlemede daha agresif hale geliyor ve daha geniş bir sorgu yelpazesine yanıt vermeyi reddediyor. Meta, bu yaklaşımın 'potansiyel olarak uygunsuz konuşma olasılığını daha da azalttığını' söylüyor.
Sistem Güvenliği
Child safety advocates, Meta'nın ebeveyn denetimlerini 'yetersiz' olarak nitelendiriyor. Nisan ayında Meta, ebeveynlere çocuklarının Meta AI ile konuşmaları hakkında sınırlı bilgi vermeye başlamıştı. Fairplay yöneticisi Josh Golin, bu özelliğin 'güvenli bir ürün oluşturmak yerine bakıcılara izleme yükü yüklediğini' söyledi. Meta, çocuk güvenliği konusunda yasal incelemelerle karşı karşıya; bu yıl iki ayrı dava kaybetti ve temyiz süreci devam ediyor.
Kaynak: mashable.com
