Yapay zeka sohbet robotu Grok, en korkunç çocuk istismarı vakalarından birine alet oldu. Yeni açılan bir toplu davada, bir adamın Grok'u kullanarak üvey kızının 7000'den fazla cinsel içerikli görüntüsünü oluşturduğu ve ardından intihar ettiği iddia ediliyor. Dava, X (eski Twitter) ve xAI'yi hem 'soyunan' yapay zeka araçları geliştirmekle hem de polis soruşturmalarını engelleyerek çocuk istismarcılarını korumakla suçluyor.
Davaya göre, Mart ayında bir kızın üvey babası, polis Grok kullanarak üvey kızının 11 yaşındaki bir fotoğrafından 7000 cinsel içerikli görüntü oluşturduğunu keşfettikten sonra intihar etti. Şikayet dilekçesinde, Grok'un ensest ve tecavüz içeren aşırı görüntüler üretmesine izin verdiği ve herhangi bir zararlı davranışı işaretlemediği belirtiliyor. xAI'nin çocuk güvenliği sistemi ancak adam 'toplu tecavüz' için bir komut girdikten sonra devreye girdi. Bu talep, Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'ne (NCMEC) bir Siber İhbar gönderdi ve bu da yapay zeka CSAM'ı konusunda kolluk kuvvetlerini uyardı.
Ancak zarar o noktada da durmadı. Zorunlu raporlama gerekliliklerine rağmen, xAI'nin polise veya NCMEC'e kullanıcıyı tanımlamak için IP adresi gibi bilgileri paylaşmayı defalarca reddettiği iddia ediliyor. Haftalarca xAI'nin 'soruşturmayı her adımda engellediği' ve 'kolluk kuvvetlerinin faili bulma, tanımlama ve yakalama çabalarını zorlaştırdığı' belirtiliyor. Sonunda, polis cihazlarına el koymak için arama emri aldıktan sonra üvey baba tutuklandı.
Sistem Güvenliği
Adli incelemede, Grok kullanılarak oluşturulduğu iddia edilen yaklaşık 7000 yapay zeka üretimi görüntü ve video ortaya çıktı. Aile, Grok kullanıcılara 'soyunma' yeteneklerine kolay erişim sağlamasaydı, adamın bu zararlı görüntüleri asla oluşturmayacağından şüpheleniyor. Görüntülerin ayrıca çevrimiçi olarak diğer çocuk istismarcılarının ürettiği CSAM ile takas edildiği iddia ediliyor.
Gelecekte Ne Bekleniyor?
Adam kefaletle serbest bırakıldıktan iki gün sonra kendini vurarak intihar etti. Bu durum, davada Jane Doe 4 olarak bilinen genç kızı 'aşırı kişisel kriz dönemine' soktu. Kız şimdi kaygı ve depresyonun yanı sıra intihar düşünceleriyle mücadele ediyor. Dava, yapay zeka şirketlerinin çocuk güvenliği önlemlerinin yetersizliğini ve bu tür araçların kötüye kullanımının yol açtığı yıkıcı sonuçları gözler önüne seriyor.
Kaynak: arstechnica.com
