Elon Musk'ın yapay zeka şirketi xAI, artık Grok adlı sohbet robotunun çocuk istismarı materyali (CSAM) üretemediğini iddia edemiyor. Bunun yerine, kullanıcılarına dava açma yoluna gitti. Şirket, Salı günü yaptığı açıklamayla, Grok'u yasa dışı içerik üretmek için kullandığı iddia edilen ilk kullanıcıya karşı yasal işlem başlattı. Dava, Güney Carolina'da yaşayan ve geçtiğimiz aylarda çocuk istismarı materyali bulundurma ve dağıtma suçlamalarıyla tutuklanan Terry Wayne Harwood'u hedef alıyor.
xAI'nin iddiasına göre şirket, Harwood'un tutuklanmasına yardımcı oldu. Harwood, iki xAI hesabı kullanarak aylar boyunca çok sayıda mağdurun cinsel içerikli olmayan fotoğraflarını 'çıplaklaştırmak' veya 'nudify' etmek için Grok'u kullanmış. Mağdurlar arasında 10 yaşında olduğu tahmin edilen bir kız çocuğu da bulunuyor. Bu dava, xAI'nin daha önce Grok'un CSAM üretemeyeceği yönündeki açıklamalarını tamamen çürütüyor.
xAI'nin bu davası, başka bir genç kızın xAI'ye karşı açtığı toplu davanın ardından geldi. O davada, genç kızın üvey babasının Grok ve diğer yapay zeka araçlarını kullanarak kendisinin 7.000 adet cinsel içerikli görselini oluşturduğu ve bunları dark web'de dağıttığı iddia ediliyor. Üvey baba, bu durumun ortaya çıkmasının ardından intihar etmiş. Davacı, xAI'nin polise kullanıcıyı tespit etmesi için yardım etmediğini öne sürüyor.
Bu iddiaları desteklemek için davacının avukatları, 2026 yılına ait bir Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi (NCMEC) raporuna atıfta bulundu. Rapora göre, xAI'nin Siber Uçurum hattına yaptığı bildirimlerin yüzde 90'ı 'kanun uygulayıcılar tarafından işleme alınamaz durumda' çünkü xAI, kullanıcı bilgilerini paylaşmayı reddediyor. Bu, suçluların takip edilmesini ve yakalanmasını engelliyor.
Detaylar ve Etkileri
Mağdurlar xAI'yi suçluları korumakla suçlarken, Elon Musk daha önce Grok tarafından üretilmiş herhangi bir CSAM örneği görmediğini iddia ediyordu. Grok'un çıktılarını kısıtlamak ve CSAM üretimini imkansız hale getirmek yerine, Musk kullanıcıları sorumlu davranmaya çağırdı. 3 Ocak'ta X'te yaptığı paylaşımda, 'Grok'u yasa dışı içerik üretmek için kullanan herkes, yasa dışı içerik yükleyenlerle aynı sonuçlarla karşılaşacak' dedi.
Bu gelişmeler, yapay zeka şirketlerinin içerik denetimi ve yasal sorumlulukları konusunda önemli soruları gündeme getiriyor. xAI'nin Grok'u CSAM üretimini engelleyecek şekilde tasarlamaması ve kullanıcı bilgilerini paylaşmaması, şirketin etik ve yasal yükümlülüklerini yerine getirip getirmediği konusunda tartışmalara yol açıyor. Kullanıcıları dava etmek, şirketin sorumluluğunu ortadan kaldırmıyor; aksine, ürünün kötüye kullanımının önlenmesi için daha proaktif adımlar atması gerektiğini gösteriyor.
Kaynak: arstechnica.com
