Elon Musk’ın yapay zeka şirketi xAI, Grok adlı sohbet robotunun reşit olmayan bireylerin ve yetişkinlerin rızası dışında cinselleştirilmiş görüntülerini üretme konusunda artan baskıyla karşı karşıya. Şirket, bu sorunu çözmek yerine, Salı günü bir kullanıcıya dava açarak yeni bir strateji benimsedi. xAI’nin ilk kez bir kullanıcıyı chatbot’unu yasadışı içerik oluşturmakla suçladığı bu dava, teknoloji dünyasında tartışma yarattı.
Dava, Terry Wayne Harwood adlı bir kişiyi hedef alıyor. Güney Carolina savcılığı, Harwood’un bu yılın başlarında çocuk cinsel istismar materyali (CSAM) bulundurma ve dağıtma suçlarından tutuklandığını duyurdu. xAI, tutuklamaya yardımcı olduğunu iddia ederek, Harwood’un iki xAI hesabını aylar boyunca kullanarak birden fazla mağdurun, aralarında 10 yaşında olduğu tahmin edilen bir kız çocuğunun da bulunduğu, cinsel olmayan görüntülerini çıplak hale getirdiğini veya ‘nudify’ ettiğini öne sürdü.
xAI’nin davası, bir başka genç kızın Grok tarafından zarar gördüğü iddiasıyla açılan bir toplu davaya katılmasından bir hafta sonra geldi. Bu davada, kız, üvey babasının Grok’u (ve muhtemelen diğer yapay zeka araçlarını) kullanarak kendisinin 7.000 cinselleştirilmiş görüntüsünü oluşturduğunu ve ardından bunları dark web’de dağıttığını, bu durumun ortaya çıkmasıyla üvey babasının intihar ettiğini iddia etti.
Bu davada mağdur, xAI’nin polise, görüntüsünü Grok’a yükleyen kullanıcıyı belirlemede yardım etmeyi reddettiğini öne sürdü. Mağdurun avukatları, bunun xAI’nin yaygın bir uygulaması olduğunu desteklemek için, Ulusal Kayıp ve İstismar Edilmiş Çocuklar Merkezi’nin (NCMEC) 2026 tarihli bir raporuna atıfta bulundu. Rapora göre, xAI’nin CyberTipline raporlarının yüzde 90’ı, xAI’nin kullanıcı bilgilerini dahil etmeyi reddetmesi nedeniyle kolluk kuvvetleri tarafından işleme alınamıyor.
Mağdurlar, X’i (eski adıyla Twitter) suçluları korumakla suçlarken, Elon Musk daha önce Grok tarafından üretilen hiçbir CSAM örneği görmediğini iddia etmişti. xAI, Grok’un çıktılarını kısıtlayarak CSAM üretimini imkansız hale getirmek yerine, Musk kullanıcıları sorumlu davranmaya çağırdı. 3 Ocak’ta X üzerinden yaptığı paylaşımda, ‘Grok’u yasadışı içerik oluşturmak için kullanan herkes, yasadışı içerik yükleyenlerle aynı sonuçlarla karşılaşacak’ dedi.
xAI’nin bu hamlesi, yapay zeka şirketlerinin içerik denetimi ve yasal sorumluluk konusundaki tartışmaları alevlendirdi. Şirket, Grok’un CSAM üretimini engellemek için teknik önlemler almak yerine, kullanıcıları yasal yollarla takip etmeyi tercih ediyor. Bu durum, sektördeki diğer oyuncuların da benzer stratejiler benimsemesine yol açabilir. Ancak eleştirmenler, bu yaklaşımın sorunun kökünü çözmediğini ve mağdurların korunması için daha sıkı önlemler alınması gerektiğini savunuyor.
Kaynak: arstechnica.com
