xAI (SpaceXAI), Güney Carolina’da yaşayan 67 yaşındaki Terry Wayne Harwood’a karşı dava açtı. Şirket, Harwood’un yapay zeka aracı Grok’u kullanarak gerçek kişilerin rızası olmadan cinsel içerikli görseller oluşturduğunu iddia ediyor. Texas’ta açılan davada, xAI, sanığın 8 Aralık 2025 ile 18 Şubat 2026 tarihleri arasında iki xAI hesabına çok sayıda yetişkin ve çocuğun cinsel olmayan fotoğraflarını yüklediğini belirtti. Ardından Grok’tan bu fotoğrafları değiştirmesini veya kişileri pornografik bir şekilde gösteren yeni görseller ve videolar oluşturmasını istedi.
xAI, Grok’un sanığın taleplerini “sayısız kez” reddettiğini ancak Harwood’un, yapay zekanın güvenlik önlemlerini aşmak için düzenlenmiş komutları defalarca gönderdiğini ifade etti. Davada örnek olarak, Harwood’un yaklaşık 10-11 yaşlarında tam giyinik bir kız çocuğunun fotoğrafını yüklediği ve ardından Grok’tan tüm kıyafetlerini çıkarmasını ve yatakta “Playboy modeli pozu” vermesini istediği belirtildi. Grok bu isteği reddetmesine rağmen, sanık değiştirilmiş talepler göndermeye devam etti.
Reuters’in belirttiği gibi bu dava, bir AI şirketinin kendi kullanıcısına karşı açtığı ilk davalardan biri olma özelliği taşıyor. xAI, Grok’un kötüye kullanımına karşı dava açarak sektöre net bir mesaj göndermeyi hedefliyor. Ocak ayı başında Grok’un kullanıcıların gerçek kadın ve çocukların fotoğraflarını cinsel içerikli görsellere dönüştürmesine izin verdiğine dair raporlar yayımlanmıştı.
Skandalın ardından düzenleyici kurumlar hızla harekete geçti. Kaliforniya yetkilileri Ocak ortasında Grok’u incelemeye başlarken, İngiltere düzenleyicisi Ofcom da soruşturma başlattı. Avrupa Komisyonu ve İrlanda Veri Koruma Komisyonu ise ayrı ayrı incelemeler başlattı. xAI, soruşturmalar başladığında rızasız cinsel deepfake oluşturmayı engellemek için önlemler aldı. Ancak bu önlemlere rağmen kullanıcılar hâlâ Grok’u erkeklerin kıyafetlerini çıkarmak için kullanabiliyordu ve Harwood hesaplarına görseller yüklemeye devam etti.
Güney Carolina Başsavcılığı, 9 Mart’ta Harwood’un İnternet Çocuk İstismarıyla Mücadele Görev Gücü kapsamında tutuklandığını duyurdu. Harwood, ikinci derecede üç ve üçüncü derecede beş olmak üzere toplam sekiz çocuğun cinsel istismarı suçlamasıyla karşı karşıya. Yetkililer, Harwood’un yalnızca çocuk istismarı materyallerine sahip olmakla kalmayıp aynı zamanda bunları dağıttığını da belirtti.
Detaylar ve Etkileri
xAI, davada belirtilmemiş miktarda maddi tazminat talep ediyor. Şirket ayrıca mahkemeden, sanığın mağdurları tarafından açılabilecek herhangi bir hukuki işlemde şirketin kendini savunmak için yapacağı masrafları karşılamasını istiyor. Bu dava, yapay zeka teknolojilerinin kötüye kullanımına karşı hukuki mücadelede önemli bir dönüm noktası olarak değerlendiriliyor ve sektördeki diğer AI şirketlerine de benzer önlemler almaları konusunda baskı oluşturması bekleniyor.
Kaynak: engadget.com
