Elon Musk'un Grok sohbet robotu, Musk'un yapay zeka firması xAI'nin potansiyel olarak zararlı, cinsel içerikli deepfake'lerin oluşturulmasını durdurmak için kısıtlamalar getireceğini söylemesinden aylar sonra bile, görünüşe göre hâlâ kadınların rızası olmayan müstehcen görüntülerini ve videolarını üretmek ve barındırmak için kullanılıyor. Açıklamalar, xAI'nin ana şirketi SpaceX'in Cuma günü tüm zamanların en büyük halka arzlarından birinde halka açılmaya hazırlandığı sırada geldi.
WIRED'in halka açık eserler üzerinde yaptığı bir analizde, Grok Imagine üretken yapay zeka sisteminin, ünlüleri ve en az bir politikacının dev bir adam tarafından kendi istekleri dışında alıkonulmasını tasvir eden, seks eylemleri gerçekleştiren kadınları tasvir eden ve tamamen çıplaklığa izin veren görseller ve videolar oluşturmak ve barındırmak için kullanıldığı ortaya çıktı. Görüntülerin ve videoların bazıları tamamen yapay zeka tarafından oluşturulmuş veya animasyonlu stillerde olsa da, diğerleri fotogerçekçidir ve makul gerçek dünya senaryolarını gösterir.
WIRED, Grok.com'da barındırılan yüzlerce halka açık Grok Imagine bağlantısını inceledi ve öznenin izni olmadan oluşturulanlar da dahil olmak üzere düzinelerce cinselleştirilmiş AI görsellerine ve videolarına yol açtığını tespit etti. Grok.com'da oluşturulan bazı bağlantılar, son günlerde de dahil olmak üzere daha sonra X'te paylaşıldı. Oluşturuldukları zamana ilişkin zaman damgalarını göstermeyen gönderiler, muhtemelen Grok Imagine sistemini kullanan kişiler tarafından oluşturulanların yalnızca bir anlık görüntüsüdür, çünkü nesiller varsayılan olarak herkese açık görünmüyor.
Diğer üretken yapay zeka sistemleri, kendi web sitesinde ve X'te bulunan Grok'tan daha fazla güvenlik korkuluğu kullanıyor. On yılın büyük bir bölümünde açık yapay zeka içeriğini çevrimiçi olarak takip eden derin sahtekarlık uzmanı Henry Ajder, "Grok ve X, özellikle yılın başında çıplaklaştırmayla ilgili tepkilerin ardından modellerinde bazı değişiklikler yapmış olsalar da, onu mevcut diğer ana akım araçların standartlarına getirmek için hâlâ yeterli bir iş yapmadılar" diyor.
Musk'un xAI'si, X'teki Grok uygulamasının bir "çıplaklaştırma" görüntüleri seli oluşturmak için kullanıldığı Ocak ayından bu yana dünya çapındaki düzenleyicilerin bir dizi dava ve inceleme dalgasıyla karşı karşıya kaldı. X'teki insanlar (özellikle erkekler) chatbot'tan kadınları "bikini" veya "ipli bikini" giyecek şekilde düzenlemesini istedi. Mart ayında Kaliforniya federal mahkemesinde açılan toplu davaya göre, bazı durumlarda reşit olmayan kişilerin görüntülerinin de cinselleştirildiği iddia edildi.
O tarihten bu yana xAI, rıza dışı ve cinselleştirilmiş derin sahtekarlıkların oluşturulmasını sınırlamak ve önlemek için önlemler getirdiğini söyledi. Şirket sürekli olarak çocuk cinsel istismarı materyallerinin (CSAM) kendi platformunda yasaklandığını söylüyor.
Ne xAI ne de X, WIRED'in Grok.com'da barındırılan çok sayıda cinselleştirilmiş görsel hakkında yorum yapma talebine hemen yanıt vermedi. WIRED şirketlerle iletişime geçtikten sonra, WIRED'in Grok.com'da barındırdığı müstehcen görseller ve videolar artık mevcut değilmiş gibi göründü ve X'te paylaşılan Grok Imagine bağlantıları politika ihlalleri nedeniyle kaldırıldı. X'in güvenlik hesabı, Nisan ayında NBC'nin hâlâ oluşturulmakta olan cinsel sahtekarlıklar hakkındaki raporuna yanıt olarak, "Kullanıcıların rızası olmadan açık derin sahtekarlıklar üretmesini ve araçlarımızı gerçek insanları soymak için kullanmasını kesinlikle yasaklıyoruz" dedi.
WIRED, Grok.com'da barındırılan gönderiler arasında çok sayıda ünlünün yanı sıra ABD temsilcisi Alexandria Ocasio-Cortez'in de yer aldığı fotoğraf ve videoları tespit etti. (Ocasio-Cortez'in sözcüleri WIRED'in yorum talebine hemen yanıt vermedi). Videolarda kadınların küçük kıyafetler giyerek bir erkeğin "dev" elinin avucunda tutulduğu görülüyor. Mesajlardan birinde, bir ünlünün "bunu yapmaması için yalvardığı" için kendi isteği dışında alıkonulduğu anlatılıyor. Şunu ekliyor: "Onu tutan dev adam eğilip yüzünü yukarı aşağı yalarken, dev el onu daha da sıkı tutuyor ve onu yerinde tutuyor."
