San Francisco Başsavcısı David Chiu, bu hafta Apple ve Google'a ihtarname göndererek uygulama mağazalarından 13 'çıplaklama' uygulamasının kaldırılmasını talep etti. Wired'ın haberine göre, bu uygulamalar yapay zeka kullanarak sıradan fotoğrafları müstehcen görüntülere dönüştürebiliyor. Kötü niyetli kişiler, bu araçlarla kıyafetleri kaldırabiliyor, kişilerin özelliklerini değiştirebiliyor, onları cinsel pozisyonlara yerleştirebiliyor ve mağdurların yüzlerini başka kişilerin çıplak bedenlerine yerleştirebiliyor.
Chiu'nun ihtarnamesinde, uygulama mağazalarının 'deepfake pornografi oluşturan destek hizmetlerini yasaklayan Kaliforniya yasalarını ihlal ettiği' belirtildi. Chiu, Wired'a yaptığı açıklamada, çıplaklama teknolojisinin ne kadar yaygınlaştığı karşısında 'kesinlikle dehşete düştüklerini' söyledi. Bu teknolojinin çoğunlukla kadınları ve çocukları mağdur ettiğini ve daha fazla araç kullanıma sunuldukça endişe verici bir boyuta ulaştığını ifade etti.
Chiu, 'Bu görüntüler, kadınları ve kız çocuklarını zorbalık yapmak, aşağılamak ve tehdit etmek için kullanılıyor. Bu sektörün kişinin itibarı, ruh sağlığı ve özerkliği üzerinde korkunç bir etkisi var. İntihar eden mağdurlar oldu' dedi.
Wired, ihtarnameleri inceledi ve Chiu'nun Google'dan beş, Apple'dan sekiz uygulamayı kaldırmasını istediğini doğruladı. Raporda, 'insanları bu uygulamalara yönlendirmemek için' uygulamaların isimleri verilmedi. Ancak bir uygulamanın bir milyondan fazla indirildiği ve kadınların fotoğraflarını cinselleştirme veya 'ücretsiz ve sansürsüz' videolar yapma özelliklerini reklam olarak kullandığı belirtildi.
Sistem Güvenliği
Chiu, bu tür uygulamaların uygulama mağazalarında kalmasının kabul edilemez olduğunu vurguladı. 'Rıza dışı mahrem görüntüler oluşturmak yasa dışı, zararlı ve tamamen kabul edilemez' diyen Chiu, ofisinin Apple ve Google'ın bu zararlı uygulamaları görmezden gelerek milyonlarca dolar komisyon kazandığını tahmin ettiğini söyledi.
Gelecekte Ne Bekleniyor?
Google sözcüsü Dan Jackson, Chiu'nun işaret ettiği beş uygulamanın zararlı içerik politikalarını ihlal ettiği için Google Play'den askıya alındığını açıkladı. Jackson, 'Google Play, cinsel içerik içeren uygulamalara izin vermez ve zararlı içerikli uygulamaları tespit etmek ve kaldırmak için sürekli proaktif adımlar atıyoruz. İhlaller bildirildiğinde, soruşturma yapıyor ve hızlı aksiyon alıyoruz. Bu uygulamalar için yüzlerce ihlal edici uygulamayı askıya aldık ve mağazamızda 'nudify' gibi ilgili arama terimlerini kısıtladık' dedi.
Kaynak: arstechnica.com
