San Francisco Belediye Başsavcısı David Chiu, Apple ve Google'a gönderdiği ihtarnamelerle, kullanıcıların rızası olmadan yapay zeka destekli çıplak görüntüler oluşturan 13 uygulamayı uygulama mağazalarından kaldırmalarını talep etti. WIRED'in gördüğü belgelere göre Chiu, Silikon Vadisi devlerinin bu uygulamalarla iş birliğini kesmesini ve 'yardım ve yataklık' etmeyi bırakmasını istiyor.
Chiu, 'Rıza dışı mahrem görüntüler oluşturmak yasa dışı, zararlı ve tamamen kabul edilemez' diyerek, Apple ve Google'ın bu uygulamalardan milyonlarca dolar komisyon kazandığını ve moderasyon süreçlerini iyileştirmeleri gerektiğini vurguladı. Şehir avukatı, daha önce 16 popüler deepfake sitesine karşı da yasal işlem başlatmıştı.
İhtarnamelerde, Kaliforniya yasalarının deepfake pornografisi oluşturan hizmetlere destek verilmesini yasakladığı belirtiliyor. Uygulamaların uygulama içi satın almalar üzerinden çalıştığı ve teknoloji şirketlerinin bu satışlardan pay aldığı ifade ediliyor. Chiu, 'Dünyanın en büyük ve en köklü teknoloji şirketlerinin buna aracılık etmesi durmalı' dedi.
Araştırmacılar, Apple ve Google'ın mağazalarında çocuklar için uygun olarak işaretlenmiş uygulamalar da dahil olmak üzere, yapay zeka ile cinsel içerikli görüntü oluşturmayı sağlayan uygulamaları defalarca tespit edip raporladı. Yeni yasalar ve yasaklara rağmen, teknoloji ve sosyal medya şirketleri milyonlarca kişiyi bu zararlı teknolojiye yönlendirmeye devam ediyor.
Sistem Güvenliği
Google sözcüsü Dan Jackson, şirketin politikaları ihlal eden 'yüzlerce' uygulamayı kaldırdığını ve Chiu'nun ofisinin işaret ettiği beş Android uygulaması da dahil olmak üzere bunlara erişimi kısıtladığını belirtti. Jackson, 'Google Play cinsel içerikli uygulamalara izin vermiyor ve zararlı içerikleri tespit edip kaldırmak için sürekli proaktif adımlar atıyoruz' dedi. Apple ise yayın öncesinde yorum yapmadı.
Detaylar ve Etkileri
Son beş yılda, deepfake 'çıplaklaştırma' teknolojisi çevrimiçi ortamda oldukça kazançlı bir hale geldi. xAI'nin Grok'u Ocak ayında milyonlarca cinselleştirilmiş görüntü oluşturmak için kullanıldı. Bir dizi uygulama, web sitesi ve bot, insanların (çoğunlukla erkekler) başkalarının (çoğunlukla kadın ve kız çocukları) fotoğraflarını yükleyerek dijital olarak kıyafetlerini 'çıkarmasına' veya grafik cinsel senaryolara yerleştirmesine olanak tanıyor.
Kaynak: wired.com
