San Francisco Şehir Savcısı David Chiu, Apple ve Google'a yapay zeka destekli 'nudify' uygulamalarını mağazalarından kaldırmaları için ihtarname gönderdi. Wired'ın haberine göre, Chiu'nun gönderdiği ihtarnamelerde, kullanıcıların yapay zeka ile derin sahte çıplak görüntüler oluşturmasına olanak tanıyan toplam 13 uygulama hedef alındı. Mektuplarda, teknoloji devlerinin rızasız mahrem görüntülerin yayılmasına 'yardım ve yataklık' etmeyi bırakmaları ve söz konusu uygulama geliştiricileriyle çalışmayı durdurmaları talep edildi.
Bu, Chiu'nun deepfake platformlarına karşı ilk hamlesi değil. Daha önce, kullanıcıların gerçek kadın ve kız çocuklarının fotoğraflarını yapay zeka ile pornografiye dönüştürmesine izin veren 16 web sitesine dava açmıştı. Chiu, Wired'a yaptığı açıklamada, Apple ve Google'ın bu uygulamalardan uygulama içi ödemeler yoluyla milyonlarca dolar kazanmış olabileceğini ve mağazalarının bu tür uygulamaların onaylanmaması için daha iyi denetim yapması gerektiğini belirtti.
Deepfake'lerle ilgili kamuoyunda geniş çaplı bir tepki olmasına rağmen, bu yılın başlarında Teknoloji Şeffaflık Projesi'nin (TTP) raporu, 'nudification' uygulamalarının sıklıkla Apple ve Google'ın denetçilerini atlattığını ortaya koydu. Raporda, bu uygulamalardan bazılarının App Store ve Google Play'de aktif olarak tanıtıldığı bile iddia edildi. Ayrıca, bu uygulamaların birçoğunun 'Herkes İçin' (E) derecesine sahip olduğu ve çocukların bunları indirmesine olanak tanıdığı belirtildi. Uygulamaları bulmanın, 'nudify' veya 'undress' gibi terimleri aramak kadar basit olduğu ifade edildi. Bu durum, her iki şirketin de platformlarında cinsel veya pornografik materyali yasaklayan politikaları olmasına rağmen yaşanıyor.
Sistem Güvenliği
Google ve Apple, web'de deepfake'lerin yaygınlaşmasıyla mücadele eden tek şirketler değil. Meta'nın Denetim Kurulu, şirketi sıradan insanları hedef alan deepfake'lere karşı korumalarını güçlendirmeye çağırdı; mevcut önleyici tedbirlerin daha çok kamuya mal olmuş kişileri kayırdığı görülüyor. Elon Musk'ın xAI'si de rızasız deepfake'lerle ilgili birkaç davanın hedefi oldu.
Gelecekte Ne Bekleniyor?
Bir Google sözcüsü, Wired'a şirketin 'nudification' özellikli 'yüzlerce' uygulamayı sildiğini ve bunlardan beşinin Chiu tarafından kendilerine bildirildiğini söyledi. Ayrıca, politikalarının cinsel içeriği yasakladığını yineleyerek, bildirilen bir uygulamanın kuralları ihlal ettiği tespit edilirse 'hızlı aksiyon' aldıklarını belirtti. Wired, Apple'ın yayın öncesinde yorum yapmadığını ekledi. Engadget'a yaptığı açıklamada Apple, 'App Store, kullanıcılar için güvenli ve güvenilir bir yer olarak tasarlandı ve her zaman pornografi üretmek, dağıtmak veya tüketmek için tasarlanmış uygulamaları kesinlikle yasakladık. 'Nudification' uygulamaları, Uygulama İnceleme Yönergelerimize aykırıdır ve bu uygulamaların birçoğunu proaktif olarak reddettik ve kullanıcıların raporlama araçlarımız aracılığıyla bildirdiği diğerlerini kaldırdık. Söz konusu uygulamalardan üçünü kaldırdık ve geliştirici hesaplarını programımızdan sonlandırma sürecindeyiz. Politikaları ihlal eden dört uygulamayla daha iletişim halindeyiz; aksi takdirde kaldırılma riskiyle karşı karşıyalar.' dedi.
Bu gelişme, yapay zeka destekli deepfake teknolojisinin kötüye kullanımına karşı mücadelede önemli bir adım olarak görülüyor. Uzmanlar, özellikle çocukların ve kadınların hedef alındığı bu tür uygulamaların yaygınlaşmasının önlenmesi için daha sıkı düzenlemeler ve denetim mekanizmaları gerektiğini vurguluyor. Kullanıcıların da bu tür uygulamaları fark ettiklerinde yetkililere bildirmeleri, deepfake içeriklerin yayılmasını engellemede kritik rol oynayabilir.
Kaynak: engadget.com
