San Francisco şehir savcısı David Chiu, Apple ve Google'a gönderdiği ihtarnamelerle, yapay zeka destekli 'nudify' uygulamalarının mağazalarından kaldırılmasını talep etti. Wired'ın haberine göre, Chiu'nun mektupları, bu uygulamaların rızasız mahrem görüntülerin yayılmasına 'yardım ve yataklık' ettiğini belirtiyor. Savcı, 13 uygulamanın derhal kaldırılmasını ve geliştiricilerle iş birliğinin sonlandırılmasını istiyor.
Bu, Chiu'nun deepfake platformlarına karşı ilk hamlesi değil. Daha önce, gerçek kadın ve kız çocuklarının fotoğraflarını yapay zeka ile pornografiye dönüştüren 16 web sitesine dava açmıştı. Chiu, Apple ve Google'ın bu uygulamalardan uygulama içi ödemelerle milyonlarca dolar kazandığını ve mağazalarında daha iyi denetim yapılması gerektiğini vurguladı.
Deepfake'lerle ilgili kamuoyu tepkisine rağmen, Tech Transparency Project (TTP) raporu, nudify uygulamalarının Apple ve Google denetimlerini sık sık geçtiğini ortaya koydu. Hatta bazı uygulamaların App Store ve Google Play'de aktif olarak tanıtıldığı iddia edildi. Rapor, bu uygulamaların çoğunun 'Herkes için' (E) olarak derecelendirildiğini ve çocukların kolayca indirebildiğini belirtiyor. 'Nudify' veya 'undress' gibi basit aramalarla bulunabiliyorlar.
Google, Wired'a yaptığı açıklamada, nudification özellikli 'yüzlerce' uygulamayı sildiğini ve Chiu'nun bildirdiği beş uygulamanın da kaldırıldığını söyledi. Şirket, politikalarının cinsel içeriği yasakladığını ve ihlal durumunda 'hızlı aksiyon' aldığını yineledi. Apple ise yayın öncesinde yorum yapmadı.
Gelecekte Ne Bekleniyor?
Deepfake'lerin yaygınlaşması yalnızca Apple ve Google'ı değil, diğer teknoloji devlerini de zorluyor. Meta'nın Gözetim Kurulu, şirketin sıradan kullanıcıları korumak için önlemlerini güçlendirmesini istedi; mevcut politikaların daha çok kamu figürlerini koruduğu belirtiliyor. Elon Musk'ın xAI'sı da rızasız deepfake'lerle ilgili birçok davayla karşı karşıya.
Sistem Güvenliği
Bu gelişmeler, yapay zeka destekli deepfake teknolojisinin denetlenmesi konusunda teknoloji şirketlerinin daha sıkı adımlar atması gerektiğini gösteriyor. Kullanıcıların mahremiyetini korumak ve rızasız içeriklerin yayılmasını engellemek için hem yasal düzenlemeler hem de platform içi denetimler hayati önem taşıyor. Savcı Chiu'nun bu hamlesi, diğer eyalet ve ülkeler için de emsal teşkil edebilir.
Kaynak: engadget.com
