San Francisco Şehir Savcısı David Chiu, Apple ve Google'a gönderdiği ihtarnamelerle, yapay zeka destekli 'nudify' uygulamalarının derhal kaldırılmasını talep etti. Wired'ın haberine göre, bu uygulamalar kullanıcıların fotoğraflarını kullanarak rıza dışı deepfake çıplak görüntüler oluşturmasına olanak tanıyor. Chiu, mektuplarında iki teknoloji devini 'rıza dışı mahrem görüntülerin yayılmasına yardım ve yataklık etmekle' suçladı ve ilgili uygulama geliştiricileriyle iş birliğini sonlandırmalarını istedi.
Bu, Chiu'nun deepfake platformlarına karşı ilk hamlesi değil. Daha önce, gerçek kadın ve kız çocuklarının görüntülerini AI kullanarak pornografiye dönüştüren 16 web sitesine dava açmıştı. Chiu, Wired'a yaptığı açıklamada, Apple ve Google'ın bu zararlı uygulamalardan uygulama içi ödemeler yoluyla milyonlarca dolar kazanmış olabileceğini ve mağazalarının daha iyi denetlenmesi gerektiğini belirtti.
Deepfake'lerle ilgili kamuoyunda geniş çaplı tepkilere rağmen, bu yılın başında Teknoloji Şeffaflık Projesi (TTP) tarafından yayınlanan bir rapor, 'nudify' uygulamalarının Apple ve Google'ın denetimlerinden sık sık geçtiğini ortaya koydu. Rapor, hatta bazı uygulamaların App Store ve Google Play'de aktif olarak tanıtıldığını iddia etti. Daha da endişe verici olan, bu uygulamaların birçoğunun 'Herkes İçin' (E) olarak derecelendirilmesi, çocukların bunları indirmesine olanak tanımasıydı. Rapora göre, bu uygulamaları bulmak için 'nudify' veya 'soyun' gibi terimleri aramak yeterli.
Google, Wired'a yaptığı açıklamada, 'yüzlerce' çıplaklaştırma özellikli uygulamayı sildiğini ve bunlardan beşinin Chiu tarafından kendilerine bildirildiğini belirtti. Şirket, politikalarının müstehcen içeriği yasakladığını ve bildirilen bir uygulamanın kuralları ihlal ettiği tespit edilirse 'hızlı aksiyon' aldıklarını yineledi. Apple ise yayın öncesinde yorum yapmadı.
Önemli Gelişmeler
Deepfake'lerin yayılmasıyla mücadele eden tek şirket Apple ve Google değil. Meta'nın Gözetim Kurulu, şirketi sıradan insanları hedef alan deepfake'lere karşı korumaları güçlendirmeye çağırdı; mevcut önlemlerin daha çok kamuya mal olmuş kişileri kayırdığı belirtildi. Elon Musk'ın xAI'sı da rıza dışı deepfake'lerle ilgili birçok davanın hedefi oldu.
Sonuç ve Değerlendirme
Bu gelişme, yapay zeka destekli uygulamaların denetlenmesi konusunda teknoloji şirketlerinin sorumluluğunu bir kez daha gündeme getiriyor. Kullanıcıların, özellikle de çocukların bu tür zararlı içeriklere maruz kalmasını önlemek için daha sıkı politikalar ve daha etkili denetim mekanizmaları gerekiyor. Chiu'nun hamlesi, bu alanda yasal düzenlemelerin ne kadar acil olduğunu gösteriyor.
Kaynak: engadget.com
