Meta, yeni görsel üretim modeli Muse Image ile oluşturulan görüntü ve videoları tespit etmek için bir yapay zeka aracı geliştirdi. Şirket, web tabanlı bu aracın ön izlemesini yayınladı. Araç, yeni modelde kullanılan görünmez filigranları kontrol edebiliyor. Content Seal adı verilen bu filigran sistemi, blog yazısına göre “kırpıldığında, sıkıştırıldığında, yeniden boyutlandırıldığında veya ekran görüntüsü alındığında bile” yerinde kalıyor. Meta, bu aracın bir görselin Meta AI ile oluşturulup oluşturulmadığını anlamaya yardımcı olduğunu belirtiyor.
Content Seal, Meta için yeni bir yaklaşım gibi görünüyor. Muse Image'ın bir parçası olan sürüm tescilli olsa da, şirket daha önce teknolojinin açık kaynaklı versiyonlarını yayınlamıştı. Meta'nın yeni modelleri, önceki sürümlerde sağ alt köşeye eklenen küçük logo gibi görünür filigranlar içermiyor. Şimdilik Meta AI'nın tespit yetenekleri yalnızca Muse Image ile oluşturulan veya düzenlenen görsellerle sınırlı. Ancak şirket, Content Seal filigranlarını AI tarafından oluşturulan ve düzenlenen videolara da genişletmeyi planlıyor. Ayrıca, yakında çıkacak olan Muse Video adlı ayrı bir video üretim modeli üzerinde çalışıyor.
Web tabanlı aracı test ettiğimde, Meta AI ile oluşturduğum görsellerde filigranı tespit edebildi. Düzenlenmiş görsellerde ve tamamen AI yapımı görsellerde de başarılı oldu. Hatta görsellerimin ekran görüntülerinde bile filigranı buldu. Meta, bir SSS bölümünde “Olumlu sonuç, görselin Meta AI uygulaması veya meta.ai kullanılarak oluşturulduğu veya düzenlendiği anlamına gelir. Olumsuz sonuç ise görselin Meta AI uygulaması veya meta.ai ile işlenmiş olmasının olası olmadığı anlamına gelir” açıklamasını yaptı.
Sistem Güvenliği
İlginç bir şekilde, Meta AI'nın yeni tespit yetenekleri henüz Meta AI uygulamasına entegre edilmemiş. Web aracının AI yapımı olarak tanımladığı bir görsel hakkında uygulama tabanlı asistana sorduğumda, kontrol edemediğini söyledi. Meta, daha önce AI tarafından oluşturulan içerikleri etiketleme konusunda eleştirilmişti. Gözetim Kurulu, Meta'nın kendi araçlarıyla oluşturulan AI içeriklerinde dijital filigranları “tutarsız şekilde uyguladığı” endişesini dile getirmişti. Yeni özelliğin başka sınırlamaları da var. Content Seal, SynthID veya C2PA Content Credentials gibi diğer filigran yöntemleriyle uyumlu değil. Ayrıca, eski Meta AI modelleriyle oluşturulan görselleri tanımlayamıyor ve günlük kontrol limitleri var.
