Meta, yapay zeka ile üretilen görselleri tespit etmek için yeni bir araç geliştiriyor. Şirket, Muse Image adlı yeni görsel üretim modeliyle oluşturulan içerikleri tanımlamak için web tabanlı bir araç önizlemesi sundu. Bu araç, model tarafından kullanılan görünmez filigranları kontrol edebiliyor. 'Content Seal' adı verilen bu filigran sistemi, Meta'nın blog yazısına göre 'kırpıldığında, sıkıştırıldığında, yeniden boyutlandırıldığında veya ekran görüntüsü alındığında bile' yerinde kalıyor. Şirket, 'Bir görselin Content Seal filigranı taşıyıp taşımadığını kontrol etmenizi sağlayan bir algılama aracı önizliyoruz. Bu, bir görselin Meta AI ile yapılıp yapılmadığını anlamanıza yardımcı olacak ilk yöntemi sunuyor.' ifadelerini kullandı.
Content Seal sistemi, Meta için yeni bir yaklaşım gibi görünüyor. Muse Image'ın bir parçası olan sürüm özel mülk olsa da şirket, daha önce teknolojinin açık kaynaklı sürümlerini yayınladığını belirtti. Meta'nın yeni modelleri, önceki bazı Meta AI sürümlerinde sağ alt köşeye küçük bir logo ekleyen görünür filigranlar içermiyor. Şimdilik Meta AI'nın algılama yetenekleri yalnızca Muse Image ile oluşturulan veya düzenlenen görsellerle sınırlı ancak şirket, Content Seal filigranlarını AI tarafından oluşturulan ve düzenlenen videolara da genişletmeyi planladığını açıkladı. Meta ayrıca 'yakında gelecek' olan Muse Video adlı ayrı bir video üretim modeli üzerinde çalışıyor.
Yeni algılama özelliğini bugün Meta AI ile oluşturduğum görseller üzerinde denedim. Web tabanlı araç, düzenlenmiş görseller ve tamamen AI yapımı kreasyonlar için filigranı tespit edebildi. Ayrıca görsellerimin ekran görüntülerinde de filigranı buldu. Şirket SSS bölümünde 'Pozitif sonuç, görselin Meta AI uygulaması veya meta.ai kullanılarak oluşturulduğu veya düzenlendiği anlamına gelir. Negatif sonuç, görselin Meta AI uygulaması veya meta.ai ile işlenmiş olma ihtimalinin düşük olduğu anlamına gelir.' açıklamasını yapıyor. İlginç bir şekilde, Meta AI'nın yeni algılama yetenekleri henüz Meta AI uygulamasına dahil edilmemiş gibi görünüyor. Uygulama tabanlı asistana, web aracının AI yapımı olarak tanımladığı bir görsel hakkında soru sorduğumda, kontrol yeteneğinin olmadığını söyledi.
Detaylar ve Etkileri
Meta daha önce uygulamalarında AI tarafından oluşturulan materyalleri etiketleme ve tanımlama konusunda eleştiriler almıştı. Gözetim Kurulu, şirkete bu yılın başlarında Meta'nın kendi araçları tarafından oluşturulan AI içeriklerinde dijital filigranları 'tutarsız bir şekilde uyguladığından' endişe duyduğunu bildirdi. Yeni özelliğin başka sınırlamaları da var. Content Seal, diğer şirketlerin kullandığı iki yerleşik filigran yöntemi olan SynthID veya C2PA Content Credentials ile uyumlu değil. Testlerimde web tabanlı özellik, Meta'nın AI modellerinin önceki sürümleriyle oluşturulan veya düzenlenen görselleri tanımlayamadı. Ayrıca özellik, Meta'nın hız limitlerine tabi gibi görünüyor; birkaç örnek yükledikten sonra 'kimlik kontrollerinde günlük limitime ulaştığım' uyarısını aldım.
