Meta, yeni görsel üretim modeli Muse Image ile oluşturulan görselleri tespit etmek için bir araç geliştiriyor. Şirket, web tabanlı bu aracın ön izlemesini yayınladı. Araç, yeni model tarafından kullanılan görünmez filigranları kontrol edebiliyor. 'Content Seal' adı verilen bu filigran sistemi, Meta'nın blog yazısında belirttiğine göre 'görseller kesilse, sıkıştırılsa, yeniden boyutlandırılsa veya ekran görüntüsü alınsa bile' yerinde kalıyor. Meta, bu aracın bir görselin Meta AI ile oluşturulup oluşturulmadığını anlamaya yardımcı olacağını belirtiyor.
Content Seal, Meta için yeni bir yaklaşım gibi görünüyor. Muse Image'ın parçası olan sürüm tescilli olsa da, şirket daha önce bu teknolojinin açık kaynaklı sürümlerini yayınlamıştı. Meta'nın yeni modelleri, önceki Meta AI sürümlerinde olduğu gibi sağ alt köşede küçük bir logo gibi görünür filigranlar içermiyor. Şu anda Meta AI'nın tespit yetenekleri yalnızca Muse Image ile oluşturulan veya düzenlenen görsellerle sınırlı. Ancak şirket, Content Seal filigranlarını yapay zeka tarafından oluşturulan ve düzenlenen videolara da genişletmeyi planlıyor. Meta ayrıca 'yakında gelecek' olan Muse Video adlı ayrı bir video üretim modeli üzerinde çalışıyor.
Yeni tespit özelliğini Meta AI ile oluşturduğum görsellerde denedim. Web tabanlı araç, düzenlenmiş görseller ve tamamen yapay zeka ile oluşturulmuş görseller için filigranı tespit edebildi. Ayrıca görsellerimin ekran görüntülerinde de filigranı buldu. Meta, bir SSS'de 'Olumlu sonuç, görselin Meta AI uygulaması veya meta.ai kullanılarak oluşturulduğu veya düzenlendiği anlamına gelir. Olumsuz sonuç, görselin Meta AI uygulaması veya meta.ai ile işlenmiş olma ihtimalinin düşük olduğu anlamına gelir' açıklamasını yapıyor.
Uzmanların Görüşleri
İlginç bir şekilde, Meta AI'nın yeni tespit yetenekleri henüz Meta AI uygulamasının bir parçası gibi görünmüyor. Uygulama tabanlı asistana, web aracının yapay zeka yapımı olarak tanımladığı bir görsel hakkında soru sorduğumda, kontrol etme yeteneğinin olmadığını söyledi. 'Bu belirli görselin Meta AI ile yapılıp yapılmadığını kesin olarak söyleyemem' dedi. 'Meta AI görselleri otomatik olarak filigranlamaz ve hangi AI modelinin mevcut bir görseli yaptığını tespit edebilecek bir aracım yok.' Meta daha önce uygulamalarında yapay zeka tarafından oluşturulan materyalleri etiketleme ve tanımlama konusunda eleştiriler almıştı. Denetim Kurulu, Meta'nın kendi araçları tarafından oluşturulan yapay zeka içeriğinde dijital filigranları 'tutarsız bir şekilde uyguladığı' konusunda endişeli olduğunu belirtmişti.
