Meta, yeni görüntü oluşturma modeli Muse Image ile oluşturulan görüntüleri ve videoları tanımlamaya yönelik bir araç üzerinde çalışıyor. Şirket, yeni model tarafından kullanılan görünmez filigranları kontrol edebilen web tabanlı aracın bir önizlemesini gösterdi.
Meta, bir blog yazısında İçerik Mührü adı verilen bu filigran sisteminin "kırpıldığında, sıkıştırıldığında, yeniden boyutlandırıldığında veya ekran görüntüsü alındığında bile" yerinde kaldığını açıklıyor. "Bir görüntünün İçerik Mührü filigranı taşıyıp taşımadığını kontrol etmenize olanak tanıyan bir algılama aracının ön izlemesini yapıyoruz ve bir görüntünün Meta AI ile oluşturulup oluşturulmadığını daha iyi anlamanıza yardımcı olacak bir başlangıç yolu sağlıyoruz."
Content Seal, Meta için biraz yeni bir yaklaşım gibi görünüyor. Meta, Engadget'e verdiği demeçte, Muse Image'ın bir parçası olan sürümün tescilli olduğunu, ancak şirketin daha önce teknolojinin açık kaynaklı sürümlerini yayınladığını söyledi. Meta'nın yeni modelleri, Meta AI'nin sağ alt köşeye küçük bir logo ekleyen önceki bazı sürümleri gibi görünür herhangi bir filigran içermiyor.
Nasıl Önlem Alınmalı?
Şimdilik Meta AI'nın algılama yetenekleri Muse Image ile oluşturulan veya düzenlenen görüntülerle sınırlıdır, ancak şirket İçerik Mührü filigranlarını AI tarafından oluşturulan ve düzenlenen videolara da genişletmeyi planladığını söyledi. Meta aynı zamanda Muse Video adında "yakında kullanıma sunulacak" ayrı bir video oluşturma modeli üzerinde de çalışıyor.
Bugün Meta AI ile oluşturduğum görüntülerde yeni algılama özelliğini denedim ve web tabanlı araç, düzenlenmiş görüntüler ve tamamen yapay zeka yapımı yaratımlar (yukarıdaki resimde olduğu gibi) için bir filigran tespit edebildi. Ayrıca filigranı resimlerimin ekran görüntülerinde de buldu. Şirket, bir SSS bölümünde şöyle açıklıyor: "Olumlu bir sonuç, görüntünün Meta AI uygulaması veya meta.ai kullanılarak oluşturulduğu veya düzenlendiği anlamına gelir." "Negatif sonuç, görüntünün Meta AI uygulaması veya meta.ai kullanılarak işlenmiş olma ihtimalinin düşük olduğu anlamına gelir."
İlginçtir ki Meta AI'nın yeni algılama yetenekleri henüz Meta AI uygulamasının bir parçası gibi görünmüyor. Meta'nın uygulama tabanlı asistanına, web aracının yapay zeka yapımı olarak tanımladığı bir görüntü hakkında soru sorduğumda, kontrol etme yeteneğinin olmadığını söyledi. "Sadece bakarak bu özel görüntünün Meta Al ile yapılıp yapılmadığını size kesin olarak söyleyemem" dedi. "Meta Al, görüntülere otomatik olarak filigran eklemiyor ve mevcut bir görüntüyü hangi Al modelinin oluşturduğunu tespit edebilecek bir aracım yok."
Meta daha önce uygulamalarında yapay zeka tarafından oluşturulan materyalleri nasıl etiketlediği ve tanımladığı konusunda bazı eleştirilerle karşı karşıya kalmıştı. Gözetim Kurulu bu yılın başlarında şirkete, Meta'nın kendi araçlarıyla oluşturulan yapay zeka içeriğine "tutarsız bir şekilde dijital filigranlar uyguladığından" "endişe duyduğunu" söylemişti.
Sistem Güvenliği
Ancak yeni özelliğin hâlâ bazı sınırlamaları var gibi görünüyor. Content Seal, diğer şirketler tarafından kullanılan iki yerleşik filigranlama yöntemi olan SynthID veya C2PA İçerik Kimlik Bilgileri ile uyumlu değildir. Web tabanlı özellik, testlerimde Meta'nın yapay zeka modellerinin önceki sürümleriyle oluşturulan veya düzenlenen görüntüleri tanımlayamadı. Meta AI ile eski sohbetlerde oluşturulan görselleri eklediğimde, görselin kendi AI ile yapılıp yapılmadığını bana söyleyemedi. Bu özellik ayrıca bazı nedenlerden dolayı Meta'nın hız sınırlarına tabi görünüyor. Bir avuç örnek yükledikten sonra "kimlik kontrollerinde günlük sınırıma" ulaştığım konusunda uyarıldım.
