ChatGPT gibi yapay zeka asistanlarının, insanların zararlı içerik oluşturmasını engellemek için uygun korkuluklarla birlikte kullanımının güvenli olması gerekiyor. Ancak bir İngiliz yapay zeka güvenlik firması, ChatGPT'nin açık materyal üretmesini nasıl sağlayacağını keşfetti.
Yapay zeka motorlarını zayıf noktalara karşı test eden bir şirket olan Mindgard, iyi huylu bir viral istemin biraz değiştirilmiş bir versiyonunun ChatGPT'yi grafik materyal üretmeye itebileceğini buldu. Buna açıkça talep edilmeyen şiddet içeren ve cinsel görüntüler de dahildi. Teknik, yapay zekadan rastgele bir görüntüyü 'geri yüklemesini' istemeyi, orijinal resmin son derece grafik olduğuna (olmasa bile) ikna ederek korumaları kaldırmayı içeriyordu.
Sonuçlar, ölü kadınların şiddet içeren görüntüleri de dahil olmak üzere korkunçtu.
Tekniğin çevrimiçi açıklamasında Mindgard araştırmacısı Jim Nightingale, resimlerin gözyaşlarına boğulduğunu söyledi. "ChatGPT'nin görüntü üreten içerik filtreleri tamamen ortadan kalktı ve altında yatan şeyin çok karanlık tarafını gördüm; gizli alanın bazı köşelerinin karanlığı ve eğitim görüntüleri" dedi.
"ChatGPT'nin bana gösterdiği ölü kadın gerçek değil ama birisine dayanıyor" diye ekledi. "Ya da daha kötüsü, öldürülen kadınların fotoğraflarından oluşan bir derleme."
Teknik Analiz
Hem görüntülerin potansiyel olarak tetikleyici doğası nedeniyle (düzenlenmiş olsalar bile) hem de 22 Haziran'da yayınlandığında ChatGPT'nin Mindgard'ın Mayıs ayında gönderilen raporuna yanıt vermemiş olması nedeniyle gönderiye bağlantı vermemeyi seçtik. Ancak daha sonra BBC'nin haberle ilgili sorusuna yanıt vererek, bu tür şeylerden kaçınmak için birden fazla güvenlik önlemi kullandığını söyledi.
OpenAI'nin güvenlik belgeleri, zararlı görüntü oluşturma isteklerini başlamadan önce engellemesi gereken metin sınıflandırıcılarını açıklar. Ayrıca, oluşturulan çıktıyı kullanıcıya gösterilmeden önce değerlendiren bir alt akıl yürütme modeli de vardır. Ancak bunların hiçbiri Mindgard'ın değiştirilmiş viral istemini durdurmadı.
Nasıl Önlem Alınmalı?
Bu hızlı manipülasyon örneği oldukça aşırıdır, ancak tek örnek bu değildir.
Şubat ayında Mindgard, ChatGPT'yi zevkli nüler üretmenin sorun olmadığına ikna etmek için kullandığı ayrı bir teknik hakkında paylaşımda bulundu. Oradan, çıplakları daha az zevkli hale getirmek için birkaç kısa adım atıldı. Daha sonra bu görsellerin üzerine tanınmış kişilerin yüzlerini değiştirmeyi başardı.
Detaylar ve Etkileri
OpenAI, sorunun çözüldüğünü söyleyen bu uyarıya yanıt verdiğinde, Mindgard aynı istemde değişiklik yaptı ve ilgili çıktıyı üretmeye devam etti.
OpenAI buradaki en kötü suçlu değil. xAI'den Grok, ilgili 55 yönlendirmeden 45'ine yanıt olarak cinselleştirilmiş görüntüler üreterek bu noktada yer alıyor. Beş gün sonra yapılan bir takip turunda, muhabirler deneklerin rıza göstermediğini söylemesine rağmen 43 istemin 29'unda hâlâ cinselleştirilmiş görüntüler ortaya çıktı. Kâr amacı gütmeyen AI Forensics ayrıca Grok'u görüntü oluşturmaya teşvik eden 50.000 tweet ve 20.000 görüntü topladı. Bunların %53'ünün müstehcen görüntüler içerdiğini tespit etti; bunların %81'i kadınlara ve %2'si 18 yaşın altındaki çocuklara aitti. Grok'tan gelen materyalleri, Dijital Hizmetler Yasası kapsamında potansiyel çocuk cinsel istismarı materyali (CSAM) tespiti için Fransız düzenleyicilere işaretledi.
Sorun herhangi bir platformdan daha kötü. Kâr amacı gütmeyen Yapay Zeka Yönetişim Merkezi'nin yaptığı bir politika araştırmasına göre, bazı yapay zeka şirketlerinin güvenlik çerçevelerinde, rakiplerine göre önlemleri yumuşatmalarına olanak tanıyan hükümler var. Bunun, birden fazla şirketin politikalarını gevşettiği kademeli bir etkiye yol açabileceği belirtildi.
Ticari görsel oluşturma araçlarındaki güvenlik garantilerini, dipnotlu pazarlama kopyası olarak değerlendirin. İyi niyetle kötü aktörlerin sistemlerini manipüle etmesini engellemeye çalışabilirler, ancak bu her zaman bir kedi-fare oyunudur ve öyle olmuştur. Sınıflandırıcılar çoğu sıradan kullanıcı için çoğu zaman işe yarar, ancak yeterince kararlı olan kimseyi durduramayabilirler.
Gelecekte Ne Bekleniyor?
Yüzünüz çevrimiçiyse, kullanılmamasını tercih ettiğiniz bir şey için kullanılabileceğini varsayalım. Kendinize ait rıza dışı görüntüler bulursanız, platformun yayından kaldırma kanallarını kullanın ve uzman kuruluşlara rapor verin: ABD'deki Ulusal Kayıp ve İstismara Uğrayan Çocuklar İçin Yayından Kaldırma hizmeti veya Birleşik Krallık'taki Internet Watch Foundation.
