Meta için çalışan yüzlerce yüklenici, şirketin talimatıyla reşit olmayan biri gibi davranarak rakip sohbet robotlarını intihar, cinsellik, yeme bozukluğu ve diğer yüksek riskli konularda test etti. İç belgelere ve konuya aşina beş kaynağa göre, Meta yüklenicisi Covalen tarafından yönetilen çalışma, en son 21 Nisan'da aktifti. 'Cannes' olarak bilinen proje, OpenAI'ın ChatGPT'si, Google'ın Gemini'si ve Character.AI'ı hedef aldı.
Proje kapsamında çalışanlardan 18 yaş altı sahte hesaplar oluşturmaları, rakip sohbet robotlarına yazılı istemler ve görseller göndermeleri ve yanıtları elektronik tablolara kopyalamaları istendi. Gönderilen bazı görseller arasında haplar, bıçaklar, kementler ve jinekolojik bir prosedürün tıbbi diyagramı yer alıyordu. İstemler genellikle sohbet robotlarını güvenlik sistemlerinin reddetmesi gereken yanıtlara yönlendirmek için tasarlanmıştı. Ağustos 2025'te tamamlanan tek bir test turunda, rakip sohbet robotlarına 45.000'den fazla istem gönderildi.
WIRED tarafından incelenen bir elektronik tablo, sahte profilleri ve bunlara ait isim, e-posta adresi, şifre ve doğum tarihlerini listeliyordu. Hesaplarda tek kullanımlık Gmail ve Outlook adresleri ile ortak bir şifre kullanılmıştı. Bir diğer tabloda ise yükleniciler tarafından gönderilen 3.748 istem yer alıyordu. Yüzlercesi intihar ve kendine zarar verme, yüzlercesi yeme bozukluğu, en az 239'u ise cinsellik veya romantizm içeriyordu. Diğerleri uyuşturucu, küfür ve ırkçı ifadelerle ilgiliydi.
Meta, çalışmayı rutin güvenlik testi olarak savundu. Bir Meta sözcüsü, 'Sohbet robotu yanıtlarını test etmek ve güvenli, yaşa uygun deneyimler sağlamak sorumlu, sektör standardı bir uygulamadır. Bunun aksini iddia etmek, teknoloji şirketlerinin sistemlerini iyileştirmek için nasıl çalıştığını tamamen yanlış anlamaktır' dedi. Ancak projede çalışan yükleniciler, bu yöntemi bir trilyon dolarlık şirket için tuhaf buldu. Birçok istem, iyi işleyen bir sohbet robotunun açıkça reddetmesi gereken kaba veya tekrarlayan girişimlerdi.
