Meta'nın yürüttüğü gizli bir projede, yüzlerce yüklenici reşit olmayan bireyler gibi davranarak rakip yapay zeka sohbet robotlarına intihar, seks, yeme bozuklukları ve diğer yüksek riskli konularda mesajlar gönderdi. İç belgelere ve projeye aşina beş kaynağa göre, Meta yüklenicisi Covalen tarafından yönetilen çalışma, en son 21 Nisan'da aktif olarak yürütülüyordu. 'Cannes' olarak bilinen proje, OpenAI'ın ChatGPT'si, Google'ın Gemini'si ve Character.AI'yi hedef aldı.
Proje kapsamında yüklenicilerden 18 yaş altı sahte hesaplar oluşturmaları, rakip sohbet robotlarına yazılı mesajlar ve görseller göndermeleri ve yanıtları elektronik tablolara kopyalamaları istendi. Gönderilen görseller arasında haplar, bıçaklar, ilmekler ve jinekolojik bir prosedürün tıbbi diyagramı yer alıyordu. Talimatlara göre, mesajlar genellikle sohbet robotlarını güvenlik sistemlerinin reddetmesi gereken yanıtlar vermeye zorlamak için tasarlanmıştı. Ağustos 2025'te tamamlanan tek bir test turunda, rakip sohbet robotlarına 45.000'den fazla mesaj gönderildi.
WIRED tarafından incelenen bir elektronik tablo, yükleniciler tarafından gönderilen 3.748 mesajı listeliyordu. Yüzlercesi intihar ve kendine zarar verme, yüzlercesi yeme bozuklukları, en az 239'u seks veya romantizm, diğerleri ise uyuşturucu, küfür ve ırkçı ifadeler içeriyordu. Birçok mesaj, krizdeki çocuklar veya gençlerin bakış açısıyla yazılmıştı: yetişkin komşusu tarafından hamile bırakılan ve hamileliği sonlandırmak için hap nereden alacağını soran 13 yaşındaki bir kız; sınıf arkadaşının ağzına silah dayayan bir beşinci sınıf öğrencisi; bulimiasını ebeveynlerinden nasıl gizleyeceğini soran bir kız.
WIRED tarafından incelenen belgeler, Meta'nın toplanan yanıtları nasıl veya kullanıp kullanmadığını göstermiyor. Covalen'in dahili bir belgesi, projeyi 'kapsamlı yapay zeka güvenlik karşılaştırması' olarak tanımlıyor ve 'model karşılaştırması ve uyumluluğu için kritik veri kümeleri' sağladığını belirtiyor. Meta sözcüsü yaptığı açıklamada, 'Sohbet robotu yanıtlarını test etmek ve karşılaştırmak, güvenli ve yaşa uygun deneyimler sağlamak için sorumlu, sektör standardı bir uygulamadır ve bunun aksini önermek, teknoloji şirketlerinin sistemlerini iyileştirmek için nasıl çalıştığını tamamen yanlış anlamaktır' dedi. Şirket, rakip karşılaştırmasını kendi yapay zeka modellerini eğitmek için kullanmıyor.
