Popüler iletişim platformu Discord, güvenlik sistemlerindeki bir hatanın Mayıs 2026'dan bu yana yaklaşık 8.200 hesabın haksız yere yasaklanmasına neden olduğunu açıkladı. Şirketin destek ekibi, X üzerinden yaptığı açıklamada, sorunun özellikle geçtiğimiz hafta sonu 200 hesabı etkilediğini ancak aslında aylardır süregelen bir problem olduğunu belirtti. Hata, kare ızgaralı görüntülerin (spreadsheet, satranç tahtası, Minecraft envanteri gibi) yanlışlıkla çocuk istismarı materyali olarak işaretlenmesinden kaynaklandı.
Discord, yapay zeka destekli içerik denetleme araçları kullanıyor ve bu araçlar bilinen zararlı materyalleri kullanıcı paylaşımlarıyla karşılaştırıyor. Normalde bu tür yanlış pozitiflerde hesaplar geçici olarak askıya alınıp insan denetçiler tarafından inceleniyor. Ancak şirket, bir yazılım hatası nedeniyle hesapların doğrudan yasaklandığını ve denetçiler tarafından temizlendikten sonra bile yasağın otomatik olarak kaldırılmadığını itiraf etti. Destek ekibi, 'Amaç, inceleme sırasında yüklemeleri geçici olarak durdurmaktı, hesabı yasaklamak değil. Bir hata, ikincisine neden oldu' ifadelerini kullandı.
Discord, bu hatanın yaklaşık iki ay boyunca fark edilmeden devam etmesinin utanç verici olduğunu kabul etti. Şirket, haksız yere yasaklanan tüm hesapların geri getirildiğini ve benzer hataların tekrarlanmaması için daha iyi güvenlik önlemleri üzerinde çalıştıklarını duyurdu. Kullanıcılardan özür dileyen ekip, 'Bu açıklama, hesabınız yasaklandıysa tatmin edici değil, biliyoruz. Bunu daha erken fark etmeliydik' dedi.
Olay, otomatik içerik denetleme sistemlerinin ne kadar kırılgan olabileceğini bir kez daha gözler önüne serdi. Discord, gelecekte bu tür hataların önüne geçmek için daha sıkı kontroller ve insan denetiminin daha etkin kullanılmasını planladığını belirtti. Kullanıcıların mağduriyetini gidermek için çalışan şirket, güvenlik sistemlerinin masum kullanıcıları cezalandırmaması için yeni önlemler alacağını taahhüt etti.
