Popüler iletişim platformu Discord, güvenlik sistemlerindeki bir yazılım hatası nedeniyle Mayıs ayından bu yana yaklaşık 8.200 hesabın haksız yere yasaklandığını duyurdu. Şirketin destek ekibi, X platformunda yaptığı açıklamada, moderasyon araçlarındaki bir hatanın, özellikle kare ızgaralı görseller içeren paylaşımların çocuk istismarı materyali olarak yanlış işaretlenmesine yol açtığını belirtti. Bu durum, bir e-tablo, satranç tahtası veya Minecraft envanter menüsü gibi masum görsellerin bile banlanmaya neden olabileceği anlamına geliyordu.
Discord, yapay zeka destekli içerik moderasyon araçları kullanarak, kullanıcıların paylaştıklarını bilinen zararlı materyallerle karşılaştırıyor. Normalde, sistemin yanlış pozitifler üretebildiği bilindiğinden, işaretlenen hesaplar bir insan denetçi tarafından incelenmeden önce herhangi bir işlem yapılmıyor. Ancak şirket, 'amaç, inceleme sırasında yüklemeleri geçici olarak durdurmak, hesabı banlamak değildi' diyerek hatayı kabul etti. 'Bir hata, banlamaya neden oldu. Denetçiler hesapları temizlediğinde ise aynı hata, banın otomatik olarak kaldırılmasını engelledi.'
Destek ekibi, sorunun yaklaşık iki aydır aktif olduğunu ve bu süreçte sadece geçtiğimiz hafta sonu 200 hesabın etkilendiğini, ancak Mayıs ayından beri toplamda 8.200 civarında hesabın hatalı banlanmış olabileceğini belirtti. Discord, özür mesajında, 'Hesabınız etkilendiyse bunun tatmin edici bir açıklama olmadığını biliyoruz ve bunu daha önce fark etmeliydik' ifadelerine yer verdi. Şirket, gelecekte benzer hataların önüne geçmek için daha iyi güvenlik önlemleri üzerinde çalıştıklarını duyurdu.
Discord, yanlışlıkla banlanan tüm hesapların geri getirildiğini ve mağdur kullanıcıların hesaplarına tekrar erişebildiğini açıkladı. Olay, otomatik moderasyon sistemlerinin ne kadar hassas olması gerektiğini bir kez daha gözler önüne serdi. Şirket, güvenlik sistemlerinin masum kullanıcıları cezalandırmaması için daha geniş çaplı iyileştirmeler yapacaklarını belirtti.
