Popüler iletişim platformu Discord, güvenlik sistemlerindeki bir hata nedeniyle Mayıs 2026'dan bu yana yaklaşık 8.200 hesabın haksız yere yasaklandığını açıkladı. Şirketin destek ekibi, X üzerinden yaptığı açıklamada, sorunun özellikle kare ızgaralı görsellerin (örneğin; elektronik tablolar, satranç tahtaları veya Minecraft envanter menüsü) yanlışlıkla çocuk istismarı materyali (CSAM) olarak işaretlenmesinden kaynaklandığını belirtti. Bu hata, sadece geçtiğimiz hafta sonu yaklaşık 200 hesabı etkilerken, Mayıs ayından bu yana toplamda binlerce kullanıcı mağdur oldu.
Discord'un yapay zeka destekli içerik moderasyon araçları, bilinen zararlı materyalleri kullanıcı paylaşımlarıyla karşılaştırarak çalışıyor. Şirket, sistemin yanlış pozitifler üretebildiğini kabul etse de, normalde işaretlenen hesapların yasaklanmadan önce Trust & Safety ekibi tarafından incelendiğini belirtti. Ancak bu süreçteki bir yazılım hatası, hesapların geçici olarak askıya alınması yerine kalıcı olarak yasaklanmasına neden oldu. Dahası, ekip hesapları temize çıkardığında bile aynı hata yasağın kaldırılmasını engelledi.
Discord Support hesabından yapılan açıklamada, "Bu açıklamanın hesabınız yasaklandıysa tatmin edici olmadığını biliyoruz ve bunu daha önce fark etmeliydik. Bu tür bir sessiz hatanın tekrarlanmaması için daha iyi önlemler üzerinde çalışıyoruz. Daha geniş kapsamda, güvenlik sistemlerimizin hiçbir yanlış yapmayan insanları cezalandırmamasını sağlamak için çabalıyoruz." ifadelerine yer verildi. Şirket, haksız yere yasaklanan tüm hesapların artık geri getirildiğini duyurdu.
Sonuç ve Değerlendirme
Bu olay, yapay zeka tabanlı içerik denetim sistemlerinin ne kadar kırılgan olabileceğini bir kez daha gözler önüne serdi. Discord gibi büyük platformlar, kullanıcı güvenliğini sağlarken masum kullanıcıları cezalandırmamak adına denetim mekanizmalarını sürekli iyileştirmek zorunda. Kullanıcıların, haksız yere yasaklandıklarını düşünüyorlarsa Discord destek ekibiyle iletişime geçmeleri ve itiraz sürecini başlatmaları öneriliyor.
