Popüler iletişim platformu Discord, Mayıs 2026'dan bu yana yaşanan bir yazılım hatası nedeniyle 8.200'den fazla hesabın haksız yere yasaklandığını açıkladı. Şirket, sorunun moderasyon araçlarındaki bir hatadan kaynaklandığını ve kare ızgara şeklindeki görsellerin (örneğin Excel tabloları, satranç tahtaları veya Minecraft envanter menüsü) yanlışlıkla çocuk istismarı materyali olarak işaretlendiğini belirtti. Bu durum, geçtiğimiz hafta sonu yaklaşık 200 hesabı etkilerken, toplamda 8.200'den fazla kullanıcı bu hatadan mağdur oldu.
Discord, yapay zeka destekli içerik denetleme araçları kullanarak kullanıcıların paylaştığı içerikleri bilinen zararlı materyallerle karşılaştırıyor. Normalde, sistem sahte pozitifler üretebileceği için şüpheli hesaplar önce şirketin Trust & Safety ekibi tarafından inceleniyor ve bu inceleme sırasında yalnızca yüklemeler geçici olarak durduruluyor, hesap yasaklanmıyor. Ancak yaşanan hata nedeniyle hesaplar doğrudan yasaklandı ve inceleme sonrasında yasakların otomatik olarak kaldırılması da engellendi.
Discord Support ekibi, 7 Temmuz 2026'da yaptığı açıklamada hatanın yaklaşık iki aydır aktif olduğunu ve bu durumun utanç verici olduğunu kabul etti. 'Bunun tatmin edici bir açıklama olmadığını biliyoruz ve sorunu daha önce fark etmeliydik' diyen ekip, gelecekte benzer hataların yaşanmaması için daha iyi güvenlik önlemleri üzerinde çalıştıklarını duyurdu. Ayrıca, haksız yere yasaklanan tüm hesapların yeniden aktif hale getirildiği belirtildi.
Bu olay, yapay zeka tabanlı içerik denetleme sistemlerinin ne kadar hassas ve hatalara açık olabileceğini bir kez daha gözler önüne serdi. Discord, gelecekte bu tür hataların tekrarlanmaması için daha sıkı kontroller ve insan denetimi süreçleri geliştireceğini taahhüt ederken, kullanıcıların güvenini yeniden kazanmak için çaba harcıyor. Platform, özellikle çocuk istismarı gibi ciddi konularda hata yapmanın kabul edilemez olduğunu vurguluyor.
