Popüler iletişim platformu Discord, güvenlik sistemlerindeki bir yazılım hatası nedeniyle Mayıs 2026'dan bu yana yaklaşık 8.200 hesabın hatalı şekilde yasaklandığını açıkladı. Şirketin destek ekibi, geçtiğimiz günlerde X üzerinden yaptığı açıklamada, özellikle hafta sonu yaşanan yoğunlukta yaklaşık 200 hesabın bu hatadan etkilendiğini, ancak sorunun Mayıs ayına kadar uzandığını belirtti. Hatanın, kare ızgaralı görsellerin (örneğin spreadsheets, satranç tahtaları veya Minecraft envanter menüsü) yanlışlıkla çocuk cinsel istismar materyali olarak işaretlenmesinden kaynaklandığı ifade edildi.
Discord, yapay zeka destekli içerik denetleme araçları kullanarak kullanıcıların paylaşımlarını bilinen zararlı materyallerle karşılaştırıyor. Şirket, bu sistemin yanlış pozitifler üretebildiğini ve normalde şüpheli hesapların yasaklanmadan önce Güven ve Güvenlik ekibi tarafından incelendiğini vurguladı. Ancak yaşanan yazılım hatası, bu inceleme sürecinde yüklemenin geçici olarak durdurulması yerine hesapların kalıcı olarak yasaklanmasına neden oldu. Üstelik, ekip tarafından temiz olduğu onaylanan hesapların yasağı da aynı hata yüzünden otomatik olarak kaldırılamadı.
Discord destek ekibi, hatanın yaklaşık iki ay boyunca fark edilmeden devam etmesini 'utanç verici bir hata' olarak nitelendirdi ve özür diledi. Şirket, hatalı yasaklanan tüm hesapların artık geri alındığını ve benzer sorunların tekrarlanmaması için daha iyi güvenlik önlemleri üzerinde çalıştıklarını duyurdu. Ayrıca, güvenlik sistemlerinin masum kullanıcıları cezalandırmaması için daha geniş çaplı iyileştirmeler yapılacağı belirtildi.
Bu olay, otomatik içerik denetleme sistemlerinin ne kadar kırılgan olabileceğini bir kez daha gözler önüne serdi. Discord gibi büyük platformlar, milyonlarca kullanıcının paylaşımlarını denetlemek için yapay zekaya güvenirken, yanlış pozitiflerin kullanıcı deneyimini olumsuz etkileyebileceği görülüyor. Şirketin hatayı gidermesi ve hesapları geri alması olumlu bir adım olsa da, kullanıcıların bu tür hatalara karşı daha hızlı müdahale edilmesini beklediği açık.
