İngiltere'nin Bristol kentinde, polis ve belediye iş birliğiyle hayata geçirilen Think Family Veritabanı, yaklaşık yarım milyon kişiye ait hassas bilgileri barındırıyor. 2016'da başlatılan bu sistem, polis istihbarat raporları, konut durumu, ruh sağlığı kayıtları, genç hamilelikler, ebeveynlik kurslarına katılım ve ücretsiz okul yemekleri gibi çok çeşitli verileri depoluyor. Yetkililer, bu veriler üzerine makine öğrenimi modelleri inşa ederek binlerce yetişkin ve çocuğa risk puanı atadı. Amaçları, bölgedeki 'tehdit, zarar ve risk tablosu' oluşturmaktı.
Ancak WIRED, Liberty Investigates, Bristol Cable ve Lighthouse Reports ortaklığıyla yürütülen bir araştırma, bu risk puanlama modellerinden en az ikisinin, Bristol Belediyesi çalışanları tarafından güvenilmez bulunarak sessizce terk edildiğini ortaya koydu. Daha önce raporlanmayan belgeler, hükümet denetçileri ve bağımsız incelemecilerin programın bazı unsurlarındaki şeffaflık eksikliğine dikkat çektiğini ve bu sistemlerin kamu güvenini zedeleyebileceği uyarısında bulunduğunu gösteriyor.
Avon ve Somerset Polisi'nin kapsamlı tahmine dayalı analitik programının bir parçası olan Think Family Veritabanı dışında, en az 23 ayrı model daha geliştirildi. Bunlar arasında hırsızlık yapma riski, mahkemeye gelmeme, kaybolma veya aile içi şiddet mağduru olma gibi durumları tahmin etmeye yönelik algoritmalar bulunuyor. Bir üst düzey polis memuru, bölgedeki en tehlikeli suçluların 'lig tablosunu' oluşturduklarını belirtti; bu, yaklaşık 300 bin kişi hakkında veri tutmak üzere tasarlanan Offender Management App'e (Suçlu Yönetim Uygulaması) bir atıftı.
WIRED'e sağlanan polis verileri, 36 binden fazla model performans puanı içeriyor. Verileri bağımsız olarak analiz eden bir uzman, bu puanların bazı durumlarda 'gerçekten kötü tahmin performansı' gösterdiğini söyledi. Bristol'deki yerel bir polis hesap verebilirlik grubunun lideri John Pegram, Offender Management App'in varlığını 2023'e kadar duymadığını ve uygulamada yer aldığından şüphelendiğini belirtti. 2024'te polise başvuran Pegram, verilerinin nasıl kullanıldığını öğrenmek istedi ancak polis bilgi vermeyi reddetti.
Bu durum, Birleşik Krallık ve dünya genelinde giderek yaygınlaşan bir soruna işaret ediyor: Vatandaşlar, algoritmalar tarafından puanlanıp puanlanmadığını, puanlarının ne olduğunu ve bunun yetkililerle etkileşimlerini nasıl etkileyebileceğini bilmiyor. Uzmanlar, bu tür sistemlerin şeffaflık ve hesap verebilirlik olmadan kamu güvenini ciddi şekilde zedeleyebileceği uyarısında bulunuyor.
Sonuç ve Değerlendirme
Bristol örneği, suç tahmininde yapay zeka kullanımının etik ve pratik zorluklarını gözler önüne seriyor. Veri güvenliği, mahremiyet, ayrımcılık riski ve algoritmik önyargı gibi konular, bu teknolojilerin sorumlu bir şekilde kullanılması için ele alınması gereken başlıca sorunlar arasında. Uzmanlar, polis ve diğer kamu kurumlarının bu tür sistemleri geliştirirken bağımsız denetim, kamu katılımı ve şeffaflık ilkelerini benimsemesi gerektiğini vurguluyor.
Kaynak: wired.com
