İngiltere'nin Bristol kentinde polis ve belediye iş birliğiyle 2016 yılında hayata geçirilen Think Family Database, yaklaşık yarım milyon kişiye ait hassas bilgileri bünyesinde barındırıyordu. Polis istihbarat raporları, konut durumu, ruh sağlığı kayıtları, gençlik hamilelikleri, ebeveynlik kurslarına katılım ve ücretsiz okul yemekleri gibi son derece özel verilerin toplandığı bu veri tabanı, üzerine inşa edilen makine öğrenimi modelleriyle binlerce yetişkin ve çocuğa risk puanı atamak için kullanıldı. Yetkililer, bu sistemle bölgedeki 'tehdit, zarar ve risk tablosu' çıkarmayı hedeflediklerini açıkladı.
Sistemin işleyişini anlatan bir polis veri bilimcisi, 2022 başında düzenlenen bir etkinlikte şu ifadeleri kullandı: 'Tüm verileri büyük bir kovaya döküp veri bilimi spatulasıyla karıştırıyorum ve herkes için güzel bir risk puanı çıkarıyorum.' Ancak bu yaklaşım, kısa sürede güvenilirlik sorunlarını da beraberinde getirdi. WIRED, Liberty Investigates, Bristol Cable ve Lighthouse Reports iş birliğiyle yürüttüğü kapsamlı soruşturmada, en az iki risk puanlama modelinin, Bristol Belediyesi çalışanlarının 'artık güvenemeyiz' kararıyla sessizce terk edildiğini ortaya çıkardı.
Avon ve Somerset Polisi'nin geliştirdiği en az 23 ayrı model arasında, hırsızlık yapma riski, mahkemeye gelmeme, kaybolma veya aile içi şiddete maruz kalma gibi farklı suç ve olayları tahmin etmeye yönelik algoritmalar yer alıyordu. Üst düzey bir polis memuru, bölgenin 'en tehlikeli suçlularının sıralama tablosu' oluşturduklarını belirterek, Offender Management App adlı uygulamaya atıfta bulundu. Bu uygulamanın bölgedeki yaklaşık 300 bin kişiye ait veriyi barındırdığı tahmin ediliyor.
Sonuç ve Değerlendirme
Bristol'deki yerel bir polis hesap verebilirlik grubunun lideri John Pegram, Offender Management App'ten ilk kez 2023'te haberdar olduğunu söylüyor. Sistemin yıllardır kullanımda olmasına rağmen kamuoyunun bilgisinin olmaması dikkat çekici. Pegram, uygulamada kendisinin de yer aldığını düşünerek 2024 başında polise başvurdu ancak polis bilgi vermeyi reddetti. Aylar sonra, avukatları aracılığıyla yaptığı girişimler sonucunda uygulamada olduğu doğrulansa da, nasıl bir risk puanına sahip olduğu veya bu puanın yetkililerle etkileşimlerini nasıl etkilediği konusunda hiçbir bilgi alamadı.
Gelecekte Ne Bekleniyor?
WIRED'in elde ettiği 36 binden fazla model performans puanını inceleyen bağımsız analist, bazı modellerin 'gerçekten zayıf tahmin performansı' sergilediğini belirtti. Daha önce yayınlanmamış belgeler ise hükümet denetçileri ve bağımsız değerlendiricilerin, programın bazı unsurlarındaki şeffaflık eksikliğine dikkat çekerek sistemlerin kamu güvenini zedeleyebileceği uyarısında bulunduğunu gösteriyor. Bu durum, yapay zeka destekli suç tahmin sistemlerinin etik ve güvenilirlik sorunlarını bir kez daha gündeme taşıyor.
Bristol'deki bu skandal, dünya genelinde polis teşkilatlarının giderek daha fazla kullandığı tahmine dayalı analitik araçların potansiyel risklerini gözler önüne seriyor. Kişisel verilerin korunması, algoritmik şeffaflık ve bu tür sistemlerin hukuki çerçevesi konusunda ciddi soru işaretleri oluşuyor. John Pegram, sistemin tamamen kaldırılmasını isterken, uzmanlar benzer uygulamaların başka bölgelerde de sorgulanması gerektiğini vurguluyor. Olay, teknolojinin suçla mücadelede vaat ettiği faydaların yanında, bireysel haklara saygı gösterilmesi gerektiğini hatırlatıyor.
Kaynak: wired.com
