Think Family Veritabanı, İngiltere'nin Bristol şehrinde yaşayan yarım milyona yakın insanın kayıtlarını tutuyor. Uzun yıllar boyunca çok az kişi bu konuda bir şeyler biliyordu.
2016 yılında Bristol Belediye Meclisi ve bölgesel Avon ve Somerset Polisi tarafından başlatılan veri tabanı, polis istihbarat raporları, barınma durumu, akıl sağlığı kayıtları, ergenlik dönemindeki hamilelikler, ebeveynlik kurslarına kayıt, ücretsiz okul yemekleri gibi her türlü hassas bilgiyi saklıyor. Yetkililer, bu hassas verilere ek olarak binlerce yetişkine ve çocuğa puan vermek için makine öğrenimi modelleri oluşturdu. Bölgede “tehdit, zarar ve risk tablosu” dedikleri tabloyu oluşturmayı umuyorlardı. Yetkililerin çocuk istismarı suçlarıyla mücadele etmesine yardımcı olmak amacıyla 2022'nin başlarında düzenlenen bir etkinlikte, bir polis veri bilimcisi yaklaşımın bir kısmını şu şekilde açıkladı: "Aslında tüm bu verileri büyük bir kovaya atıyorum ve bir veri bilimi spatulasıyla karıştırıyorum ve ortaya herkes için güzel bir risk puanı çıkıyor."
WIRED bu makaleyi herkesin okuması için ücretsiz hale getirdi çünkü bu makale öncelikle kamuya açık kayıt taleplerinden gelen raporlamaya dayanıyor. Gazeteciliğimize destek olmak için lütfen abone olmayı unutmayın.
Think Family Veritabanındaki bu risk puanlaması, Avon ve Somerset Police'in genişleyen tahmine dayalı analitik programının yalnızca bir parçasıydı. Gücün yarattığı en az 23 ayrı model arasında, insanların hırsızlık yapma, mahkemeye çıkmama, kaybolma veya aile içi şiddet mağduru olma riskini belirleyen algoritmalar vardı. Kıdemli bir memur, bölgenin en tehlikeli suçlularından oluşan bir "birlik tablosu" oluşturulduğunu açıkladı; bu, bölgede yaklaşık 300.000 kişi hakkında veri tutmak üzere tasarlanan Suçlu Yönetimi Uygulamasına açık bir göndermedir.
John Pegram, polisin Suçlu Yönetimi Uygulamasını iptal etmesini istediğini söyledi. Fotoğraf: Alice Hayvanat Bahçesi
Polisin tahmin araçlarını nasıl geliştirip kullandığı kamuoyu için her zaman açık değildir. Bristol'deki yerel polis sorumluluk grubunun lideri John Pegram, Suçlu Yönetimi Uygulaması'ndan 2023 yılına kadar, yani oluşturulduğu tarihten yıllar sonraya kadar haberi olmadığını söylüyor. Bunu öğrendiğinde kendisinin de dahil olabileceğinden şüphelenmeye başladı. Pegram, "Sanırım uygulamada olduğumu biliyordum" diyor.
2024'ün başlarında Pegram, polisin kendi verilerini nasıl kullandığını öğrenmek için bir talepte bulundu. Polis söylemeyi reddetti. Aylar sonra, Pegram'ın davası üzerinde çalışması için avukat tutmasının ardından polis onun uygulamada olduğunu doğruladı ancak daha fazla ayrıntı vermeyi reddetti. Bristol, Birleşik Krallık ve giderek dünya genelindeki diğer kişiler gibi Pegram da bir algoritma tarafından puanlanıp puanlanmadığını, bu puanın ne olabileceğini veya bunun yetkililerle olan etkileşimlerini nasıl etkileyeceğini bilmiyordu.
Kâr amacı gütmeyen haber merkezi Liberty Investigates ve Bristol Cable and Lighthouse Reports ile ortaklaşa çalışan WIRED, Avon ve Somerset'in veri toplama ve tahmine dayalı analitikle ilgili bölgesel deneyinin bugüne kadarki en kapsamlı resmini oluşturmak için kamuya açık kayıt taleplerinden yüzlerce sayfalık belge elde etti. (Liberty Investigates'in ana kuruluşu olan Liberty, programa yönelik olası bir yasal itiraza erken müdahalede bulundu ve Pegram'ın davasını desteklemeye devam ediyor.)
Araştırma, bu risk puanlama modellerinden en az ikisinin, Bristol Belediye Meclisi personelinin artık onlara güvenemeyeceklerini düşünmesinin ardından sessizce terk edildiğini ortaya koyuyor. Daha önce yayınlanmayan belgeler, hükümet müfettişlerinin ve bağımsız incelemecilerin, programın bazı unsurları hakkında şaşırtıcı derecede şeffaflık eksikliğine dikkat çektiğini ve sistemlerin halkın güvenini sarsabileceği konusunda uyarıda bulunduğunu gösteriyor. WIRED'e açıklanan ve 36.000'den fazla model performans puanı içeren polis verileri, WIRED verilerini inceleyen bağımsız bir analiste göre bazı durumlarda "gerçekten zayıf tahmin performansı" gösteriyor gibi görünüyor.
