Yakın gelecekte, yapay zeka destekli gözetim sistemleri, kamusal alandaki her hareketimizi ve özel alanımızın büyük bir kısmını takip edebilecek. Hırsızlık, çöp atma, yaya geçidinde kırmızı ışıkta geçme gibi herhangi bir kural ihlali anında tespit edilecek, kayda geçirilecek, resmi devlet kayıtlarına işlenecek ve ilgili makamlara gerçek zamanlı uyarılar gönderilecek. Hatta bu bilgiler kamuoyuyla da paylaşılabilecek. Bu sistemler, otomatik hız kameralarının çok daha gelişmiş bir versiyonu gibi düşünülebilir; yalnızca hız sınırlarını değil, akla gelebilecek her türlü kuralı uygulayacaklar. Cezalar haftalar sonra postayla gelmeyecek; ihlal anında bildirilecek ve para cezası kesilecek.
Bu sistemler, güçlü yapay zeka, gerçek zamanlı yüz tanıma ve dijital takip yoluyla kamusal ve özel gözetim, devasa veritabanları ve yüksek düzeyde kişiselleştirilmiş kolluk kuvvetlerini birleştirecek. Ölçekli olarak devreye alındığında, yalnızca kişisel özgürlükler üzerinde değil, demokrasi ve sosyal ilerleme üzerinde de derin soğutma etkileri yaratacak. Çin, yıllardır gözetim altyapısını geliştiriyor; ülkede 600 milyondan fazla gözetim kamerası var ve bunlar giderek yapay zeka ve yüz tanıma ile destekleniyor. Örneğin, Lao Duan adlı bir vatandaş, işini kaybettikten sonra kredilerini ödeyemediği için kara listeye alındı ve Pekin'de yüz tanıma sistemi tarafından tanınarak büyük bir elektronik reklam panosunda yüzü, adı ve kimlik numarasıyla 'güvenilmez kişi' olarak sergilendi.
Yapay zeka gözetimi, Kuzey Amerika, Güney Amerika, Avrupa, Asya ve Afrika'da deneniyor. ABD İç Güvenlik Bakanlığı, göçmenler, muhalifler, gazeteciler, hukuki gözlemciler ve protestocuları izlemek için yapay zeka tabanlı gözetimi hızla artırıyor. Oracle CEO'su Larry Ellison'ın dediği gibi: 'Vatandaşlar sürekli kayıt ve raporlama yaptığımız için en iyi davranışlarını sergileyecekler.' Soğutma etkileri asıl amaçtır. Bu sistemler, teknik önyargılar, denetlenemez sistemler ve esnek olmayan otomatik kolluk kuvvetleri gibi bir dizi kamu politikası sorununu beraberinde getiriyor. Ancak en acil ve uzun vadeli etki, daha geniş soğutma etkileri olacaktır.
Jon Penney'in 'Soğutma Etkileri: Dijital Çağda Baskı, Uyum ve Güç' adlı kitabında açıkladığı gibi, gözetim, teknoloji ve güç, davranışları ölçekli olarak etkilemek için silah haline getirilebilir. Gözetim, kişiselleştirme, belirsizlik ve otorite, soğutma etkilerinin ölçeğini ve etkisini artıran temel mekanizmalardır. İnsanların sözlerini ve eylemlerini sansürlemesine, daha uyumlu ve itaatkar olmasına neden olurlar. Ne kadar çok mekanizma kullanılırsa ve ne kadar güçlü olursa, soğutma o kadar büyük olur. Bilgisayarlaşma uzun süredir konum takibi, iletişim listeleri ve harcama alışkanlıklarının izlenmesine olanak tanıyordu; ancak yeni olan, bu mekanizmaların benzeri görülmemiş bir şekilde birleşmesi ve yapay zekanın iletişim içeriklerini analiz etme ve konumlarımız hakkında karmaşık soruları yanıtlama yeteneğidir.
Bu atmosferde korku, öz sansür ve grup düşüncesi hakim olurken, muhalefet, yaratıcılık ve yenilik giderek nadir hale gelir. Riskli fikirler, sosyal aktivizm ve kendini yeniden keşfetme - özellikle hoşlanılmayan gruplar ve hedef nüfuslar tarafından - soğutulur. Örneğin, eşcinsel ilişkilerin ve esrarın eğlence amaçlı kullanımının toplumsal olarak normalleşmesi onlarca yıl sürdü; bu fikirler yavaş yavaş ahlaksız ve yasadışı olmaktan ahlaki ancak yasadışı olmaya ve nihayetinde ahlaki ve yasal olmaya evrildi. Ancak bunun olması için deney yapabilen ve ahlakın zamanla değişebileceğini gösterebilen bir karşı kültürün olması gerekiyordu. Yapay zeka gözetimi bu tür deneyleri engellediği ölçüde sosyal ilerleme imkansız hale gelir.
Bu teknolojilerin tarihsel öncülleri yoktur. ABD tarihinin en kötü şöhretli iç gözetim programı olan FBI'ın 1950'ler ve 1960'larda komünistleri izlemek için kullandığı telefon dinleme, mektup açma, muhbirler ve kağıt kartlar, modern yapay zeka destekli gözetim karşısında arkaik kalıyor. Doğu Almanya'nın Soğuk Savaş dönemindeki insan merkezli gözetim ağı da öyle. Sadece George Orwell veya Aldous Huxley gibi bilim kurgu yazarları yaklaşabiliyor, ancak Big Brother'ın 'telescreen'i bile 20. yüzyıl ortasına ait hissettiriyor. Ancak boş oturmamıza gerek yok. Yapay zeka destekli kitlesel gözetimin tehlikesini fark ettiğimize göre, bunu uygulamama yönünde politika seçimleri yapabiliriz. Yüz tanıma ve diğer kimlik tespit teknolojilerinin yasaklanması gelişmeyi yavaşlatabilir; sağlam yeni gizlilik ve veri korumaları veri takibini ve saklamasını sınırlayabilir; yapay zeka düzenlemeleri en müdahaleci kullanımlarını kısıtlayabilir; yapısal reformlar güçlü devlet/teknoloji ittifaklarını incelememize ve dağıtmamıza yardımcı olabilir.
Kaynak: schneier.com
