Yakın gelecekte, yapay zeka destekli gözetim sistemleri kamusal alanlarda yaptığımız her şeyi ve özel alanlardaki eylemlerimizin büyük bir kısmını takip edebilecek. Bir hata yaptığımızda – hırsızlık, çöp atma, kırmızı ışıkta geçme gibi – sistem bunu fark edecek, kaydedecek, resmi devlet kaydımıza işleyecek, bize bildirecek ve ilgili yetkililere gerçek zamanlı uyarılar gönderecek; hatta belki de kamuoyuna duyuracak. Bu sistemleri otomatik hız kameralarının steroidli versiyonu olarak düşünebiliriz; yalnızca hız limitlerini değil, akla gelebilecek her kuralı uygulayacaklar. Üstelik cezalar haftalar sonra posta yoluyla gelmeyecek; ihlal anında haberdar olup para cezası ödeyeceksiniz.
Bu sistemler, güçlü yapay zekayı, gerçek zamanlı yüz tanıma ve dijital izleme yoluyla kamusal ve özel gözetimi, devasa veritabanlarını ve son derece kişiselleştirilmiş kolluk kuvvetlerini birleştirecek. Büyük ölçekte uygulandığında, yalnızca kişisel özgürlükler üzerinde değil, demokrasi ve sosyal ilerleme üzerinde de derin soğutma etkileri yaratacak. Çin, yıllardır gözetim altyapısını geliştiriyor; ülkede 600 milyondan fazla gözetim kamerası bulunuyor ve bunlar giderek yapay zeka ve yüz tanıma ile destekleniyor. İşini kaybeden Lao Duan örneğinde olduğu gibi, sistem borçlarını ödeyemediği için kara listeye alınan bir vatandaşın yüzünü Pekin'deki bir kavşakta tespit edip, adı ve kimlik numarasıyla birlikte büyük bir elektronik panoda 'güvenilmez kişi' olarak sergiledi. Benzer sistemler Çin genelinde yaygınlaşıyor ve rezil çevrimiçi izleme, sansür ve sosyal kredi sistemleriyle entegre ediliyor.
Yapay zeka gözetimi artık Kuzey Amerika, Güney Amerika, Avrupa, Asya ve Afrika'da deneniyor. ABD İç Güvenlik Bakanlığı'nın göçmenler, muhalifler, gazeteciler ve protestocuları izlemek için yüz tanıma ve sosyal medya takibi dahil yapay zeka tabanlı gözetimi hızla artırdığı bildiriliyor. Sistemler görünüşte güvenlik ve kamu düzeni için kullanılsa da, asıl amaç genellikle sosyal kontrol. Oracle CEO'su Larry Ellison'ın 'Vatandaşlar sürekli kayıt altına alındıkları ve raporlandıkları için en iyi davranışlarını sergileyecekler' sözü, soğutma etkisinin asıl hedef olduğunu gösteriyor.
Sonuç ve Değerlendirme
AI gözetimi, teknik önyargılar, denetlenemeyen sistemler ve ayrımcılığı körükleyebilecek esnek olmayan otomatik kolluk uygulamaları gibi bir dizi kamu politikası sorununu beraberinde getiriyor. Ancak en acil ve uzun vadeli etkinin daha geniş soğutma etkileri olduğuna inanıyoruz. Jon Penney'in 'Soğutma Etkileri: Dijital Çağda Baskı, Uyum ve Güç' adlı kitabında açıkladığı gibi, gözetim, teknoloji ve güç, davranışları büyük ölçekte etkilemek için silah haline getirilebilir. Gözetim, kişiselleştirme, belirsizlik ve otorite, soğutma etkilerinin ölçeğini ve etkisini artıran temel mekanizmalardır. İnsanlar sözlerini ve eylemlerini sansürler, daha uyumlu ve itaatkar hale gelir, böylece yönetilmesi ve kontrol edilmesi kolaylaşır. Etkiler birikimlidir: ne kadar çok mekanizma kullanılırsa ve ne kadar güçlü olursa, soğutma o kadar büyük olur.
Bilgisayarlaşma uzun süredir veri toplayıcılarının konumlarımızı takip etmesine, iletişim kurduğumuz kişilerin listelerini toplamasına ve harcama alışkanlıklarımızı izlemesine olanak tanıyordu. Yeni olan, bu mekanizmaların her birinin eşi görülmemiş bir şekilde birleşmesi, kalıcı ve amansız olması. Yapay zeka, iletişimlerimizin içeriğini gözetleme ve nerede olduğumuz, ne yaptığımız hakkında karmaşık soruları yanıtlama yeteneği getiriyor; daha önce insan analist gerektiren eylemler artık otomatikleşiyor. Sonuç, korku, öz sansür ve grup düşüncesinin hüküm sürdüğü, muhalefet, yaratıcılık ve yeniliğin giderek nadir hale geldiği, toplumsal düzeyde aşırı yüklü bir soğutma etkisi olacak.
Bu korku ve uyum atmosferinde, riskli fikirler, sosyal aktivizm ve kendini yeniden keşfetme – özellikle dezavantajlı gruplar ve hedeflenen nüfuslar tarafından – da soğutuluyor. Bunun sosyal ilerleme üzerinde uzun vadeli etkileri olacak. Aynı cinsiyet ilişkilerinin ve esrarın eğlence amaçlı kullanımının toplumsal normalleşmesini düşünün. On yıllar boyunca bu fikirler yavaş yavaş ahlaksız ve yasa dışı olmaktan, ahlaki ama hala yasa dışı olmaya ve nihayetinde hem ahlaki hem de yasal olmaya doğru ilerledi. Ancak bunun olması için, deney yapabilen ve sonunda dünyaya ahlakın zamanla değişebileceğini gösterebilen bir karşı kültürün olması gerekiyordu. Yapay zeka gözetimi, bu tür deneyleri kamusal veya özel alanda engellediği ölçüde, sosyal ilerleme imkansız hale gelir.
Bu teknolojiler o kadar yeni ki, gerçek tarihsel emsalleri yok. ABD tarihinin en kötü şöhretli büyük ölçekli iç gözetim programı olan FBI'ın 1950'ler ve 1960'larda komünist olduğu iddia edilen kişileri izlemek için kullandığı telefon dinleme, fiziksel mektup açma, muhbirler ve kağıt kart indeksleri bile modern yapay zeka destekli gözetim karşısında arkaik kalıyor. Soğuk Savaş döneminde Doğu Almanya'nın insan merkezli gözetim ağı da öyle. George Orwell veya Aldous Huxley gibi yazarların bilim kurgusu yaklaşıyor; ancak Big Brother'ın 'telekranı' bile karşılaştırıldığında kesinlikle 20. yüzyıl ortasına ait hissettiriyor.
Sistem Güvenliği
Ancak boş oturmamıza gerek yok. Yapay zeka destekli kitlesel gözetimin tehlikesini fark ettiğimize göre, bunu uygulamamak için politika seçimleri yapabiliriz. Yüz tanıma ve diğer kimlik belirleme teknolojilerine yasaklar gelişimi yavaşlatabilir; güçlü yeni gizlilik ve veri korumaları veri takibini ve saklanmasını kısıtlayabilir; yapay zeka düzenlemeleri en müdahaleci kullanımlarını sınırlayabilir; ve yapısal reformlar, güçlü devlet/teknoloji ortaklıklarını incelememize ve parçalamamıza yardımcı olabilir.
Kaynak: schneier.com
