Yapay zeka (YZ) destekli gözetim sistemleri, yakın gelecekte kamusal alandaki her hareketimizi ve özel alanımızdaki birçok eylemi izleyebilecek. Hırsızlık, çöp atma, yaya geçidi ihlali gibi herhangi bir kural ihlali anında tespit edilecek, kayıtlara geçirilecek ve resmi devlet kayıtlarınıza işlenecek. Sistem, ihlali size bildirirken ilgili yetkililere ve hatta belki de genel kamuoyuna anlık uyarılar gönderecek. Bu sistemler, otomatik hız kameralarının steroidli versiyonu gibi düşünülebilir; yalnızca hız sınırını değil, akla gelebilecek her kuralı uygulayacaklar. Ceza haftalar sonra postayla gelmeyecek; ihlal anında bilgilendirilecek ve para cezası kesilecek.
Bu sistemler, güçlü YZ, gerçek zamanlı yüz tanıma ve dijital takip yoluyla kamusal ve özel gözetim, devasa veritabanları ve son derece kişiselleştirilmiş uygulama yöntemlerini birleştirecek. Ölçekli olarak devreye alındığında, yalnızca kişisel özgürlükler üzerinde değil, demokrasi ve toplumsal ilerleme üzerinde de derin caydırıcı etkiler yaratacak. Çin, yıllardır gözetim altyapısını geliştiriyor; ülkede 600 milyonun üzerinde güvenlik kamerası bulunuyor ve bunlar giderek YZ ve yüz tanıma ile güçlendirilerek yasal ve sosyal kuralları uygulamak için kullanılıyor. Lao Duan örneğinde olduğu gibi, bir Çin vatandaşı işini kaybettikten sonra kredilerini ödeyemeyince sistem tarafından kara listeye alındı ve Pekin'de yüz tanıma ile tespit edilerek büyük bir elektronik panoda yüzü, adı ve kimlik numarası 'güvenilmez kişi' olarak sergilendi.
YZ gözetimi sadece Çin'le sınırlı değil; Kuzey Amerika, Güney Amerika, Avrupa, Asya ve Afrika'da deneyler yapılıyor. ABD İç Güvenlik Bakanlığı, göçmenler, muhalifler, gazeteciler ve protestocuları izlemek için yüz tanıma ve sosyal medya takibini de içeren YZ tabanlı gözetimi hızla artırıyor. Oracle CEO'su Larry Ellison'ın 'Vatandaşlar, sürekli kayıt ve raporlama yaptığımız için en iyi davranışlarını sergileyecekler' sözü, asıl amacın sosyal kontrol olduğunu gösteriyor. Teknik önyargılar, denetlenemeyen sistemler ve esnek olmayan otomatik uygulama, ayrımcılığı körükleyebilir ve şeffaflık, hesap verebilirlik ile hukukun üstünlüğünü zayıflatabilir.
Gelecekte Ne Bekleniyor?
Jon Penney'in 'Chilling Effects' kitabında açıkladığı gibi, gözetim, teknoloji ve güç, davranışları kitlesel ölçekte etkilemek için silah haline getirilebilir. Gözetim, kişiselleştirme, belirsizlik ve otorite, caydırıcı etkilerin ölçeğini ve etkisini artıran temel mekanizmalardır. İnsanlar sözlerini ve eylemlerini sansürler, daha uyumlu ve itaatkar hale gelir, böylece yönetilmesi ve kontrol edilmesi kolaylaşır. Bilgisayarlaşma uzun süredir konumlarımızı takip etmemize, iletişim kurduğumuz kişilerin listelerini toplamamıza ve harcama alışkanlıklarımızı izlememize olanak tanıyordu. Yeni olan, bu mekanizmaların benzeri görülmemiş bir birleşimi: YZ, iletişimlerimizin içeriğini gözetleme ve nerede olduğumuz, ne yaptığımız hakkında karmaşık soruları yanıtlama yeteneği getiriyor. Sonuç, korku, otosansür ve grup düşüncesinin hakim olduğu, muhalefetin, yaratıcılığın ve yeniliğin giderek nadirleştiği bir tür süper güçlendirilmiş toplumsal caydırıcılık olacak.
Bu korku ve uyum atmosferinde, riskli fikirler, sosyal aktivizm ve kendini yeniden keşfetme – özellikle de gözden düşmüş gruplar ve hedeflenen nüfuslar tarafından – caydırılacak. Eşcinsel ilişkilerin veya esrarın rekreasyonel kullanımının toplumsal normalleşmesi gibi örnekler, bir karşı kültürün deney yapabilmesi ve ahlakın zamanla değişebileceğini göstermesi sayesinde mümkün olmuştur. YZ gözetimi, bu tür deneyleri kamusal veya özel alanda caydırdığı ölçüde toplumsal ilerleme imkansız hale gelir.
Sonuç ve Değerlendirme
Bu teknolojilerin tarihsel bir öncülü yok; çok yeni. ABD tarihinin en kötü şöhretli kitlesel iç gözetim programı olan FBI'ın 1950'ler ve 1960'lardaki komünist takibi bile modern YZ destekli gözetim karşısında arkaik kalıyor. Soğuk Savaş döneminde Doğu Almanya'nın insan merkezli gözetim ağı da aynı şekilde. Yalnızca George Orwell veya Aldous Huxley gibi bilim kurgu yazarları yaklaşabiliyor, ancak Big Brother'ın 'tele-ekranı' bile 20. yüzyıl ortasına ait bir teknoloji gibi kalıyor. Ancak çaresiz değiliz; tehlikenin farkına vardığımıza göre, bu sistemleri uygulamama kararı alabiliriz. Yüz tanıma ve diğer kimlik tespit teknolojilerine yasaklar, gelişimi yavaşlatabilir; güçlü yeni gizlilik ve veri korumaları, veri takibini ve saklamasını kısıtlayabilir; YZ düzenlemeleri en müdahaleci kullanımları sınırlayabilir; yapısal reformlar ise güçlü devlet/teknoloji ortaklıklarını incelememize ve dağıtmamıza yardımcı olabilir.
Kaynak: schneier.com
