Yakın gelecekte, yapay zeka destekli gözetim sistemleri, kamusal alanda yaptığımız her şeyi ve özel alanda yaptıklarımızın çoğunu izleyebilecek. Hırsızlık, çöp atma, kırmızı ışıkta geçme gibi herhangi bir kural ihlali anında tespit edilecek, kayıtlara geçirilecek ve resmi hükümet kaydınıza işlenecek. Üstelik bu ihlaller size anında bildirilecek ve ilgili yetkililere gerçek zamanlı uyarılar gönderilecek. Hız kameralarının steroidli versiyonu olarak düşünülebilecek bu sistemler, sadece hız sınırlarını değil, aklınıza gelebilecek her kuralı denetleyecek. Ceza artık haftalar sonra posta kutusunda değil, olay yerinde anında karşınıza çıkacak.
Bu sistemler, güçlü yapay zeka, gerçek zamanlı yüz tanıma ve dijital takip yoluyla kamusal ve özel gözetimi, devasa veritabanlarını ve son derece kişiselleştirilmiş kural uygulamayı birleştirecek. Ölçeklendirildiğinde, bu teknolojinin sadece bireysel özgürlükler üzerinde değil, demokrasi ve toplumsal ilerleme üzerinde de derin caydırıcı etkileri olacak. Çin, yıllardır gözetim altyapısını geliştiriyor; 600 milyondan fazla kamera ile yasal ve sosyal kuralları uygulamak için yapay zeka ve yüz tanıma kullanıyor. Örneğin, Lao Duan adlı bir vatandaş, işini kaybettikten sonra kredilerini ödeyemediği için kara listeye alındı ve Pekin'de bir kavşakta yüz tanıma sistemi tarafından tespit edilerek, büyük bir elektronik panoda adı ve kimlik numarasıyla 'güvenilmez kişi' olarak teşhir edildi.
Yapay zeka gözetimi artık Kuzey Amerika, Güney Amerika, Avrupa, Asya ve Afrika'da deneniyor. ABD İç Güvenlik Bakanlığı, göçmenler, muhalifler, gazeteciler ve protestocuları izlemek için yüz tanıma ve sosyal medya izleme dahil olmak üzere yapay zeka tabanlı gözetimi hızla artırıyor. Sistemler görünüşte güvenlik ve kamu düzeni için kullanılsa da, asıl amaç genellikle toplumsal kontrol. Oracle CEO'su Larry Ellison'ın ifadesiyle, 'Vatandaşlar sürekli kayıt altına alındıkları ve raporlandıkları için en iyi davranışlarını sergileyecekler.' Bu caydırıcılık, sistemin asıl amacı.
Nasıl Önlem Alınmalı?
Yapay zeka gözetimi, teknik önyargılar, denetlenemeyen sistemler ve ayrımcılığı teşvik edebilecek esnek olmayan otomatik kural uygulama gibi bir dizi kamu politikası sorununu beraberinde getiriyor. Ancak en acil ve uzun vadeli etki, daha geniş caydırıcılık etkisi olacak. Jon Penney'nin 'Chilling Effects' adlı kitabında belirttiği gibi, gözetim, kişiselleştirme, belirsizlik ve otorite, caydırıcı etkilerin ölçeğini ve etkisini artıran temel mekanizmalardır. İnsanlar sözlerini ve eylemlerini sansürler, daha uyumlu ve itaatkar hale gelirler. Mekanizmalar ne kadar güçlü ve çok sayıda olursa, soğutma etkisi de o kadar büyük olur.
Sistem Güvenliği
Bilgisayarlaşma uzun süredir konum takibi, iletişim listeleri ve harcama alışkanlıklarının izlenmesine olanak tanıyordu. Ancak yeni olan, bu mekanizmaların benzeri görülmemiş bir şekilde birleşmesi ve sürekli hale gelmesi. Yapay zeka, iletişimlerimizin içeriğini gözetleme ve nerede olduğumuz, ne yaptığımız hakkında karmaşık soruları yanıtlama yeteneği getiriyor. Daha önce insan analistler gerektiren eylemler artık otomatikleşiyor. Sonuç, korku, otosansür ve grup düşüncesinin hakim olduğu, muhalefet, yaratıcılık ve yeniliğin giderek nadir hale geldiği, toplumsal düzeyde süper şarjlı bir caydırıcılık etkisi olacak.
Teknik Analiz
Bu korku ve uyum atmosferinde, riskli fikirler, sosyal aktivizm ve kendini yeniden keşfetme, özellikle hoş karşılanmayan gruplar ve hedef nüfuslar tarafından caydırılacak. Bu da toplumsal ilerleme üzerinde uzun vadeli etkilere yol açacak. Örneğin, eşcinsel ilişkilerin ve marihuana kullanımının toplumsal normalleşmesi, onlarca yıl süren bir süreçti. Bu fikirler, ahlaksız ve yasa dışı olmaktan, ahlaki ama yasa dışı, sonunda ahlaki ve yasal hale geldi. Ancak bunun gerçekleşmesi için, deney yapabilen ve sonunda ahlakın zamanla değişebileceğini dünyaya gösterebilen bir karşı kültürün var olması gerekiyordu. Yapay zeka gözetimi, bu tür deneyleri kamusal veya özel alanda caydırdığı ölçüde, toplumsal ilerleme imkansız hale gelir.
Bu teknolojilerin tarihsel emsalleri yok; çok yeni. ABD tarihinin en kötü şöhretli kitlesel iç gözetim programı bile (FBI'ın 1950'lerdeki komünist takibi) modern yapay zeka gözetimi karşısında arkaik kalıyor. Doğu Almanya'nın insan merkezli gözetim ağı da öyle. Sadece George Orwell veya Aldous Huxley gibi bilim kurgu yazarlarının eserleri yaklaşıyor, ancak Big Brother'ın 'telescreen'i bile 20. yüzyıl ortalarına ait hissediyor.
Önemli Gelişmeler
Ancak boş durmamıza gerek yok. Yapay zeka destekli kitlesel gözetimin tehlikesini fark ettiğimize göre, bunu uygulamama politikaları seçebiliriz. Yüz tanıma ve diğer kimlik tespit teknolojilerine yasaklar, gelişimi yavaşlatabilir; güçlü yeni gizlilik ve veri korumaları, veri takibini ve saklanmasını kısıtlayabilir; yapay zeka düzenlemeleri, en müdahaleci kullanımlarını sınırlayabilir; ve yapısal reformlar, güçlü devlet/teknoloji ortaklıklarını incelememize ve dağıtmamıza yardımcı olabilir.
Kaynak: schneier.com
