Yakın gelecekte, yapay zeka destekli gözetim sistemleri, kamusal alandaki her hareketimizi ve özel alandaki birçok eylemimizi takip edebilecek. Bir hata yaptığımızda -hırsızlık, çöp atma, kırmızı ışıkta geçme gibi- sistem bunu fark edecek, kaydedecek, resmi devlet kaydımıza işleyecek, bize bildirecek ve ilgili yetkililere anlık uyarılar gönderecek... belki de kamuoyuna da. Bu sistemleri, otomatik hız kameralarının steroidli versiyonu olarak düşünebiliriz; sadece hız sınırlarını değil, aklınıza gelebilecek her kuralı denetleyecekler. Ve cezalar haftalar sonra postayla gelmeyecek; ihlal anında bildirim ve para cezası uygulanacak.
Bu sistemler, güçlü yapay zeka, gerçek zamanlı yüz tanıma ve dijital takip yoluyla kamusal ve özel gözetim, kitlesel veritabanları ve son derece kişiselleştirilmiş yaptırımları birleştirecek. Ölçekte uygulandığında, yalnızca bireysel özgürlükler üzerinde değil, demokrasi ve toplumsal ilerleme üzerinde de derin caydırıcı etkiler yaratacak. Çin, yıllardır gözetim altyapısını geliştiriyor; 600 milyondan fazla güvenlik kamerası, yasal ve sosyal kuralları uygulamak için giderek yapay zeka ve yüz tanıma ile destekleniyor. Örneğin, Lao Duan adlı bir vatandaş, işini kaybettikten sonra kredilerini ödeyemeyince kara listeye alındı ve Pekin'de yüz tanıma sistemi tarafından tanınarak büyük bir elektronik panoda 'güvenilmez kişi' olarak teşhir edildi.
Yapay zeka gözetimi artık Kuzey Amerika, Güney Amerika, Avrupa, Asya ve Afrika'da deneniyor. ABD İç Güvenlik Bakanlığı, göçmenler, muhalifler, gazeteciler ve protestocuları izlemek için yapay zeka tabanlı gözetimi hızla artırıyor. Oracle CEO'su Larry Ellison, 'Vatandaşlar sürekli kayıt altına alındıkları ve raporlandıkları için en iyi davranışlarını sergileyecekler' diyerek bu sistemlerin asıl amacının sosyal kontrol olduğunu ortaya koyuyor. Bu caydırıcı etki, tam da hedeflenen şey.
Yapay zeka gözetimi, teknik önyargılar, denetlenemeyen sistemler ve esnek olmayan otomatik yaptırımlar gibi bir dizi kamu politikası sorununu beraberinde getiriyor. Ancak en acil ve uzun vadeli etki, daha geniş caydırıcı etkiler olacak. Jon Penney'in 'Soğutma Etkileri' kitabında açıkladığı gibi, gözetim, kişiselleştirme, belirsizlik ve otorite, caydırıcı etkilerin ölçeğini ve etkisini artıran anahtar mekanizmalardır. İnsanların kendilerini sansürlemesine, daha uyumlu ve itaatkar olmasına neden olurlar. Bilgisayarlaşma uzun süredir konumumuzu, iletişim kurduğumuz kişileri ve harcama alışkanlıklarımızı izlememize olanak tanıyordu; ancak yeni olan, bu mekanizmaların benzeri görülmemiş bir şekilde birleşmesi ve yapay zekanın iletişim içeriğini analiz etme ve nerede olduğumuz, ne yaptığımız gibi karmaşık soruları yanıtlama yeteneğidir.
Teknik Analiz
Bu korku ve uyum atmosferinde, riskli fikirler, sosyal aktivizm ve özellikle hedef alınan grupların kendini yeniden keşfetmesi de soğutulur. Toplumsal ilerleme, deney yapma ve ahlakın zamanla değişebileceğini gösterme yeteneğine bağlıdır. Yapay zeka gözetimi, kamusal veya özel alanda bu tür deneyleri soğutursa, toplumsal ilerleme imkansız hale gelir. Tarihsel emsaller yok; bu teknolojiler çok yeni. Soğuk Savaş dönemindeki FBI programları veya Doğu Almanya'nın insan merkezli gözetim ağı, modern yapay zeka destekli gözetim karşısında arkaik kalıyor. George Orwell'in 'Büyük Birader'i bile 20. yüzyıl teknolojisi olarak kalıyor.
Ancak çaresiz değiliz. Tehlikenin farkına vardığımıza göre, bu sistemleri uygulamama yönünde politikalar seçebiliriz. Yüz tanıma ve diğer kimlik tespit teknolojilerine yasaklar getirilebilir; sağlam mahremiyet ve veri korumaları veri takibini ve saklanmasını kısıtlayabilir; yapay zeka düzenlemeleri en müdahaleci kullanımları sınırlayabilir; yapısal reformlar güçlü devlet-teknoloji ortaklıklarının denetlenmesine ve dağıtılmasına yardımcı olabilir. Toplum olarak, teknolojinin bizi yönetmesine izin vermek yerine, onu insan hakları ve demokratik değerlerle uyumlu hale getirmeliyiz.
Kaynak: schneier.com
