Ajanik yapay zeka tasarımı, sistemin davranışı kadar eylemlerinin şeffaflığına da dikkat etmeyi gerektirir. Kullanıcılar, AI'ya karmaşık bir görev verdiklerinde, sonuç gelene kadar belirsizlik yaşarlar. Bu belirsizlik, genellikle iki uç noktada çözülmeye çalışılır: ya her şey gizlenen bir kara kutu yaklaşımı ya da her adımın gösterildiği bir veri yığını. Ancak her iki yöntem de ideal şeffaflık seviyesini sağlamakta yetersiz kalır. Kara kutu, kullanıcıyı güçsüz hissettirirken, veri yığını bildirim körlüğü yaratır ve AI'nın vaat ettiği verimliliği yok eder.
Victor Yocco, bu dengeyi bulmak için 'Karar Düğümü Denetimi' (Decision Node Audit) adını verdiği bir yöntem öneriyor. Bu süreç, tasarımcılar ve mühendislerin bir araya gelerek arka uç mantığını kullanıcı arayüzüne haritalamasını sağlar. Amaç, kullanıcının AI'nın ne yaptığına dair güncelleme alması gereken anları tam olarak belirlemektir. Örneğin, bir sigorta şirketinin kaza taleplerini işleyen bir AI'sı düşünelim. Başlangıçta sadece 'Talep Durumu Hesaplanıyor' mesajı gösteriliyordu. Kullanıcılar, AI'nın polis raporunu inceleyip incelemediğini bile bilmiyordu. Denetim sonucunda, AI'nın üç ana adımda (görüntü analizi, metin incelemesi, poliçe karşılaştırması) çalıştığı ortaya çıktı. Bu adımlar şeffaflık anlarına dönüştürülerek kullanıcıya 'Hasar Fotoğrafları Değerlendiriliyor', 'Polis Raporu İnceleniyor', 'Poliçe Kapsamı Doğrulanıyor' gibi ilerleme mesajları gösterilmeye başlandı. Bu küçük değişiklik, kullanıcı güvenini önemli ölçüde artırdı.
Ancak her olayı veya karar düğümünü göstermek doğru değildir. Bu noktada Etki/Risk matrisi devreye girer. Matris, hangi bilgilerin gösterilip hangilerinin gizleneceğine karar vermek için kullanılır. Örneğin, 'Sunucu West-2'ye ping atılıyor' gibi düşük riskli ve teknik bir olay gizlenirken, 'Onarım tahmini BlueBook değeriyle karşılaştırılıyor' gibi kullanıcının ödemesini etkileyen yüksek riskli bir olay gösterilir. Bu filtreleme sayesinde, önemli bilgiler daha etkili hale gelir ve kullanıcı gereksiz ayrıntılarla boğulmaz.
Sistem Güvenliği
Sonuç olarak, ajanik yapay zeka sistemlerinde şeffaflık, her şeyi göstermek veya hiçbir şey göstermek arasında bir seçim değildir. Doğru anlarda, doğru bilgiyi sunmak, kullanıcı kaygısını azaltır ve sisteme olan güveni artırır. Karar Düğümü Denetimi ve Etki/Risk matrisi, tasarımcılara bu dengeyi kurmaları için pratik bir yol haritası sunar. Bir sonraki bölümde, bu matrisin nasıl uygulanacağına ve farklı karar düğümleri için hangi tasarım desenlerinin kullanılacağına dair daha detaylı bilgiler vereceğiz.
