Ajanik yapay zeka (AI) tasarımı, sistemin davranışı kadar eylemlerinin şeffaflığına da dikkat etmeyi gerektirir. Kullanıcılar, görevi AI'ya devrettikten sonra 30 saniye veya 30 dakika boyunca ne olduğunu bilmeden beklerler. Bu belirsizlik, ya her şeyi gizleyen bir kara kutu ya da her log satırını kullanıcıya gönderen bir veri dökümü ile sonuçlanır. Ancak bu uç yaklaşımlar, ideal şeffaflık seviyesini sağlamaz. Kara kutu kullanıcıyı güçsüz hissettirirken, veri dökümü bildirim körlüğü yaratır ve AI'nın vaat ettiği verimliliği yok eder. Bu makale, Karar Noktası Denetimi adlı bir yöntemle bu dengeyi nasıl kurabileceğinizi anlatıyor.
Karar Noktası Denetimi, tasarımcılar ve mühendisleri bir araya getirerek arka uç mantığını kullanıcı arayüzüne eşler. Bu süreçte, kullanıcının AI'nın ne yaptığına dair güncellemeye ihtiyaç duyduğu anlar belirlenir. Örneğin, Meridian adlı bir sigorta şirketi, kaza hasar taleplerini işleyen bir AI kullanıyordu. Kullanıcılar, sadece "Talep Durumu Hesaplanıyor" mesajıyla karşılaştıkları için sinirleniyorlardı. Şirket, Karar Noktası Denetimi ile AI'nın üç ana adımını (görüntü analizi, metin incelemesi, politika çapraz referansı) ortaya çıkardı ve her adım için kullanıcıya net bilgiler sundu. Bu, kullanıcı güvenini yeniden inşa etti.
Ancak her karar noktasını göstermek yerine, hangilerinin gizleneceğine karar vermek de kritiktir. Meridian örneğinde, arka uçta 50'den fazla olay üretiliyordu. Ekip, bir Etki/Risk matrisi kullanarak düşük riskli ve teknik detayları gizledi. Örneğin, "Sunucu West-2'ye yedekleme kontrolü" gibi bir log olayı gizlenirken, "Onarım tahminini BlueBook değeriyle karşılaştırma" gibi kullanıcının ödemesini etkileyen yüksek riskli adımlar gösterildi. Bu sayede, önemli bilgiler daha etkili hale geldi ve kullanıcı gereksiz ayrıntılarla boğulmadı.
Sonuç olarak, ajanik AI tasarımında şeffaflık, her şeyi göstermek değil, doğru zamanda doğru bilgiyi sunmaktır. Karar Noktası Denetimi ve Etki/Risk matrisi, kullanıcı güvenini artırırken AI'nın verimliliğini korumanın anahtarıdır. Bu yöntem, kullanıcılara AI'nın ne yaptığını anlama ve gerektiğinde müdahale etme fırsatı verir. Bir sonraki bölümde, bu karar noktalarını arayüzde nasıl tasarlayacağımızı ve hangi desenlerle eşleştireceğimizi inceleyeceğiz.
