Otonom yapay zeka ajanları tasarlamak, benzersiz bir hayal kırıklığı yaratır. Karmaşık bir görevi AI'ya teslim ederiz, 30 saniye (veya 30 dakika) kaybolur ve sonra bir sonuçla geri döner. Ekrana bakarız. Çalıştı mı? Halüsinasyon gördü mü? Uyumluluk veritabanını kontrol etti mi yoksa o adımı atladı mı? Bu kaygıya genellikle iki uçtan biriyle yanıt veririz: ya sistemi Siyah Kutu olarak tutar, her şeyi gizleyerek basitliği koruruz ya da panikleyip bir Veri Dökümü sağlar, her log satırını ve API çağrısını kullanıcıya akıtırız. Her iki yaklaşım da kullanıcıya ideal şeffaflık seviyesini sağlamak için gereken inceliği doğrudan ele almaz.
Siyah Kutu, kullanıcıları güçsüz hissettirir. Veri Dökümü ise bildirim körlüğü yaratır ve ajanın vaat ettiği verimliliği yok eder. Kullanıcılar, bir şey kırılana kadar sürekli bilgi akışını görmezden gelir; o noktada da sorunu düzeltmek için bağlamdan yoksundur. Dengeyi bulmak için organize bir yola ihtiyacımız var. Önceki makalemde, AI'nın önceden niyetini gösteren Niyet Önizlemeleri ve kullanıcıya AI'nın ne kadarını kendi başına yapacağını kontrol etme imkanı veren Otonomi Kadranları gibi güven oluşturan arayüz öğelerini incelemiştim. Ancak hangi öğelerin kullanılacağını bilmek, zorluğun sadece bir kısmı. Tasarımcılar için daha zor soru, bunları ne zaman kullanacaklarını bilmektir.
Bu makale, bu soruyu yanıtlamak için bir yöntem sunuyor: Karar Düğümü Denetimi. Bu süreç, tasarımcıları ve mühendisleri aynı odaya getirerek arka uç mantığını kullanıcı arayüzüne eşler. AI'nın ne yaptığına dair kullanıcının güncellemeye ihtiyaç duyduğu anları tam olarak belirlemeyi öğreneceksiniz. Ayrıca, hangi karar düğümlerinin gösterileceğini ve bu kararla eşleştirilecek tasarım desenini önceliklendirmeye yardımcı olacak bir Etki/Risk matrisini de ele alacağız. Örnek olarak, bir sigorta şirketinin kaza taleplerini işleyen bir AI ajanını düşünün. Başlangıçta arayüz sadece 'Talep Durumu Hesaplanıyor' gösteriyordu ve kullanıcılar, AI'nın hafifletici koşullar içeren polis raporunu inceleyip incelemediğinden emin olamadıkları için hayal kırıklığına uğruyordu. Siyah Kutu güvensizlik yaratmıştı.
Tasarım ekibi, Karar Düğümü Denetimi yaparak AI'nın üç farklı olasılık tabanlı adım gerçekleştirdiğini buldu: Görüntü Analizi (hasar fotoğraflarını tipik kaza senaryolarıyla karşılaştırma), Metin İncelemesi (polis raporunda sorumluluğu etkileyen anahtar kelimeleri tarama) ve Poliçe Çapraz Referansı (talep detaylarını kullanıcının poliçe şartlarıyla eşleştirme). Ekip, bu adımları şeffaflık anlarına dönüştürdü ve arayüz sırasını güncelledi: 'Hasar Fotoğrafları Değerlendiriliyor', 'Polis Raporu İnceleniyor', 'Poliçe Kapsamı Doğrulanıyor'. Sistem hala aynı süreyi alıyordu, ancak ajanın iç işleyişi hakkında açık iletişim, kullanıcı güvenini geri kazandırdı. Ayrıca, Etki/Risk matrisini uygulayarak gereksiz ayrıntıları (örneğin, sunucu yedekleme kontrolleri) gizlediler ve önemli bilgilerin (örneğin, onarım tahmininin piyasa değeriyle karşılaştırılması) daha etkili olmasını sağladılar. Bu tasarım seçimi, endişe anını kullanıcıyla bağlantı anına dönüştürdü.
