Yapay Zeka Şeffaflığı İçin Pratik Arayüz Modelleri (Bölüm 2)
Twitter'da paylaş, LinkedIn
Döndürücüler gibi geleneksel yükleme kalıpları, aracılı yapay zeka deneyimlerinde neden başarısız oluyor ve sistemin sürecini, durumunu ve karar verme sürecini ortaya çıkaran arayüz modellerinin şeffaflığı nasıl artırabileceği ve kullanıcı güvenini nasıl oluşturabileceği. Döndürücüler gibi geleneksel yükleme kalıpları, aracılı yapay zeka deneyimlerinde neden başarısız oluyor ve sistemin sürecini, durumunu ve karar verme sürecini ortaya çıkaran arayüz modellerinin şeffaflığı nasıl artırabileceği ve kullanıcı güvenini nasıl oluşturabileceği.
Sonuç ve Değerlendirme
Bu serimizin ilk bölümünde Karar Düğümü Denetiminden bahsetmiştik. Olasılıklara dayalı kararlar aldığı anları tam olarak belirlemek için yapay zeka sistemimizin dahili işleyişinin haritasını çıkardık. Bu bize sistemin ne zaman kullanıcıya karşı şeffaf olması gerektiğini anlattı. Şimdi asıl soru bu bilginin nasıl paylaşılacağıdır.
Şeffaflık Matrisiniz hazır. Hangi perde arkası API çağrılarının görünür bir durum güncellemesine ihtiyacı olduğunu biliyorsunuz. Mühendisleriniz teknik konularla ilgileniyor. Bir sonraki adım bu güncellemeler için görsel kapsayıcıyı tasarlamaktır.
Sistem Güvenliği
Miras sorunuyla karşı karşıyayız. Otuz yıldır arayüz tasarımcıları gecikmeyi yönetmek için tek bir modele güvendiler: döndürücü. Çıkrık, zonklayıcı, ilerleme çubuğu. Bu modeller belirli bir teknik gerçekliği iletir. Kullanıcıya sistemin veri aldığını söylerler. Gecikmeye bant genişliği veya dosya boyutu neden olur.
Yapay zeka ajanları yeni bir tür bekleme süresi sunuyor. Bir temsilci yirmi saniye durakladığında bu yalnızca bir şey indirmek değildir; Düşünüyor. En iyi adımları bulmak, seçenekleri tartmak ve istediğiniz içeriği oluşturmaktır.
Önemli Gelişmeler
Bu "düşünme süresi" için temel bir dönen simge kullanırsak, kullanıcıların kafası karışır ve endişelenir. Döngüsel bir animasyon izliyorlar ve sistemin durduğunu veya çöktüğünü anlayamıyorlar. Temsilcinin çok karmaşık bir görevi mi yerine getirdiğini yoksa başarısız mı olduğunu bilmiyorlar.
Kullanıcı güvenini oluşturmak için bu bekleme süresini bir güvence anına dönüştürmemiz gerekiyor. Pasif bir "bir şeyler oluyor" yerine aktif bir şekilde iletişim kurmalıyız: "İşte sorununuzu çözmek için tam olarak böyle çalışıyorum."
Şeffaflığı genellikle görsel bir tasarım sorunu olarak düşünürüz, ancak bu aslında kullandığımız kelimelerle ilgilidir. Basit, net açıklamalar (mikroskopi) güveni inşa eden ve güvenilir bir yapay zekayı bozuk görünen bir yapay zekadan ayıran şeydir.
Yükleme veya Çalışma gibi genel yer tutucuları kullanımdan kaldırmamız gerekiyor. Bu sözler statik yazılım çağının kalıntılarıdır. Bunun yerine durum güncellemelerimizi sistemin etkinliğini yansıtan belirli bir formül kullanarak oluşturmalıyız. “Yükleniyor” veya “Çalışıyor” gibi muğlak sözcükleri kullanmayı bırakalım. Bu terimler, yazılımın basit ve statik olduğu geçmişe aittir. Bunun yerine, kullanıcıya sistemin gerçekte ne yaptığını açıkça anlatan ve sistemin eylemlerini şeffaf hale getiren durum güncellemeleri oluşturmalıyız.
Uzmanların Görüşleri
Bir örnek vermek gerekirse, ekip üyelerinin takvimlerini düzenlemelerine ve istendiğinde onlar adına yinelenen toplantılar planlamalarına yardımcı olacak aracı yapay zekayı dağıttığınızı hayal edin.
Bir yapay zeka, bilinmeyen bir süre boyunca "Kullanılabilirlik kontrol ediliyor" gibi bir mesaj görüntülediğinde, kullanıcılar genellikle yeterli bilgi sunmadığından kendilerini kaybolmuş hissederler. Yapay zekanın bir takvime baktığını anlasalar da, bunun kimin takvimi olduğunu, başka hangi adımların dahil olduğunu (öncesi veya sonrası) ya da yapay zekanın planlama isteğinin kişilerini ve amacını hatırlayıp hatırlamadığını bilmiyorlar. Nihai sonucu beklemek, şaka olabileceğinden şüphelendiğiniz bir hediyeyi beklemek gibi gergin ve huzursuz bir deneyim olabilir.
Detaylar ve Etkileri
Perplexity AI, durum güncellemelerini doğru yapmanın güçlü bir örneğini sunuyor. Aşağıdaki Şekil 1, kullanıcılar bir soru sorduğunda arayüzün tam olarak ne yaptığını gerçek zamanlı olarak gösterdiğini göstermektedir. Tamamlandıkça güncellenen etkinliklerin bir listesini görürsünüz. Yapay zeka çalışırken kullanıcıların ne olduğunu tahmin etmelerine gerek yok.
Şekil 1: Perplexity AI, web'de arama yapmak için hangi terimleri kullandığı da dahil olmak üzere kullanıcılara AI'nın durumunu göstermenin iyi bir örneğidir. (Resim kaynağı: SaaSUI) (Büyük önizleme)
Teknik Analiz
İnsanlara faydalı durum güncellemeleri sunmak için sistemin ne yaptığıyla bunu neden yaptığı arasında bağlantı kurmamız gerekiyor. Planlama aracısı örneğimize uygun olarak sistem, bu bekleme süresini en az dört net, ayrı adıma ayırmalıdır.
Nasıl Önlem Alınmalı?
İlk olarak arayüzde, [İsim(ler)] ile yinelenen Perşembe aramasının açık saatlerini bulmak için takviminiz kontrol ediliyor mesajı görüntülenir.
Gelecekte Ne Bekleniyor?
Daha sonra şu şekilde güncellenir: [Ad(lar)] takvimleriyle kullanılabilirliğin çapraz kontrolü.
Sonra dileyebilir splay: [Veri ve Saat] üzerinde toplantı zamanınızı güvence altına almak için [İsim(ler)] programları senkronize ediliyor.
Son olarak, temsilci, görevi başarıyla tamamladığını belirtebilir ve kullanıcıdan, yinelenen toplantıyı yapan grupla paylaşılan daveti onaylamak için e-postasını kontrol etmesini isteyebilir.
Bu iletişim süreci, teknik süreci kullanıcının gerçek yaşamına dayandırır.
Bir yapay zekanın ilerleyişinin anlaşılmasını kolaylaştırmak üç parçalı bir yapıya indirgenir: güçlü bir Eylem Kelimesi, yapay zekanın üzerinde çalıştığı şey (Belirli Öğe) ve takip etmesi gereken tüm Sınırlar veya kurallar.
Seyahat rezervasyonu yapmanıza yardımcı olan bir yapay zekayı düşünün. Zayıf ve faydasız bir güncelleme şu şekilde olacaktır: Uçuş aranıyor…
Çok daha iyi bir güncelleme şu formülü kullanır:
Eylem Kelimesi: Tarama
Belirli Öğeyi Tarama: Lufthansa ve United'daki fiyatlar
Lufthansa ve United Limits/Rules fiyatları: 600 doların altında bir şey bulmak için.
Bu yaklaşım, kullanıcıya yapay zekanın isteklerini anladığını ve belirlenen sınırlar dahilinde çalıştığını açıkça gösterir.
Şekil 2: Ajansal Yapay Zeka Durum Güncellemesinin Anatomisi. (Büyük önizleme)
Risk Matrisiyle Eşleşen Ton
Bir yapay zeka insan gibi mi ses çıkarmalı yoksa robot gibi mi davranmalı? Doğru cevap, Karar Düğümü Denetimimizdeki Etki/Risk Matrisini kullanarak çözebileceğimiz görevin önemine bağlıdır.
Basit, düşük riskli görevler için, arkadaş canlısı bir konuşma tonu en iyi sonucu verir. Örneğin bir planlama asistanı, takviminizi en iyi zaman için kontrol ettiğini söyleyebilir. Bu, kullanıcı için rahat ve kolay bir deneyim yaratır.
Ancak yüksek riskli görevler net, mekanik doğruluk gerektirir. Yapay zeka büyük bir finansal transferi veya karmaşık bir veritabanı geçişini yönetiyorsa kullanıcılar eğlenceli bir arayüz istemez; kesinlik istiyorlar. “Paranı çok düşünüyorum” yazan bir ekran paniğe neden olabilir. Bunun yerine arayüzde "Hesap yönlendirme numaralarının doğrulanması" gibi basit bir dil kullanılmalıdır. Yapay zekanın "kişiliğini" risk seviyesine uyacak şekilde ayarlayarak kullanıcılara tam olarak o anda ihtiyaç duydukları deneyimi sunuyoruz. Etki/Risk Matrisi gerekli bir başlangıç noktası sağlarken, uygun yapay zeka sesinin ve tonunun nihai belirleyicisi titiz kullanıcı araştırmasıdır.
Herhangi bir kural dizisinin, her kullanıcı grubu için veya her durumda güven oluşturacak veya strese neden olacak kelimeleri veya tonu tam olarak tahmin etmesi imkansızdır. Bu nedenle uygulamalı araştırma önemlidir. Yapmanız gerekenler:
Yapay zekanın insanlarla "konuşmasının" farklı yolları üzerinde A/B testleri yapın.
Yapay zeka insanlarla farklı şekillerde “konuşuyor”. Kullanıcıların sistemin mesajlarına duygusal olarak nasıl tepki verdiğini görmek için kullanılabilirlik çalışmaları yapın.
Kullanıcıların sistemin mesajlarına duygusal olarak nasıl tepki verdiğini görmek için. Kullanıcıların bir yapay zekadan açıklık açısından ne beklediklerini gerçekten anlamak için görüşmeler yapın.
Bu tür araştırmalar, yapay zekanın "kişiliğinin", sistemi kendi özel bağlamlarında kullanacak gerçek kişiler için rahat ve uygun olmasını sağlar.
Artık "ne" konusunu ele aldık; kritik mikrokopi, net eylem sözcükleri ve bir AI durum güncellemesini dürüst ve bilgilendirici kılan gerekli sınırlar. Ancak kelimeler tek başına yeterli değildir. Zayıf bir arayüzde gizlenmiş mükemmel bir cümle hala şeffaflığın başarısızlığıdır.
Bir sonraki zorluk "nasıl" sorusudur; bu mesaj için fiziksel dağıtım sistemini tasarlamak. Durum güncelleme formülünü motor, arayüz desenini ise araba olarak düşünebilirsiniz. Güçlü bir motorun, onu yolda taşıyabilmesi için güvenilir, iyi tasarlanmış bir şasiye ihtiyacı vardır.
Arayüz Modelleri: Aracılar İçin Bir Kitaplık
Doğru kelimeleri bulduğumuzda doğru kaba ihtiyacımız var. Anahtar, mesajın ağırlığını modelin görünürlüğüyle eşleştirmektir. Küçük bir arka plan görevi (dosyalarınızı nazikçe düzenleyen bir temsilci gibi) yüksek sesli, yanıp sönen bir başlığa ihtiyaç duymaz. Bu mesaj en iyi şekilde incelikli bir şekilde iletilir. Yüksek riskli, çok adımlı bir süreç (para taşımak gibi), potansiyel olarak kullanıcıyı dikkat etmeye zorlayan daha sağlam bir konteyner gerektirir.
Bu kalıplardan oluşan bir kütüphane oluşturarak, bekleme kaygısını bilinçli bir güven anına dönüştürerek doğru düzeyde şeffaflığın doğru zamanda sunulmasını sağlıyoruz. Birkaç yaygın, kritik modeli gözden geçirelim.
Yaşayan Ekmek Kırıntısı: Arka Planda Çalışan Yapay Zeka
Yapay zekanın arka planda sessizce gerçekleştirdiği bu düşük öneme sahip görevler için, kullanıcıların dikkatini sürekli dağıtmadan çalıştığını göstermenin bir yoluna ihtiyacımız var. Buna yaşayan ekmek kırıntısı diyebiliriz.
Yapay zekanın sizin için yanıt hazırladığı bir e-posta uygulamasını düşünün. Rahatsız edici bir po istemezsin p-up mesajı. Bunun yerine, uygulamanın sınırında veya menü alanında küçük, göze çarpmayan bir durum göstergesi yanıp sönüyor.
Çözümün statik bir simgenin ötesine geçmesi gerekiyor. Canlı kırıntı, farklı metin güncellemeleri arasında sorunsuz bir şekilde geçiş yapar. E-posta okumadan Yanıt hazırlamaya ve Kontrol ediliyor tonuna kadar bir sinyal verebilir. İlerlemesini kontrol etmek isterseniz, görevin devam ettiğine dair sessiz bir güvence sunarak oradadır, ancak sizin hemen ilgilenmenizi gerektirmez.
Şekil 3: İnce, canlı bir kırıntı, düşük öncelikli görevler için arka planda güvence sağlayarak yapay zekanın sürekli dikkat gerektirmeden çalıştığını gösterir. (Büyük önizleme)
Dinamik Kontrol Listeleri
Karmaşık bir finansal işlemi gerçekleştirmek veya büyük, karmaşık bir veri kümesini taşımak gibi kritik, yüksek riskli görevlerle uğraşırken, Dinamik Kontrol Listesi (Şekil 3'te gösterilmektedir) kullanmanızı öneririz.
Bu model, kullanıcıya güçlü bir dayanak görevi görerek sürecin ilerleyişi hakkında netlik ve güven sağlar. Basit bir çubuk yerine Dinamik Kontrol Listesi, AI aracısının atacağı planlı her adımı ortaya koyar. Şu anda devam eden adımı açıkça vurgular, önceki adımları tamamlanmış olarak işaretler ve gelecekteki eylemleri beklemede olarak listeler.
Adım 1: Hesap Bakiyesini Doğrulayın [Tamamlandı] .
: Hesap Bakiyesini Doğrulayın. Adım 2: Para Birimi Dönüştürme [İşleniyor] .
: Para Birimini Dönüştür . Adım 3: Fon Transferi [Beklemede].
Dinamik Kontrol Listesi, öngörülemeyen zamanı ustalıkla yönettiği için geleneksel ilerleme çubuğuna göre önemli bir avantaj sunar. Para birimi dönüştürme (2. Adım) beklenmedik bir şekilde fazladan on saniye gerektiriyorsa, kullanıcı ani bir endişe veya panik hissetmez. Gecikmenin Para Birimi Dönüştürme adımı sırasında meydana geldiğini anlayarak sistemin tam konumunu tam olarak görebilirler. Bunun potansiyel olarak karmaşık bir eylem olduğunun farkında oldukları için doğal olarak daha sabırlıdırlar ve sistemin devam eden çalışmasına daha fazla güvenirler.
Şekil 4: Devin (AI), kullanıcılara gerçekleştirdiği görevlerin yanı sıra yapılması gerekenleri içeren dinamik bir kontrol listesi gösterir. (Resim kaynağı: Devin) (Büyük önizleme)
Desenin kendisi ilgi çekici bir kullanıcı arayüzü fikridir ancak tasarımcılar, bunun uygulanmasının görevi tam kapsamlı bir tasarım gereksinimine dönüştürdüğünü unutmamalıdır. Basit bir yükleme işaretinden farklı olarak dinamik kontrol listesi, genellikle bir arka uç web kancası yapısı tarafından tetiklenen adım tamamlama olaylarını dinlemek için sağlam bir ön uç durum yönetim sistemi gerektirir. Bu, arayüzün her zaman aracının iş akışındaki gerçek zamanlı konumunu yansıtmasını sağlar.
Şekil 5: Dinamik bir kontrol listesi, yapay zekanın ne yaptığına ilişkin şeffaflığı göstermek için mükemmeldir. Kullanıcıya yapay zekanın halihazırda hangi adımları tamamladığını, şu anda ne üzerinde çalıştığını ve bundan sonra ne yapmayı planladığını açıkça gösterir. (Büyük önizleme)
Daha yüksek bilgi ihtiyaçları veya daha yüksek şeffaflık ihtiyaçları olan bazı kullanıcılar basit bir özete güvenmeyebilir; sistemin ham işlemesini görmek istiyorlar. Bu kitle için Düşünme Anahtarını tasarladık.
Bu, kullanıcının kolay bir durum güncellemesini ham bir terminal görünümüne genişletmesine olanak tanıyan, şerit veya "Günlükleri Görüntüle" düğmesi gibi basit, aşamalı bir açıklama kullanıcı arayüzü kontrolüdür. AI aracısının aşağıdakiler gibi arındırılmış mantık günlüklerini görüntüler:
API uç noktası sorgulanıyor /v2/search;
Alınan yanıt: 200 Tamam;
Sonuçlar alaka puanına göre filtreleniyor > 0,8.
Birçok kişi bu görünümü asla açmayacak. Ancak derin şeffaflığa ihtiyaç duyan kullanıcı için bu geçişin varlığı bir güven sinyalidir. Sistemin hiçbir şeyi gizlemediğine dair onlara güvence veriyor.
Bu derin şeffaflığın kritik bir teknik riski de beraberinde getirdiğini unutmayın. En uzman kitleniz için bile bu ham günlükleri görüntülemeden önce sterilize etmeli ve soyutlamalısınız. Özel iş mantığının, dahili veri yapısı adlarının veya kötüye kullanılabilecek güvenlik belirteçlerinin yanlışlıkla açığa çıkmasını önlemek için bu adım tartışılamaz. Bu süreç, güvenin güvenlik açığıyla değil dürüstlükle inşa edilmesini sağlar.
Kısmi Başarı İçin Tasarlamak
Standart yazılımda işler genellikle siyah veya beyazdır. Bir dosya ya kaydedilir ya da kaydedilmez. Ancak yapay zeka ajanlarında işler genellikle gridir. Bir acente seyahatin çoğunu mükemmel bir şekilde planlayabilir, ancak o özel restorana rezervasyon yapmakta zorlanabilir.
Yapay zekanın çoğunlukla başarılı olduğu zamana göre tasarım yapmamız gerekiyor.
Standart ikili (evet veya hayır) hata mesajları güveni yok eder çünkü yapay zekanın tamamen başarısız olduğunu gösterir. Bir temsilci görevin %90'ını yaparsa ve yalnızca son %10'u kaçırırsa, büyük kırmızı "İstek Başarısız Oldu" banner'ı m olur. adacık.
Bunun yerine arayüz neyin işe yarayıp neyin yaramadığını açıkça göstermelidir:
Uçuş rezervasyonu: UA 492 [Başarılı].
Otel rezervasyonu: Marriott Downtown [Başarılı].
Araç kiralama: Hertz [Başarısız — Envanter yok].
Bu şekilde, acentenin zaten yaptığı tüm iyi işleri korurken, arabayı kendiniz rezerve etmek gibi yalnızca devreye girip başarısız olan parçaları onarmanız gerekir.
Şekil 6: Ajansal yapay zeka deneyimleri için içerik tasarlarken bir görevin ne kadarının tamamlandığını tanımlarken daha ayrıntılı olmamız gerekiyor. (Büyük önizleme)
Bir yapay zeka sistemi beklendiği gibi performans göstermediğinde, başarısızlığın gerçek nedeni konusunda kesinlikle net olmak çok önemlidir. Kullanıcılar genellikle yapay zekanın güvendiği harici bir hizmet veya aracın neden olduğu sorunlar için yanlışlıkla yapay zekanın kendisini suçluyorlar.
Örneğin, bir sanal asistanın programınıza bakmaya çalıştığını, ancak Google Takvim API'sine olan bağlantının kesildiğini düşünün. Hata mesajı asistanın işini yapmamış gibi görünmesine neden olmamalıdır.
Daha az yararlı: "Takviminizi kontrol edemedim." (Bu, asistanın beceriksiz olduğunu gösterir.)
"Takviminizi kontrol edemedim." (Bu, asistanın beceriksiz olduğunu gösteriyor.) Daha yardımsever ve dürüst: "Google Takvim bağlantısı yanıt vermiyor. 30 saniye sonra otomatik olarak tekrar deneyeceğim."
İlk mesaj sinir bozucu çünkü yapay zekanın başarısızmış gibi görünmesine neden oluyor. Ancak ikinci mesaj çok daha net. Yapay zekanın yetenekli olduğunu ancak kontrolü dışındaki bozuk bir aracın soruna neden olduğunu açıklıyor. Bu ayrım gerçekten önemlidir çünkü işler ters gittiğinde bile kullanıcının yapay zekaya olan inancını kaybetmesini önler.
Denetim Yolu: Gerçek Sonrası Güven
Gerçek zamanlı şeffaflık geçicidir. Bir kullanıcı, temsilci çalışırken masasından ayrılırsa Dinamik Kontrol Listesini kaçırır. Bitmiş ekrana geri dönerler. Sonuç tuhaf görünüyorsa çalışmayı doğrulamanın hiçbir yolu yoktur. Bu nedenle her aracılı iş akışı kalıcı bir Denetim İzi gerektirir.
Bir Gösteri Çalışması etkileşimi tasarlamamız gerekiyor. Nihai sonuç ekranında, kullanıcının karar mantığını tekrar oynatmasına olanak tanıyan bir bağlantı veya geçmiş günlüğü sağlayın.
Bu fiyatın nasıl hesaplandığını görün;
Arama kaynaklarını görüntüleyin.
Bu makbuz nihai güvenlik ağıdır. Kullanıcının çıktının geçerliliğini noktasal olarak kontrol etmesine olanak tanır. Hiç tıklamasalar bile, faturanın varlığı bile kullanıcıya sistemin yaptığı işin arkasında durduğunu gösterir.
Şekil 7: Denetim takibi tasarım modeli, kullanıcılara bir sonuca nasıl ulaşıldığını göstermek için gerekli şeffaflığı sağlar. (Büyük önizleme)
ChatGPT, artık kullanıcılara yapay zekanın kullandığı bilgileri denetlemenin kolay bir yolunu sunmanın kafa karışıklığına veya kullanıcı hayal kırıklığına neden olabileceğine dair bir örnek sunuyor. ChatGPT, bir dosya dolabının şimdiye kadar söylediğiniz her şeyle ilgili notlarla sessizce doldurulması ve ardından bu notları size söylemeden gelecekteki her konuşmayı şekillendirmek için kullanması gibi sizi hatırlar. Buna hafıza denir. Geliştirici Simon Willison'a göre, Nisan 2025'te bu anı, her yeni konuşmaya otomatik olarak besleniyordu.
O dönemde ChatGPT'nin hafızasındaki sorun, onun neyi hatırladığını, bu bilgiyi ne zaman kullandığını veya geri aldığınız şeyi nasıl etkilediğini görememenizdi. Günlük yok. Zaman çizelgesi yok. "İşte yapay zekanın senin hakkında karar verdiği şey" şeklinde sade bir dil listesi yok.
Dosyaya bir göz atmanın tek yolu belirli bir hızlı numarayı bilmekti; esasen modelden kendi gizli talimatlarını size geri vermesini istemek. Çoğu kullanıcı bunu asla keşfetmeyecektir. Willison'un yaptığı gibi, ChatGPT'nin oluşturdukları görüntünün arka planına bir "Yarım Ay Körfezi" işareti yerleştirdiğini fark edecekler (Şekil 8), çünkü önceki konuşmalardan konumlarına sessizce çapraz referans vermişti. Bu, kişiselleştirme olarak gizlenen şeffaflığın (hafızayı kolaylıkla denetleme yeteneği) yokluğudur. Kullanıcılara her ikisini de sağlamanız gerekir.
Şekil 8: Willison, ChatGPT'den köpeğe pelikan kostümü giydirmesini istedi ancak "Half Moon Bay" tabelasını istemedi. ChatGPT'nin, kullanıcıların hangi bilgilerin depolandığına erişmesine açıkça izin vermeden kullanıcılar hakkındaki bilgileri izlediğini kanıtlamak. (Resim kaynağı: Simon Willison'un Web Günlüğü) (Büyük önizleme)
Denetim İzi modeli, ChatGPT tarafından gösterilen bellek denetimi sorununa nihai çözümdür. Birlikte yapay zeka şeffaflığını geliştirmeye yönelik bir seçenekler kitaplığı oluşturan dört temel tasarım çözümünden biridir.
Burada, bu makalede tartışılan ve aktarım için tasarlanmış önemli arayüz modellerinin kısa bir özeti yer almaktadır. AI bekleme süresini bir endişe anından kullanıcı güveni oluşturma fırsatına dönüştürün:
Model En İyi Kullanım Senaryosu Kullanıcının Kaygısı Güven Sinyali Yaşayan Ekmek Kırıntısı Düşük riskli, arka plan görevleri (örneğin, e-posta taslağı hazırlamak, dosyaları sıralamak). Sistem durdu mu veya dondu mu? Aktifim ama sizi rahatsız etmeyeceğim. Dinamik Kontrol Listesi Değişken süreli yüksek riskli iş akışları (ör. finansal transferler, seyahat rezervasyonu). Sıkışmış mı? Hangi adım bu kadar uzun sürüyor? Bir planım var ve şu anda 2. Adımı uyguluyorum: Thinking Toggle Expert araçları veya karmaşık veri analizi (ör. kod oluşturma, pazar araştırması). Bu halüsinasyon mu yoksa gerçek verileri mi kullanıyor? Saklayacak hiçbir şeyim yok; işte ham günlüklerim. Denetim Takibi Herhangi bir sonuç için görev sonrası inceleme (örneğin, nihai raporlar, tamamlanan rezervasyonlar). Bu sonucun doğru olduğunu nasıl bileceğim? İşte doğrulamanız için çalışmamın makbuzu.
Tablo 1: Şeffaflığı artıran dört tasarım modeli.
Dikkatin Gerçeği: Kullanıcılar Arayüzü Görmezden Geldiğinde
En mükemmel şekilde tasarlanmış kontrol listesi veya en net durum mesajı bile birçok kullanıcı tarafından göz ardı edilebilir.
İnsanlar, özellikle de profesyoneller, tonlarca görev üzerinde çalışırken, genellikle arayüzün ayarlarını kapatırlar. Bir sigorta sigortacısının günde elli teklif oluşturduğunu düşünün; ilerleme çubuğunu izlemiyorlar. "Oluştur"a tıklıyorlar, bir e-postayı yanıtlamak için sekmeleri değiştiriyorlar ve yalnızca görev tamamlandığında geri geliyorlar.
Bu uzmanlarla yaptığım araştırma, onların sistemi tamamen nihai sonuca göre değerlendirdiklerini gösteriyor. Cevabın ne olması gerektiği konusunda iyi bir fikirleri var. Bir satış elemanı 500 ila 600 dolar arasında bir prim bekliyorsa ve sistem 550 dolar veriyorsa bunu hemen kabul ediyor ve güven oluşuyor.
Bu uzmanlar bana, yapay zekanın doğru çıktılar olarak algıladıkları çıktıları sağlamaya devam etmesiyle zamanla kullanımın artacağını ve manuel alıntılamaya kıyasla zamandan tasarruf edeceklerini söylüyor. Aslında sistem artık normalde monoton ama zorunlu olan bir görevin etkili bir hızlandırıcısı olarak görülüyor.
Ancak sistem 900$ döndürürse kullanıcı durur. Çıktı beklentilerle uyumlu değil ve bu onların çözmesi gereken bir sorun. O anda kullanıcı sekmeleri değiştirdi; gerçek zamanlı olarak ortaya çıkan yüksek riskli ek ücrete ilişkin küçük açıklamayı kaçırdılar. Tetiklenen belirli kuralı görmediler. Bu açıklama ilerleme çubuğuyla birlikte kaybolursa kullanıcının beklenti ile sonuç arasındaki farkı anlaması mümkün olmaz. Sadece animasyonun oynanmasını izlemek için sorguyu kesinlikle tekrar çalıştırmayacaklar.
Teklifi elle yürütecekler, yapay zekanın çıktısını etkili bir şekilde işe yaramaz olarak değerlendirecekler ve çabalarının tamamen yeniden işlenmesini başlatacaklar. Bu manuel yeniden hesaplama, zaman kaybı gibi geliyor ve bu da araca olan güvenlerini daha da zayıflatıyor. Bu gerçekleştiğinde kullanıcı sistemin neden 900 doları seçtiğiyle ilgilenmez; tamamen sistemin doğruluğunu kendi güvenilir yöntemlerine göre doğrulamaya veya geçersiz kılmaya odaklanırlar. Bu şeffaflık eksikliği, özellikle de anlaşmazlık anlarında, benimsenmenin ve tutarlı kullanımın önündeki temel engeldir. Denetim izi, kalıcı şeffaflık sağlamamıza olanak tanır ve yapay zekanın daha fazla iş yaratmasını engelleyen mekanizmadır.
Özellikle kurumsal kullanıma yönelik yapay zeka destekli araçlar sunarken bunu aklımızda tutmamız gerekiyor. Araç beklentilerle uyuşmayan bir sonuç verirse nadiren ikinci bir şans elde edersiniz. Kullanıcının yapay zekanın bu numarayı neden sağladığını araştırmak için on dakika harcaması gerekiyorsa yapay zekayı kullanmayı bırakacaktır.
Öngörülebilirlik, Güvenilirlik ve Anlayış Üründür
Biz sihir numaraları yapmıyoruz. Sihir numarası yanlış yönlendirmeye ve gizli mekanizmalara dayanır. Meslektaşlar yetiştiriyoruz.
İyi bir meslektaşınızı düşünün, sizi gelişmelerden haberdar ederler. Neyin peşinde olduklarını, nelerin zaman aldığını ve ne zaman bir engelle karşılaştıklarını size bildirirler. Bu dürüstlük onlara güvenmenize yardımcı olur.
Bunu yapay zekaya uygulayabiliriz. Tartıştığımız pratik kalıpları kullanarak: belirli güncellemeler vermek, dinamik bir kontrol listesi göstermek, kısmi kazanımları kabul etmek ve bir denetim takibi tutmak, AI'yı sadece güzel bir kat boyaya ihtiyaç duyan gizemli bir kara kutu olarak görmeyi bırakıyoruz. Bunun yerine ona güvenebileceğimiz ve yönetebileceğimiz bir ekip üyesi gibi davranmaya başlarız, bu da güven ve net bir anlayış oluşturur.
Bu arayüz fikirlerini kullanmanın ana nedeni, yapay zekanın karmaşık iç işleyişini açıklamanın ötesine geçerek gerçek şeffaflığa ulaşmaktır. Burada şeffaflık, kullanıcıya yapay zekanın sürecini ve performansını tam ihtiyaç duyduğu anda göstermek anlamına gelir. onu görmem lazım. Bu, yapay zekanın mevcut durumunu, bilinen sınırlarını ve kararlarının takip edilmesi kolay geçmişini açıkça iletmeyi içerir. Bu düzeyde açıklık, etkileşimi yalnızca yapay zekanın yaptıklarını kabul etmekten, onunla aktif olarak çalışmaya dönüştürür. Kullanıcıların neden belirli bir sonuca ulaştıklarını ve mümkün olan en iyi sonuç için sisteme en iyi şekilde nasıl adım atabileceklerini veya sisteme nasıl rehberlik edebileceklerini anlamalarını sağlar.
