ChatGPT'nin kamuya açılmasından bu yana geçen dört yıla yakın sürede, yapay zeka benimsenmesi hızla ilerlerken yönetişim ve güvenlik çoğunlukla geride kaldı. Kullanıcılar iş ve özel hayatlarını iyileştirmek için büyük dil modellerine (LLM) kurumsal veri, finansal kayıtlar ve hatta sağlık bilgilerini yüklerken, bu başıboş etkinlik bariz riskler taşısa da şimdiye kadar birçok kullanıcı ve işletme felaket sonuçlardan kurtuldu. Ancak IBM bünyesindeki HashiCorp'un saha baş teknoloji sorumlusu Stephen Wilson'a göre, çoğu kişi yapay zekayı hâlâ büyük ölçüde 'asistan' olarak kullanıyor; teknoloji yalnızca insan kullanıcıların yönlendirmesiyle hareket ediyor. Fakat yapay zeka ajanlarına kendi başlarına hareket etme yeteneği verildikçe risk hesaplamaları değişiyor ve güvenlik ile yönetişim uygulamaları henüz bu değişime ayak uyduramıyor.
Wilson, kuruluşların yapay zeka araçlarını tam ortak olarak kullanmaya başladığını ancak onları hâlâ asistan olarak kullanıldıkları dönemdeki gibi yönettiğini belirtiyor. Asistan modelinde kullanıcı yürütmeye çok yakınken, API anahtarları, sosyal medya kimlik bilgileri ve banka bilgileri gibi hassas verileri iş akışına dahil edebiliyor. Oysa şimdi yapay zekadan kendi adımıza otonom olarak işler yapmasını istemeye başlıyoruz. Bu geçişte kuruluşların, yapay zekayı asistan, ajan ve operatör olarak kullandıkları üç yaygın benimseme modelinde yönetişim modellerini olgunlaştırmaları gerekiyor.
Yapay zeka asistan aşamasında insan işe yakın dururken, ajan aşamasında kullanıcılar yapay zeka araçlarından belirli görevleri otonom olarak tamamlamasını istiyor. Örneğin, bir içerik taslağı için LLM ile ileri geri gitmek yerine, kullanıcı girdileri ve temel talimatları verip aracın içeriği kendi başına oluşturmasını sağlıyor. Hatta yazma ajanı bitmiş taslağı bir düzenleme ajanına devredebiliyor. Bu noktada yönetişim kontrolleri, kimlik ve denetlenebilirlik artmalı çünkü insan döngüden daha da çıkarılıyor. Kuruluşlar, farklı ajanların belirli görevler için ne düzeyde erişime ihtiyaç duyduğunu ve yapay zeka ajanlarına kimlik atamayı belirlemelidir.
Operatör aşamasında ise yapay zeka ajanları sadece bireysel görevleri değil, tüm projeleri üstleniyor. Bir pazarlama kampanyası tasarlamak ve yürütmek gibi karmaşık işlerde insan müdahalesi saatler sonra geliyor. Bu aşamada veri erişimi kadar doğruluk konusunda da güçlü yönetişim kurmak kritik. Yapay zeka ajanları olasılıksal sistemlerken, kurumsal iş akışları çoğunlukla deterministik olduğu için liderler, yapay zeka tarafından üretilen işin nerede bitmesi ve kontrollü yürütmenin nerede başlaması gerektiğini dikkatlice düşünmelidir. Çoğu kuruluş henüz ajan yapay zekayı asistan aşamasının ötesine taşımaya başlıyor ve güvenlik liderleri doğru yönetişim, kimlik, denetlenebilirlik ve gözlemlenebilirlik modellerini tartışmaya devam ediyor. Genel yönetişim talebi açık: Yapay zeka sistemleri daha fazla özerklik kazandıkça, daha sıkı kontroller uygulanmalıdır.
