ChatGPT'nin lansmanından bu yana geçen dört yılda, yapay zeka benimsenmesi hızla artarken yönetişim ve güvenlik hep geride kaldı. Kullanıcılar, iş ve özel hayatlarını iyileştirmek için kurumsal veriler, finansal kayıtlar ve hatta sağlık bilgilerini büyük dil modellerine yüklerken, şimdiye kadar büyük felaketlerden kaçınılmış olsa da riskler artıyor. HashiCorp'un (bir IBM şirketi) saha CTO'su Stephen Wilson'a göre, çoğu kişi AI araçlarını hâlâ "asistan" olarak kullanıyor, yani teknoloji yalnızca insan yönlendirmesiyle hareket ediyor. Ancak AI ajanları kendi başlarına hareket etme yeteneği kazandıkça risk hesaplamaları değişiyor ve güvenlik ile yönetişim uygulamaları bu değişime ayak uyduramıyor.
Wilson, kuruluşların AI araçlarını tam ortak olarak kullanmaya başladığını ancak onları hâlâ asistan olarak kullandıkları gibi yönettiğini belirtiyor. Asistan modelinde insan, işe yakın durur ve AI özetleme, içerik taslağı oluşturma, kod yazma gibi görevlerde yardımcı olur. Ancak bu aşamada bile kullanıcılar hassas verileri, kimlik bilgilerini veya izinleri iş akışına dahil edebilir. Örneğin, ayrıcalıklı bir kullanıcı bir API anahtarını istem içine yapıştırabilir veya gizli kayıtları analiz etmesini isteyebilir. Bu nedenle, insan kimliğinden makine kimliğine sıkı bir geçiş ve makinenin erişebileceği kaynakların sınırlandırılması gerekir.
AI ajan aşamasında, kullanıcılar AI araçlarından belirli görevleri otonom olarak tamamlamasını ister. Örneğin, bir içerik parçasını taslaklamak için LLM ile ileri geri gitmek yerine, kullanıcı girdileri ve temel talimatları verir ve aracın kendi başına üretmesini bekler. Hatta yazma ajanı, bitmiş taslağı bir düzenleme ajanına veya diğer AI araçlarına iletebilir. Bu noktada yönetişim kontrolleri, kimlik ve denetlenebilirlik artmalıdır çünkü insan döngüden daha da çıkar. Wilson, kuruluşların farklı ajanların hangi erişim seviyelerine ihtiyaç duyduğunu ve AI ajanlarına nasıl kimlik verileceğini belirlemesi gerektiğini söylüyor.
AI operatör aşaması, ajanların bireysel görevlerden tüm projelere geçtiği seviyedir. Örneğin, bir kuruluş tek bir makale yazmak yerine bir AI ajan ekibinden tüm bir pazarlama kampanyasını tasarlamasını ve yürütmesini isteyebilir. İnsan, iki-üç saat sonra geri döndüğünde, yayınlama yerleri, sosyal medya gönderileri ve etkileşim stratejileri dahil tüm projeyi hazır bulur. Wilson, bu aşamada veri erişiminin yanı sıra doğruluk üzerinde de güçlü yönetişim kurulması gerektiğini vurguluyor. Çünkü AI ajanları olasılıksal sistemlerken kurumsal iş akışları deterministiktir. Liderler, AI tarafından üretilen işin nerede bittiğini ve kontrollü yürütmenin nerede başladığını dikkatlice düşünmelidir. Sonuç olarak, AI sistemleri daha fazla özerklik kazandıkça, yönetişim, kimlik ve gözlemlenebilirlik kapsamı da aynı oranda artmalıdır.
