ChatGPT'nin dört yıl önceki lansmanından bu yana, yapay zeka benimsenmesi hızla artarken güvenlik ve yönetişim uygulamaları aynı hızı yakalayamadı. Kullanıcılar iş ve özel hayatlarını iyileştirmek için büyük dil modellerine (LLM'ler) kurumsal veriler, finansal kayıtlar ve hatta sağlık bilgileri yüklerken, ciddi riskler oluştu. HashiCorp'un CTO'su Stephen Wilson'a göre çoğu kullanıcı AI araçlarını hâlâ 'asistan' olarak kullanıyor; teknoloji yalnızca insan yönlendirmesiyle hareket ediyor. Ancak AI ajanları kendi başlarına hareket etme yeteneği kazandıkça risk hesaplamaları değişiyor ve güvenlik uygulamaları bu değişime ayak uyduramıyor.
Wilson, kuruluşların AI araçlarını tam ortak olarak kullanmaya başladığını ancak onları hâlâ asistan gibi yönettiğini belirtiyor. 'AI asistan olduğunda kullanıcı uygulamaya yakındır ve API anahtarları, sosyal medya kimlik bilgileri, banka bilgileri verir. Şimdi ise AI'dan kendi başına iş yapmasını istiyoruz' diyor. Kuruluşların, asistan kullanımından otonom iş akışlarına geçerken yönetişim modellerini üç aşamada olgunlaştırması gerekiyor: AI asistan, AI ajan ve AI operatör.
AI asistan aşamasında insan işe yakın kalır; özet çıkarma, içerik taslağı oluşturma gibi görevlerde teknoloji kullanılır. Risk, kullanıcıların hassas verileri veya kimlik bilgilerini iş akışına taşımasıdır. Wilson, 'İnsan kimliğinden makine kimliğine sıkı bir geçiş olmalı ve makinenin erişebileceği kaynaklar yönetilmeli' diyor. AI ajan aşamasında ise kullanıcılar, AI araçlarından belirli görevleri otonom olarak tamamlamasını ister. Örneğin bir içerik yazma ajanı, taslağı bir düzenleme ajanına devredebilir. Bu durumda yönetişim kontrolleri, kimlik ve denetlenebilirlik artırılmalıdır çünkü insan döngüden daha da çıkarılmıştır.
Sonuç ve Değerlendirme
AI operatör aşamasında ajanlar bireysel görevlerden tüm projelere geçer. Örneğin bir AI ajan ekibine tüm pazarlama kampanyasını tasarlama ve yürütme görevi verilebilir. Wilson, 'İnsan iki-üç saat sonra döndüğünde tüm projeyi hazır bulur' diyor. Bu aşamada veri erişimi ve doğruluk için güçlü yönetişim şarttır. AI ajanları olasılıksal sistemler olduğu için kurumsal iş akışlarıyla uyumlu hale getirilmesi karmaşıktır. Liderler, AI tarafından üretilen işin nerede bittiğine ve kontrollü yürütmenin nerede başladığına dikkat etmelidir. Çoğu kuruluş henüz ajan aşamasının başında; ancak genel yönetişim ihtiyacı net: AI ne kadar otonom olursa, kontroller o kadar sıkı olmalıdır.
