ChatGPT'nin yaklaşık dört yıl önce halka sunulmasından bu yana yönetim ve güvenlik, yapay zekanın benimsenmesinin büyük ölçüde gerisinde kaldı.
Yapay zeka araçlarını denemeye ve işlerini ve kişisel yaşamlarını iyileştirmenin yollarını bulmaya istekli olan kullanıcılar, kurumsal verileri, mali kayıtları ve hatta kendi sağlık bilgilerini büyük dil modellerine (LLM'ler) yüklediler. Bu başıboş aktivite bariz riskler taşısa da birçok kullanıcı ve işletme şu ana kadar yıkıcı sonuçlardan kurtuldu.
Bir IBM şirketi olan HashiCorp'un saha teknoloji sorumlusu Stephen Wilson, çoğu insanın hala yapay zeka araçlarını büyük ölçüde "asistan" olarak kullandığını ve teknolojinin yalnızca insan kullanıcıların yönlendirmesi doğrultusunda harekete geçtiğini belirtiyor. Ancak yapay zeka ajanlarına kendi başlarına hareket etme yeteneği kazandırıldıkça risk hesabı da değişiyor. Wilson, şu ana kadar güvenlik ve yönetim uygulamalarının buna ayak uyduramadığını söylüyor.
Detaylar ve Etkileri
Wilson, "Şu anda olan şu ki, kuruluşlar yapay zeka araçlarını tam ortak olarak kullanmaya başlıyor, ancak araçları yalnızca asistan olarak kullandıkları zamanki gibi yönetiyorlar" diyor. "Yapay zeka bir asistan olduğunda, kullanıcı uygulamaya çok yaklaşmış olur ve API anahtarlarını, sosyal medya kimlik bilgilerini ve banka bilgilerini teslim ederler. Ancak şimdi yapay zekadan işleri bizim adımıza özerk bir şekilde yapmasını istemeye başlıyoruz."
Uzmanların Görüşleri
Wilson, kuruluşların destekli kullanım örneklerinden daha özerk iş akışlarına doğru ilerledikçe yönetim modellerini üç ortak benimseme modeline göre olgunlaştırmaları gerektiğini söylüyor: Asistan olarak yapay zeka, aracı olarak yapay zeka ve operatör olarak yapay zeka.
Asistan olarak yapay zeka
Kurumsal yapay zekayı benimsemenin en temel ve yaygın biçimi, asistan olarak yapay zekadır. Bu modelde, bir insan bilgiyi özetlemek, içerik taslağı hazırlamak, kod oluşturmak ve diğer ayrı görevleri tamamlamak için teknolojiyi kullanarak işe yakın kalır. Kullanıcı bir istem girer, yanıtı değerlendirir ve daha sonra ne yapacağına karar verir.
Sistem Güvenliği
Her ne kadar insanlar bu aşamada infazın yakınında kalsa da, aktivite risksiz değildir. Kullanıcılar yapay zeka asistanlarıyla etkileşime girdiğinde hassas verileri, kimlik bilgilerini veya izinleri iş akışına kolayca getirebilirler. Ayrıcalıklı erişime sahip bir kullanıcı, bir komut istemine bir API anahtarı yapıştırabilir veya hatta bir LLM'den gizli kayıtları analiz etmesini isteyebilir.
Wilson, "İnsan kimliğinden makine kimliğine çok sıkı bir geçiş yapmanız gerekiyor" diyor. "Aynı zamanda makinenin neye erişebileceğini makineden hizmete bakış açısıyla yönetebilmeniz gerekiyor, çünkü yükseltilmiş ayrıcalığa sahip olursam bu ayrıcalığı bağlam penceresine eklemek zor olmaz."
Asistan aşamasında, kuruluşların büyük ölçüde yapay zeka etkinliğinin kullanıcılar için halihazırda belirlenmiş olan sınırlara göre yönetilmesini sağlaması gerekir. Ancak yapay zeka, istemleri yanıtlamaktan işi tamamlamaya doğru ilerledikçe, bu yönetişim sınırlarının da genişlemesi gerekiyor.
Bir aracı olarak yapay zeka
Nasıl Önlem Alınmalı?
Bu aşamada, insan kullanıcılar yapay zeka araçlarından belirli görevleri otonom olarak tamamlamalarını istemeye başlar. Örneğin, bir kullanıcı, bir içeriğin ana hatlarını çizmek ve taslağını çıkarmak için Yüksek Lisans ile ileri geri gitmek yerine, bir yapay zeka aracına bir dizi girdi ve temel talimat verebilir ve ardından araçtan parçayı kendi başına oluşturmasını isteyebilir. Aslında yazma aracısı, bitmiş taslağı bir insan kullanıcıya geri dönmeden önce bir düzenleme aracısına veya diğer yapay zeka araçlarına bile iletebilir.
Wilson, "Bu gerçekleştiğinde yönetişim kontrollerinin, kimlik ve denetlenebilirliğin artması gerekir çünkü insanı döngünün daha da dışına çıkarırsınız" diyor. "Yapay zeka asistanlarında, ileri geri gerçekleşen isteğin başlatıcısı hâlâ insandır. Ancak yapay zekanın aracı olmasıyla, bir istekte bulunuyorsunuz ve ardından onu çalıştırmaya bırakıyorsunuz."
Teknik Analiz
Wilson, bu aşamada kuruluşların, farklı temsilcilerin belirli görevleri tamamlamak için hangi düzeyde erişime ihtiyaç duyduğunu ve ayrıca yapay zeka temsilcilerine nasıl kimlik vereceklerini belirlemeleri gerektiğini söylüyor. "Kişiliği nasıl yönetiyorsunuz? Daha sık doğru olma yeteneğini nasıl hızlandırırsınız? Bir temsilci olarak yapay zekaya geçmeye başladığınızda bunlar üzerinde düşünmeniz gereken şeylerdir."
Operatör olarak yapay zeka
Önemli Gelişmeler
Bu, AI temsilcilerinin yalnızca bireysel görevleri değil, tüm projeleri üstlendiği aşamadır. Bir kuruluş, tek bir makaleyi yazmak ve düzenlemek için aracı araçlara başvurmak yerine, yapay zeka temsilcilerinden oluşan bir ekipten tüm bir pazarlama kampanyasının tasarlanmasını ve yürütülmesini isteyebilir.
Wilson, "İnsan iki veya üç saat içinde geri geliyor ve nerede yayınlanacağı, bireysel sosyal medya gönderileri ve etkileşim stratejileri de dahil olmak üzere tüm projeye sahip oluyor" diyor. “Gözetim düzeyiniz düştükçe yönetişim, kimlik ve denetim düzeyinin de artması gerekiyor hafifletiyor.”
Sonuç ve Değerlendirme
Wilson, bu aşamada yalnızca veri erişimi konusunda değil aynı zamanda doğruluk konusunda da güçlü bir yönetim oluşturmanın önemli olduğunu belirtiyor. Örneğin, bir yapay zeka temsilcisinin sosyal medya içeriği oluşturması durumunda kuruluşun, içeriğin onaylanmış mesajları kullandığını, doğru inceleme sürecinden geçtiğini ve yalnızca yetkili kanallar aracılığıyla yayınlandığını bilmesi gerekir.
Yapay zeka aracıları olasılığa dayalı sistemler olduğundan, birçok kurumsal iş akışı da belirleyici olduğundan bu karmaşık bir zorluktur. Wilson, temsilcilere bu iş akışlarını tamamlama yetkisi vermeden önce liderlerin yapay zeka tarafından üretilen işin nerede bitmesi ve kontrollü yürütmenin nerede başlaması gerektiği konusunda dikkatli düşünmeleri gerektiğini söylüyor.
Gelecekte Ne Bekleniyor?
Çoğu kuruluş, ajansal yapay zekayı asistan aşamasının ötesinde kullanmaya yeni başlıyor ve Wilson, güvenlik liderlerinin hâlâ bu sistemler için doğru yönetişim, kimlik, denetlenebilirlik ve gözlemlenebilirlik modellerini tartıştığını belirtiyor.
Ancak genel yönetişim talebi açık: Yapay zeka sistemleri daha fazla özerklik kazandıkça kuruluşların daha sıkı kontroller uygulaması gerekiyor. Bir yapay zeka asistanı büyük ölçüde bireysel kullanıcının bir uzantısı olarak yönetilebilir. Bir AI temsilcisi, gerçekleştirdiği işe ve dokunduğu sistemlere ilişkin net bir görünürlük sağlayacak şekilde bir ekibin parçası olarak yönetilmelidir. Ve bir yapay zeka operatörünün, veri erişimini, iş akışının yürütülmesini, onayları ve denetim izlerini kapsayan kontrollerle bir iş fonksiyonu olarak yönetilmesi gerekir.
Wilson, "Yönetişim, kimlik ve gözlemlenebilirlik kapsamınız, sanki bir bireyden takıma, oradan da bir kuruluşa geçiyormuşsunuz gibi aynı oranda artmalı" diyor.
Daha fazlasını öğrenmek için bizi burada ziyaret edin.
