Bir IBM şirketi olan HashiCorp'un saha baş teknoloji sorumlusu Stephen Wilson, yapay zeka ajanlarını "gerçekten akıllı anaokulu öğrencilerine" benzetiyor.
Wilson, "Bir şeyi nasıl yapacaklarını biliyorlar ama onu neden yapmaları gerektiğine dair hiçbir fikirleri yok" diyor.
Üstün yürütme gücü ve muhakeme eksikliğinin bu birleşimi, yapay zeka aracılarını mevcut sıfır güven mimarilerine sığdırmaya çalışan kuruluşlar için önemli bir zorluk yaratabilir. Güçlü bir sıfır güven ortamında, Wilson, insan kullanıcıların önce kimliklerinin doğrulandığını, ardından zaman içinde giderek artan karar verme yetkileri ve erişim verildiğini, birçok kuruluşun yüksek ayrıcalıklara sahip bir BT çalışanını işe alması potansiyel olarak haftalar sürdüğünü belirtiyor. Ancak bu model, tek görevler için oluşturulabilen ve daha sonra hızla yok edilebilen yapay zeka ajanları nedeniyle çöküyor.
Teknik Analiz
Wilson, "Ekosisteminizdeki bu varlıklardan birini her saniyede bir sisteme dahil edip çıkarmanız gerektiğini hayal edin" diyor. "Yapay zeka ajanlarının devreye girmesi mutlaka yeni sorunlar yaratmıyor. Ancak her zaman var olan sorunları daha da kötüleştiriyor."
'Ne zaman hata yapacaklarını bilemezsiniz'
Nasıl Önlem Alınmalı?
Wilson, kuruluşların yapay zekayı agresif bir şekilde benimseme baskısının, kimlik doğrulama, karar verme, yürütme ve yetkilendirme arasındaki engellerin azaltılması veya silinmesi yönünde bir baskıyı da beraberinde getirdiğini söylüyor. Pek çok kuruluş, yapay zeka aracılarına yönelik sıfır güven programlarını yeniden tasarlamak yerine, esasen araçlara geniş erişim sağlıyor ve en iyisini umuyor.
Wilson, "Bu ajanlar çok hızlı hareket ediyor ve hiç kimse tam olarak hangi erişime sahip olmaları gerektiğinden emin değil" diyor. "Bunu daha önce hiç görmemiştim; gerçekten akıllı güvenlik görevlileri gözlerini kapatıyor ve tehlikeli olabilecek bir hızla hareket ediyor."
Uzmanların Görüşleri
Wilson, bir yapay zeka aracısının tüm üretim veritabanlarını sildiğini bildiren bir raporun ortaya çıkmasıyla birlikte, ajansal yapay zekaya sınırsız erişimin şimdiden bazı kuruluşlarda "felaket"e yol açabileceğini söylüyor. Wilson, "Kararlı yazılım geliştirme ortamlarında bile aylarca süren çalışmanın ortadan kaybolduğunu gördük" diyor. "Yapay zeka ajanlarının yüzde 80 oranında haklı olduğunu tahmin etsek bile sorun diğer yüzde 20'dedir; yanıldıklarında ne olur?"
Uzun görüşe sahip olmak
Ajansal yapay zeka kısa vadeli güvenlik sorunlarına yol açsa da Wilson, teknolojiyi kuruluşların sıfır güven ortamlarında uzun vadeli iyileştirmeleri teşvik edecek zorlayıcı bir işlev olarak görüyor. "Zor şeyleri yapmak zorunda kalacağımız bir dönüm noktasındayız" diyor. "İnsan kullanıcılarla istediğimiz kadar hızlı hareket edemeyeceğimizi ve çok fazla hayır demek zorunda kalacağımızı kabul ettik. Ancak bu bir gelgit dalgası."
Önemli Gelişmeler
Wilson, ajansal yapay zekanın yükselişini iPhone'un ("ancak 10 kat daha güçlü") piyasaya çıkışına benzetiyor ve akıllı telefonların, kuruluşları kendi cihazını getir (BYOD) ve uzaktan çalışma programları için güvenlik ve yönetim uygulamaları oluşturmaya zorladığını belirtiyor. "iPhone'dan önce BYOD diye bir şey yoktu" diyor. "İlk başta çok acı vericiydi ama iPhone olmasaydı uzaktan çalışmamız olmazdı."
Wilson, "Yapay zeka aynı zorluğu da beraberinde getiriyor" diyor. Zor şeyleri yapmanın sıfır ayrıcalıklı bir ayrıcalığa geçmek, uzun ömürlü sırlara güvenmek yerine dinamik kimlik bilgilerini kullanım anında vermek ve güvenliği cıvatalamak yerine inşa etmek anlamına geldiğini ekliyor. Amaç, ajanları yavaşlatmadan denetleyerek insanı döngünün içinde tutmak yerine "döngüde" tutmaktır. "Bazı kuruluşlar bazı zorluklarla karşılaşacak, ancak uzun vadede daha güvende olacağımızı düşünüyorum."
Daha fazlasını öğrenmek için bizi burada ziyaret edin.
