İngiltere Ulusal Siber Güvenlik Merkezi (NCSC), ajan yapay zeka sistemlerini kullanmak isteyen ancak beraberindeki siber risklerden endişe duyan kuruluşlar için yeni bir rehber yayınladı. Rehber, NCSC'nin Avustralya, Kanada, ABD ve Yeni Zelanda'daki Five Eyes ortaklarıyla birlikte hazırladığı daha detaylı bir raporu özetliyor. NCSC, ajan sistemlerinin özerkliği ve karmaşıklığının onları özellikle tehlikeli hale getirdiğini belirterek, dış sistemlere, verilere ve araçlara aşırı geniş erişimin yanı sıra öngörülemeyen davranışlara karşı uyarıyor.
NCSC'ye göre, eylemler insanların inceleyebileceğinden daha hızlı gerçekleştiğinde sorunları tespit etmek zorlaşıyor. Ayrıca, ajanların kullanabileceği çok çeşitli davranış ve araçlar, belirli bir eylem planını açıklamayı daha da zorlaştırıyor. Kuruluşların ajanları dağıtmadan önce dikkatlice düşünmeleri gerektiğini vurgulayan NCSC, aşırı yetkilendirilmiş veya kötü tasarlanmış bir ajanın tek bir hatasının hızla ciddi bir olaya dönüşebileceğini belirtiyor. Bu nedenle, kuruluşların neyin yanlış gidebileceğini düşünmeleri, yapay zekanın belirli kullanım durumları için gerçekten gerekli olup olmadığını değerlendirmeleri ve kademeli olarak dağıtım yapmaları öneriliyor.
NCSC, dağıtım öncesinde ekiplerin ajan sisteminin sahibini, erişimi onaylayan kişiyi, davranışını izleyecek olanı, olayları inceleyecek olanı ve bir sorun durumunda sistemi durdurabilecek kişiyi belirlemesi gerektiğini ekliyor. Rehberde, 'Ajanın görevini yanlış anlaması, amaçlanan kapsamını aşması veya manipüle edilmesi durumunda ne olabileceğini düşünün ve bir ajana hassas verilere veya kritik sistemlere sınırsız erişim asla vermeyin' ifadeleri yer alıyor. Ayrıca, sistemin işleyişine sürekli görünürlük sağlanması ve anlamlı insan denetiminin nasıl sürdürüleceğinin anlaşılması gerektiği vurgulanıyor.
Neyse ki, uluslararası ETSI EN 304 223 standardı tarafından tanımlanan endüstri en iyi uygulamaları bu konuda yardımcı olabilir. NCSC, ajan yapay zeka riskini azaltmak için en az ayrıcalık ilkesinin uygulanmasını, kapsamın sınırlandırılmasını, uzun ömürlü kimlik bilgilerinden kaçınılmasını, güvenli varsayılanların kullanılmasını, bağımlılıkların anlaşılmasını, davranışların izlenmesini, tehdit modellemesi yapılmasını ve olaylara hazırlıklı olunmasını öneriyor. Rehber, 'Ajan yapay zeka, özellikle tekrarlayan, iyi anlaşılmış ve düşük riskli görevlerde birçok senaryoda önemli faydalar sağlayabilir. NCSC bu faydaların gerçekleştirilmesi arzusunu anlıyor ve sorumlu, düşünceli ve ölçeklenebilir benimsemeyi teşvik ediyor' diyerek son buluyor.
