Yapay zeka (YZ), iş dünyasında hızla yaygınlaşırken, şirketlerin bu teknolojiyi güvenli bir şekilde yönetmek için gerekli politikaları oluşturmakta geri kaldığı ortaya çıktı. ISACA tarafından 5 Mayıs'ta yayımlanan yeni bir araştırmaya göre, dijital güven uzmanlarının %90'ı çalışanlarının YZ araçları kullandığına inanıyor. Ancak, yalnızca %38'i kurumlarının YZ kullanımını yönetmek için kapsamlı bir politikaya sahip olduğunu belirtirken, %30'u sınırlı bir politika olduğunu söyledi. Daha da endişe verici olanı, şirketlerin %25'inin YZ ile ilgili hiçbir politikasının bulunmaması.
Politika eksikliği, 'Gölge Yapay Zeka' (Shadow AI) olarak adlandırılan, çalışanların büyük dil modelleri (LLM) gibi araçları kendi inisiyatifleriyle kullanmasına yol açıyor. Bu durum, hassas şirket bilgilerinin YZ modelleriyle paylaşılmasına neden olarak veri ihlali ve gizlilik ihlali risklerini artırıyor. Araştırmaya katılanlar, güvenlik ve BT ekiplerinin bilmediği bir Gölge YZ aracının neden olduğu bir güvenlik olayını önleyip önleyemeyeceklerinin belirsiz olduğunu ifade etti. Ayrıca, katılımcıların %56'sı bir güvenlik olayı durumunda bir YZ sistemini durdurmanın ne kadar süreceğini bilmediklerini söyledi.
YZ sistemlerini kapatma veya devre dışı bırakma yeteneği de büyük bir sorun. Katılımcıların sadece %20'si, YZ'nin kötü amaçlı faaliyetlerde bulunması veya veri zehirleme saldırılarından etkilenmesi gibi durumlarda sistemi durduracak bir sürece sahip olduğunu belirtti. ISACA'nın Yükselen Trendler Çalışma Grubu üyesi Ulrika Dellrud, "Yalnızca %38'lik bir kesim yönetim kurulunun YZ risklerini anladığına güvenirken, liderlik açığı teknoloji açığı kadar gerçek" dedi. Dellrud, etkili YZ yönetişiminin veri ve gizlilik yönetişimine dayandığını vurguladı.
Araştırma ayrıca, YZ destekli siber tehditlerin arttığını ve birçoğunun fark edilmediğini ortaya koydu. Katılımcıların %71'i YZ destekli oltalama ve sosyal mühendislik saldırılarının tespit edilmesinin zorlaştığını, %58'i dijital bilgilerin doğrulanmasının önemli ölçüde zorlaştığını belirtti. Buna karşın, %43'ü YZ tabanlı siber güvenlik araçlarının tehditleri tespit etme ve yanıtlama yeteneklerini geliştirdiğini ifade etti. ISACA'nın 3.400 küresel dijital güven uzmanıyla yaptığı AI Pulse Poll anketi, şirketlerin YZ risklerini yönetmek için acilen kapsamlı politikalar oluşturması gerektiğini gösteriyor.
