Yapay zeka kuruluşların içine yerleşmiş durumda, ancak yarısından azı herhangi bir türde yapay zeka emniyet veya güvenlik politikasına sahip ve potansiyel olarak onları veri ihlallerine, gizlilik hatalarına ve diğer siber tehditlere açık hale getiriyor.
ISACA tarafından 5 Mayıs'ta yayınlanan yeni araştırmaya göre dijital güven profesyonellerinin %90'ı, kuruluşlarındaki çalışanların yapay zeka araçlarını kullandığına inanıyor.
Ancak yalnızca %38'i kuruluşlarının yapay zeka araçlarının kullanımını yönetmek için resmi ve kapsamlı bir yapay zeka politikasına sahip olduğunu söylerken, %30'u sınırlı bir politikaya sahip olduklarını söyledi.
Uzmanların Görüşleri
İşyerlerinde yapay zekanın yükselişine rağmen kuruluşların %25'i yapay zekayla ilgili hiçbir politikalarının olmadığını söyledi.
Sistem Güvenliği
Çalışanların günlük işlerine yardımcı olmak için Yüksek Lisans gibi araçları kullanması nedeniyle, uygun yapay zeka kullanımına ilişkin sağlamlaştırılmış politikaların bulunmaması, Gölge Yapay Zeka'nın yükselişiyle sonuçlandı. Ancak bu, hassas şirket bilgilerini yapay zeka modelleriyle paylaşmalarına yol açabilir.
Teknik Analiz
ISACA'nın yıllık Yapay Zeka Darbe Anketi kapsamında ankete katılanlar, güvenlik ve BT ekipleri tarafından bilinmeyen bir Gölge Yapay Zeka aracının neden olduğu bir güvenlik olayını önleyip önleyemeyeceklerinin belirsiz olduğunu belirtti.
Yapay Zekayı Kapatma Yeteneğine İlişkin Belirsizlikler
Önemli Gelişmeler
Toplamda ankete katılanların %56'sı, bir güvenlik olayı nedeniyle yapay zeka sisteminin durdurulmasının ne kadar süreceğini bilmediklerini söyledi.
Yalnızca %20'si, yapay zekanın kötü amaçlı etkinlik gerçekleştirmesi veya yapay zekanın veri zehirlenmesi saldırılarından etkilenmesi gibi bir şeyler ters gittiğinde kuruluşlarının yapay zeka sistemlerini kapatmak veya geçersiz kılmak için herhangi bir sürecin mevcut olduğunu söyledi.
Sonuç ve Değerlendirme
ISACA'nın Yükselen Trendler Çalışma Grubu üyesi ve Smarter Contracts'ın gizlilik ve veri etiği sorumlusu Ulrika Dellrud, "Uygulayıcıların yalnızca %38'i yönetim kurullarının yapay zeka riskleri konusundaki anlayışına güvenirken, liderlik açığı teknoloji kadar gerçektir" dedi.
"Etkili yapay zeka yönetişimi aynı zamanda verilerinize hakim olmakla başlar: Temel olarak güçlü veri ve gizlilik yönetimi olmadan kuruluşlar yapay zeka riskini yönetemez, güven sağlayamaz veya sürdürülebilir değerin kilidini açamaz. İleriye giden yol açıktır: yapay zeka başarısı yalnızca yeniliğe değil, disiplinli yönetişime, bilgili liderliğe ve sorumlu veri yönetimine de bağlı olacaktır."
Araştırma ayrıca veri gizliliği ve güvenlik uzmanlarının yapay zeka destekli siber güvenlik tehditlerinin arttığına inandığını da ortaya çıkardı. Birçoğu bu tehditlerin kuruluşları tarafından fark edilmediğine inanıyor.
AI Pulse Anketinde katılımcılar, AI tehditleriyle bağlantılı olarak büyüyen birçok zorluğun altını çizdiler:
Nasıl Önlem Alınmalı?
%71'i yapay zeka destekli kimlik avı ve sosyal mühendislik saldırılarının artık tespit edilmesinin daha zor olduğunu söyledi
%58'i yapay zekanın dijital bilgilerin doğrulanmasını önemli ölçüde zorlaştırdığını söyledi
Detaylar ve Etkileri
%38'i bunun sonucunda geleneksel tehdit tespit yöntemlerine olan güvenlerinin azaldığını söyledi
Buna rağmen, katılımcıların çoğu yapay zekayı siber savunucular için bir avantaj olarak gördüklerini belirtti; %43'ü yapay zeka tabanlı siber güvenlik araçlarının dağıtımının, kuruluşlarının siber tehditleri tespit etme ve bunlara yanıt verme yeteneğini geliştirdiğini belirtti.
ISACA AI Pulse Anketi, BT denetimi, yönetişim, siber güvenlik, gizlilik ve gelişen teknoloji rollerindeki 3.400 küresel dijital güven profesyonelinin yanıtlarına dayanıyor.
