Kurumsal güvenlik ekipleri, siber savunma programlarında yapay zekayı (YZ) benzeri görülmemiş bir hızla benimsiyor. Ancak yeni bir araştırma, bu hızlı genişlemeyi destekleyecek yönetişim politikalarında önemli bir boşluk olduğunu ortaya koyuyor. Yapay zeka destekli güvenlik araçları, tehdit tespitinden olay müdahalesine kadar birçok alanda etkinliğini kanıtlarken, kurumların bu teknolojiyi kullanırken uyması gereken kurallar ve standartlar yeterince gelişmiş değil. Bu durum, siber güvenlikte yapay zekanın potansiyel faydalarını gölgeleyen ciddi riskler doğuruyor.
Araştırmaya göre, kurumların büyük çoğunluğu yapay zeka tabanlı güvenlik çözümlerine yatırım yapmayı planlıyor veya halihazırda kullanıyor. Ancak bu kurumların sadece küçük bir kısmı, yapay zekanın etik kullanımı, veri gizliliği, algoritmik önyargı ve şeffaflık gibi konuları kapsayan kapsamlı yönetişim politikalarına sahip. Uzmanlar, bu politika eksikliğinin, yapay zeka sistemlerinin kötüye kullanılmasına, yanlış kararlar almasına veya güvenlik açıklarına yol açabileceği konusunda uyarıyor.
Yapay zeka yönetişimindeki bu boşluk, özellikle saldırganların da yapay zekayı kullandığı günümüz tehdit ortamında daha da kritik hale geliyor. Savunma amaçlı yapay zeka sistemleri, doğru şekilde yönetilmezse, saldırganlar tarafından manipüle edilebilir veya yanıltılabilir. Örneğin, bir saldırgan, yapay zeka tabanlı bir tehdit tespit sistemini yanıltmak için özel olarak hazırlanmış veriler kullanabilir. Bu tür saldırılar, yönetişim politikaları olmadan tespit edilmesi ve önlenmesi zor olan güvenlik açıkları yaratır.
Önemli Gelişmeler
Politika boşluğunu kapatmak için kurumların, yapay zeka kullanımını düzenleyen net çerçeveler oluşturması gerekiyor. Bu çerçeveler, veri toplama ve kullanma izinlerinden, model eğitiminde kullanılan verilerin kalitesine, karar alma süreçlerinin şeffaflığına kadar birçok unsuru kapsamalı. Ayrıca, yapay zeka sistemlerinin düzenli olarak denetlenmesi ve güncellenmesi için prosedürler belirlenmeli. Uzmanlar, bu politikaların sadece teknik ekipler tarafından değil, aynı zamanda hukuk, uyum ve üst yönetimle işbirliği içinde geliştirilmesi gerektiğini vurguluyor.
Yapay zeka yönetişimi, aynı zamanda insan denetimini de içermeli. Otomatik kararların her zaman bir insan tarafından doğrulanması veya en azından gözden geçirilmesi sağlanmalı. Özellikle kritik güvenlik kararlarında, yapay zekanın bir öneri aracı olarak kullanılması ve nihai kararın insana bırakılması öneriliyor. Bu yaklaşım, hem hata payını azaltır hem de hesap verebilirliği artırır.
Sonuç olarak, siber savunmada yapay zeka kullanımı hızla artarken, kurumların bu teknolojiyi güvenli ve etik bir şekilde kullanabilmeleri için yönetişim politikalarına yatırım yapmaları şart. Teknoloji ne kadar gelişmiş olursa olsun, onu yöneten kurallar olmadan istenmeyen sonuçlara yol açabilir. Kurumlar, yapay zeka stratejilerini oluştururken yönetişimi de aynı öncelikle ele almalıdır.
Kaynak: cybersecuritydive.com
