Siber güvenlik sektörünün önde gelen kuruluşu CREST, 9 Temmuz'da yayınladığı yeni bir AI Şartı ile yapay zekanın sorumlu kullanımı için önemli bir adım attı. 70'ten fazla siber güvenlik firmasının imzaladığı bu şart, yapay zeka destekli siber güvenlik faaliyetleri için dokuz temel ilke etrafında şekilleniyor. İlkeler, Mart ayında duyurulmuştu ve şimdi resmiyete kavuştu. Şart, sektörde yapay zekanın etik ve güvenli kullanımı için bir referans noktası oluşturmayı hedefliyor.
Şartın temelinde hesap verebilirlik, yönetişim ve şeffaflık ilkeleri yer alıyor. İmzacı firmalar, yapay zeka destekli tüm faaliyetlerin kapsamını ve amacını net bir şekilde tanımlamayı, ayrıca bu faaliyetlerin hizmet teslimatı, müşteri sonuçları, veri işleme ve operasyonel riskler üzerindeki etkilerini titizlikle değerlendirmeyi taahhüt ediyor. Yönetişim ve test kontrolleri, yapay zeka dağıtımının ölçeğiyle orantılı olmalı. Firmalar, araçlarında veya metodolojilerinde yapay zeka kullandıklarında müşterilerine mutlak şeffaflık sağlayacak, ilgili faydaları, sınırlamaları ve riskleri açıkça açıklayacak.
Güven ve operasyonel bütünlüğü korumak için şart, belgeleme, denetlenebilirlik, insan gözetimi ve sıkı veri egemenliğini vurguluyor. İmzacılar, yapay zeka kullanımlarının izlenebilir ve incelenebilir kayıtlarını tutmayı, ayrıca uyum denetimlerini tam olarak desteklemek için doğrulama ve kalite güvence süreçlerini uygulamayı taahhüt ediyor. Yapay zeka araçları çeşitli özerklik seviyelerinde çalışabilse de, şart, nitelikli personelin nihai gözetimi elinde tutmasını, müdahale etme, çıktıları inceleme ve kararlara itiraz etme yetkisine sahip olmasını zorunlu kılıyor.
Sonuç ve Değerlendirme
Veri işleme konusunda da katı kurallar getiriliyor: Firmalar, müşteri verilerinin modelleri eğitmek için kullanılıp kullanılmayacağını veya yargı bölgeleri arasında aktarılıp aktarılmayacağını açıkça beyan etmeli ve tüm veri kullanımının yasal, düzenleyici ve sözleşmeye dayalı taahhütlerle tam uyumlu olmasını sağlamalı. Şartın geri kalan ilkeleri, teknolojinin güvenliğini sağlamaya ve uzun vadeli operasyonel dayanıklılık oluşturmaya odaklanıyor. Firmalar, müşteri istemlerini, çıktılarını ve yapay zeka tarafından üretilen varlıkları güçlü güvenlik ve gizlilik kontrolleriyle korumakla yükümlü. Ayrıca, yapay zeka araçlarının tüm yaşam döngüsü boyunca güvenli geliştirme ve entegrasyon uygulamalarına uyulması gerekiyor.
Bu güvenlik anlayışı, tedarik zincirini de kapsıyor. İmzacılar, üçüncü taraf yapay zeka bağımlılıklarının risklerini tanımlamalı ve yönetmeli. Son olarak, iş sürekliliğini sağlamak için firmalar, olası yapay zeka arızalarına karşı proaktif planlama yapmalı, pratik yedekleme düzenlemeleri oluşturmalı ve sistem kesintilerinin hizmet seviyelerini ve kurtarma beklentilerini nasıl etkileyebileceği konusunda müşterilere tam şeffaflık sağlamalı. CREST, bu ilkeleri geliştirirken mevcut yapay zeka kullanım çerçevelerini incelemiş, üyelerinden ve CRESTCon etkinliklerindeki sektör liderlerinden geri bildirim almış ve teknik komitesinin onayını almıştır.
Sistem Güvenliği
CREST, imzacı firmaların 10%'sini temsil eden 73 kurucu imzacı ile şartı başlattı. Bu firmalar, Avrupa, Kuzey Amerika, Orta Doğu ve Asya-Pasifik'ten sızma testi, güvenlik açığı değerlendirmesi, olay müdahalesi, güvenlik operasyonları ve tehdit istihbaratı gibi alanlarda faaliyet gösteriyor. CREST CEO'su Nick Benson, şartın 'sadece bir başlangıç' olduğunu ve 'kuruluşların, hükümetlerin ve sağlayıcıların bu ortak ilkeleri benimsemesiyle kartopu etkisi yaratmasını' beklediklerini belirtti. CREST, modelini 'işleyen, başarılı bir pazar sağlamayı amaçlayan bir öz-düzenleme modeli' olarak tanımlıyor ve AI Şartı'nın 'düzenlemeyi daha az gerekli kılacağını ve uyum yükünü hafifleteceğini' umuyor.
Benson, 'ilkelerin ötesine geçerek bağımsız olarak değerlendirilebilecek kapsamlı standartlar oluşturmanın kesinlikle kritik olduğunu' vurguladı. Ayrıca, düzenleyicilerin bu ilkeleri desteklemesini ve işaret etmesini memnuniyetle karşılayacaklarını ekledi. 'Ulusal standartların CREST standartlarıyla uyumlu hale getirilmesi, uyumlaştırmayı, sınır ötesi birlikte çalışabilirliği teşvik edecek ve hem alıcılar hem de satıcılar için sürtünme maliyetlerini en aza indirecektir' dedi. Bu girişim, yapay zekanın siber güvenlikteki hızlı yayılımına dikkat çekiyor; CREST'in yakın zamanda yaptığı bir araştırma, siber güvenlik sağlayıcılarının 69%'unun günlük hizmet teslimatında yapay zeka kullandığını ve 76%'sının bu kullanımın geçen yıla göre arttığını ortaya koydu.
Kaynak: infosecurity-magazine.com
