Yapay zeka güvenliği alanında öncü şirket Anthropic, en yetenekli yapay zeka modeli Claude Mythos Preview'a erişimi 150 yeni kuruluşa daha açtı. Bu hamle, dünyanın en kritik yazılımlarındaki güvenlik açıklarını bulmak için sınır yapay zeka kullanan Project Glasswing programının kapsamını önemli ölçüde genişletiyor. Nisan ayında yaklaşık 50 ortakla başlatılan program, bugüne kadar 10.000'den fazla yüksek veya kritik seviyede güvenlik açığı tespit etti.
Yeni ortaklar 15'ten fazla ülkeye yayılmış durumda ve enerji, su, sağlık, iletişim ve donanım gibi programın başlangıcında yeterince temsil edilmeyen sektörleri kapsıyor. Çoğu, kodları diğer kuruluşlara gömülü olan yazılım satıcılarından oluşuyor. Anthropic, bu ortakları seçme gerekçesini, herhangi birinin kod tabanına yapılacak siber saldırının felaketle sonuçlanabileceği ve çoğu için büyük bir ihlalin 100 milyondan fazla insanı etkileyebileceği şeklinde açıkladı.
Şirket, bu genişlemeyi, altı ila on iki ay içinde rakip geliştiricilerin benzer siber yeteneklere sahip modelleri, potansiyel olarak kötüye kullanıma karşı güvenlik önlemleri olmadan piyasaya sürmesini beklediği bir değişime hazırlık olarak çerçeveledi. Mythos sınıfı modellere genel erişim hala mümkün değil; Anthropic, birini güvenle yayınlamak için gereken güvenlik önlemlerinin henüz hiçbir yerde bulunmadığını kabul etti.
Sonuç ve Değerlendirme
Programın genişlemesi, sektörün halihazırda mücadele ettiği bir sorunu daha da belirginleştiriyor: güvenlik açıklarını bulmak, onları düzeltmekten çok daha kolay hale geldi. OWASP kurucusu Jeff Williams, 'Yapay zeka, güvenlik açığı keşfini endüstriyel ölçekte bir faaliyete dönüştürüyor, ancak çoğu kuruluş hala insan hızında düzeltme yapıyor' dedi. Uzmanlar, asıl fırsatın, yapay zekayı tehdit modelleme ve güvenli tasarıma yönlendirmek olduğunu vurguluyor.
