Anthropic, en yetenekli yapay zeka modeli Claude Mythos Preview'a erişimi 150 yeni kuruluşa daha açarak Project Glasswing programını önemli ölçüde genişletti. Nisan ayında yaklaşık 50 ortakla başlatılan program, sınır yapay zekasını dünyanın en kritik yazılımlarındaki güvenlik açıklarını bulmak için kullanıyor. Şirket, 2 Haziran'da yaptığı açıklamada, ilk kohortun modeli kullanarak 10.000'den fazla yüksek veya kritik seviyede güvenlik açığı tespit ettiğini bildirdi.
Yeni ortaklar 15'ten fazla ülkede yer alıyor ve enerji, su, sağlık, iletişim ve donanım gibi programın başlangıcında yeterince temsil edilmeyen sektörleri kapsıyor. Birçoğu, kodları diğer kuruluşlara gömülü olan yazılım satıcıları. Anthropic, bu kuruluşları seçme nedenini, kod tabanlarından herhangi birine yapılacak siber saldırının felaketle sonuçlanabileceği ve çoğu için büyük bir ihlalin 100 milyondan fazla insanı etkileyebileceği şeklinde açıkladı. Şirket, bu hareketi defalarca uyardığı bir değişime hazırlık olarak çerçeveledi. Altı ila on iki ay içinde, rakip geliştiricilerin, potansiyel olarak kötüye kullanıma karşı güvenlik önlemleri olmadan piyasaya sürülebilecek benzer siber yeteneklere sahip modeller geliştirmesini bekliyor.
Genel erişime açık Mythos sınıfı modeller şimdilik masada değil. Anthropic, bir modeli güvenli bir şekilde piyasaya sürmek için gereken güvenlik önlemlerinin henüz hiçbir yerde bulunmadığını kabul etti. Bu durum, yapay zeka destekli güvenlik açığı keşfinin potansiyelini ve risklerini aynı anda gözler önüne seriyor. Programın genişlemesi, sektörün halihazırda mücadele ettiği bir sorunu daha da keskinleştiriyor: güvenlik açıklarını bulmak, onları düzeltmekten çok daha kolay hale geldi. Anthropic, darboğazın artık bu modellerin ortaya çıkardığı güvenlik açıklarını doğrulama, ifşa etme ve yama yapma aşamasında olduğunu belirtti.
Sistem Güvenliği
OWASP kurucusu ve Contrast Security CTO'su Jeff Williams, duyurunun zaten bunalmış olan ekipler üzerinde yeni bir baskı oluşturduğunu söyledi. Williams, 'Yapay zeka, güvenlik açığı keşfini endüstriyel ölçekli bir faaliyete dönüştürüyor, ancak çoğu kuruluş hala insan hızında iyileştirme yapıyor. Daha fazla güvenlik açığı bulmak, yazılımı daha güvenli hale getirmez. Gerçek fırsat, yapay zekayı dünkü tara-ve-yama döngüsü yerine tehdit modelleme ve güvenli tasarıma yönlendirmektir' dedi. Bu görüş, yapay zekanın siber güvenlikteki rolünün sadece tespitle sınırlı kalmaması gerektiğini vurguluyor.
Detaylar ve Etkileri
Cobalt CTO'su Gunter Ollmann, bulguların SAST ve DAST gibi otomatik araçların ancak belirli bir noktaya kadar ulaşabildiğini ve yapay zeka analizini yetenekli insan yönlendirmesiyle birleştirmenin geleneksel yaklaşımların kaçırdığı güvenlik açıklarını ortaya çıkardığını gösterdiğini belirtti. Ollmann, 'Bu gelişmelerden en çok yararlanacak kuruluşlar, saldırganlar onları bulmadan önce keşfedilen sorunları hızla doğrulayabilen, önceliklendirebilen ve düzeltebilenler olacak' diyerek sözlerini tamamladı. Bu, yapay zeka destekli güvenlik açığı yönetiminin başarısı için hızlı düzeltme süreçlerinin kritik önemini ortaya koyuyor.
Uzmanların Görüşleri
Project Glasswing'in genişlemesi, yapay zekanın siber güvenlikteki potansiyelini ve mevcut zorlukları bir kez daha gündeme getiriyor. Bir yandan sınır yapay zekası, insan gözünün kaçırdığı kritik güvenlik açıklarını tespit edebilirken, diğer yandan bu açıkların kapatılması için gereken insan kaynağı ve süreçler henüz aynı hızda ilerlemiyor. Anthropic'in yaklaşımı, yapay zekanın kontrollü bir şekilde kullanılması ve kötüye kullanım risklerine karşı önlem alınması gerektiğini de gösteriyor. Önümüzdeki aylarda, benzer yeteneklere sahip modellerin piyasaya sürülmesiyle birlikte siber güvenlik dünyasında köklü değişiklikler yaşanması bekleniyor.
Kaynak: infosecurity-magazine.com
