Anthropic'in en yetenekli yapay zeka modeline erişim, 150 kuruluşa daha genişletilerek dünyanın en kritik yazılımındaki güvenlik açıklarını bulmak için sınır yapay zekayı kullanan bir program genişletildi.
Anthropic, Nisan ayında Claude Mythos Preview'a erişim kazanan yaklaşık 50 ortaktan oluşan ilk grup üzerine inşa edilen Project Glasswing'in genişletildiğini 2 Haziran'da duyurdu.
AI şirketi, bu grubun o zamandan beri modeli 10.000'den fazla yüksek veya kritik önemdeki kusuru ortaya çıkarmak için kullandığını söyledi.
Gelecekte Ne Bekleniyor?
Glasswing'in Kapsamı Neden Genişledi?
Yeni ortaklar 15'ten fazla ülkede yer alıyor ve enerji, su, sağlık hizmetleri, iletişim ve donanım dahil olmak üzere lansman sırasında çok az temsil edilen sektörleri kapsıyor; birçoğu, kodu diğer kuruluşlara gömülü yazılım satıcılarıdır.
Sistem Güvenliği
Anthropic, kod tabanlarından herhangi birine yapılacak bir siber saldırının felaketle sonuçlanabileceği için onları seçtiğini söyledi ve büyük bir ihlalin çoğu için 100 milyondan fazla insanı etkileyebileceğini tahmin etti.
Firma, bu hareketi defalarca işaretlediği bir vardiyaya hazırlık olarak çerçeveledi. Altı ila 12 ay içinde, rakip geliştiricilerin benzer siber yeteneklere sahip, potansiyel olarak kötüye kullanıma karşı koruma olmadan piyasaya sürülen modelleri sahaya sürmeleri bekleniyor.
Nasıl Önlem Alınmalı?
Anthropic, Mythos sınıfı modellere genel erişimin mümkün olmadığını, bu modellerin güvenli bir şekilde piyasaya sürülmesi için gerekli önlemlerin henüz hiçbir yerde bulunmadığını kabul etti.
Discovery Düzeltmeyi Geride Bırakıyor
Genişleme, sektörün hâlihazırda boğuştuğu bir sorunu daha da keskinleştiriyor: kusurları bulmak, onları düzeltmekten çok daha kolay hale geldi. Anthropic'in kendisi, darboğazın artık bu modellerin ortaya çıkardığı güvenlik açıklarının doğrulanması, ifşa edilmesi ve yamalanmasında yattığını söyledi.
Detaylar ve Etkileri
OWASP'ın kurucusu ve Contrast Security'nin CTO'su Jeff Williams, duyurunun zaten bunalmış olan ekipler üzerinde yeni bir baskı oluşturduğunu söyledi.
Sonuç ve Değerlendirme
"Yapay zeka, güvenlik açığı keşfini endüstriyel ölçekte bir faaliyete dönüştürüyor, ancak çoğu kuruluş hâlâ insan hızında düzeltme yapıyor" dedi.
Williams, kuruluşlar aynı hızda doğrulayamadığı, önceliklendiremediği, düzeltemediği ve dağıtamadığı sürece, daha fazla kusur bulmanın yazılımı daha güvenli hale getirmediğini savundu. Gerçek fırsatın, yapay zekayı dünkü tarama ve yama döngüsünden ziyade tehdit modellemeye ve güvenli tasarıma yönlendirmek olduğunu öne sürdü.
Önemli Gelişmeler
Project Glasswing hakkında daha fazlasını okuyun: Anthropic, Yazılım Hatalarını Yapay Zekayla Düzeltmek İçin Project Glasswing'i Başlattı
Cobalt CTO'su Gunter Ollmann, bulguların SAST ve DAST gibi otomatik araçların yalnızca belli bir noktaya ulaşabildiğini gösterdiğini ve yapay zeka analizini yetenekli insan yönetimiyle eşleştirmenin, geleneksel yaklaşımların gözden kaçırdığı kusurları ortaya çıkardığını söyledi.
Ollmann, "Bu ilerlemelerden en çok yararlanacak kuruluşlar, keşfedilen sorunları, saldırganlar onları ilk bulmadan önce hızlı bir şekilde doğrulayabilen, önceliklendirebilen ve düzeltebilen kuruluşlar olacaktır." diye tamamladı.
Teknik Analiz
Görsel kaynak: JRdes / Samuel Boivin / Shutterstock.com
