Yapay zeka destekli siber saldırıların artan tehdidi karşısında OpenAI, pazartesi günü bir dizi siber güvenlik odaklı duyuru yaptı. Bunlar arasında sınırlı erişimli güvenlik modeli GPT-5.5-Cyber'ın geliştirilmiş bir sürümü, hükümetler ve kurumlarla 'güvenli erişim' sağlamak üzere genişletilmiş uluslararası iş birliği ve Codex Security tarayıcısının bir uygulama eklentisi olarak yayınlanması yer alıyor. Ancak AI endüstrisindeki ilerlemeler kritik açık kaynak projelerini geride bırakma riskiyle karşı karşıya bırakırken, şirket aynı gün Patch the Planet adlı bir girişim başlattığını da açıkladı.
Araştırma odaklı güvenlik firması Trail of Bits öncülüğünde ve güvenlik açığı yönetim firmaları HackerOne ile Calif iş birliğiyle kurulan proje, açık kaynak bakımcılarına ücretsiz güvenlik danışmanlığı hizmeti sunarak hem güvenlik açıklarını bulup yamamalarına yardımcı olmayı hem de kod tabanlarını güçlendirme ve AI güvenlik araçlarını geliştirme süreçlerine entegre etme konusunda destek vermeyi amaçlıyor. Fikir, mümkün olduğunca çok açık kaynak projeye bireyselleştirilmiş destek sağlayarak mevcut güvenliklerini ve uzun vadeli dayanıklılıklarını sürdürülebilir bir şekilde iyileştirmek.
Trail of Bits CEO'su ve kurucu ortağı Dan Guido, 'Patch the Planet, açık kaynak yazılımların AI hata avlama araçlarının önüne geçmesine yardımcı olmayı amaçlayan internet çapında bir çabadır. Aynı zamanda açık kaynak topluluğunun AI kodlama araçlarının sadece dezavantajlarını değil, faydalarını da görmesine yardımcı olmayı hedefliyor' dedi. Açık kaynak geliştiricileri - genellikle kritik ve yaygın olarak kullanılan yazılımları sınırlı kaynaklarla ayakta tutan gönüllüler - zaten hata raporlarıyla başa çıkmakta zorlanıyor. Son aylarda AI destekli güvenlik açığı avcılığının yükselişi, birçok bakımcı için bu birikmiş iş yükünü aşılmaz hale getirdi; AI tarafından üretilen kalitesiz raporlar yığılırken, önceliklendirme zorlaşıyor ve kritik kusurlardan zaten sınırlı olan zaman ve dikkat çekiliyor.
Sistem Güvenliği
OpenAI'nin siber güvenlik teknoloji lideri Fouad Matin, bakımcıların 'işlerini açık kaynak sevgisinden yaptıklarını ve şimdi kalitesiz CVE'leri incelemek zorunda kaldıklarını' söyledi. Patch the Planet ile 'yaptığımız şey, bakımcıların yükünü azaltmak için token perspektifinden mümkün olduğunca verimli hale getirmek oldu - kod tabanı değerlendirmeleri, potansiyel raporları doğrulama, yamalar oluşturma ve bunları uygulama. Mümkün olduğunca çok yazılımı yamamak için token veya insan gücü olsun, maliyetleri dengelemek istiyoruz' diye ekledi. Matin, Codex Security tarayıcısı için OpenAI'nin hem açık kaynak hem de özel kod kullanımını '20 trilyon token' değerinde sübvanse ettiğini belirtti.
Nasıl Önlem Alınmalı?
Patch the Planet'e şimdiden 30'dan fazla açık kaynak proje katılıyor ve daha fazlası sırada. Projeyi başlatmak için Trail of Bits, 25 mühendisin (iş gücünün yaklaşık beşte biri) aynı anda çeşitli bakımcılarla iş birliği yaptığı beş günlük bir başlangıç sprinti düzenledi. OpenAI ve Trail of Bits, projenin sadece ilk haftasında yüzlerce hata bulduğunu ve düzinelerce yama ürettiğini söylüyor. Guido, OpenAI'den gelen fon ve sınırsız model erişimiyle Trail of Bits'in Patch the Planet çalışmalarına uzun vadeli yoğun bir bağlılık sürdürmeyi planladığını belirtti.
Detaylar ve Etkileri
Guido, 'Büyük ölçekli açık kaynak güvenlik sorunları üzerinde çalışma fırsatı bulmak çok nadirdir. Patch the Planet herkese uyan tek bir çözüm değil. Her projenin tüm bakımcılarıyla konuşup en yüksek önceliklerinin ne olduğunu belirliyoruz - ister daha iyi test altyapısı kurmak, ister özel fuzzer'lar oluşturmak, isterse proje genelinde teknik verileri temizlemek olsun; çünkü bu onların daha hızlı çalışmasını, daha hızlı işlem yapmasını ve daha hızlı yama yapmasını sağlayacak' dedi. OpenAI'nin bu girişimi, yapay zekanın siber güvenlik alanındaki potansiyelini açık kaynak topluluğunun yararına kullanma yönünde önemli bir adım olarak görülüyor.
Kaynak: wired.com
