Yapay zekanın hackleme yeteneklerine ilişkin korkular arttıkça, OpenAI Pazartesi günü siber güvenlik odaklı bir dizi duyuru yaptı; bunlar arasında sınırlı erişimli güvenlik konusunda uzmanlaşmış modeli GPT-5.5-Cyber'ın geliştirilmiş bir versiyonu, hükümetler ve diğer kurumlarla şirketin en yeni siber güvenlik odaklı modellerine "güvenilir erişim" sağlamak için uluslararası çalışmaların genişletilmesi ve Codex Güvenlik tarayıcısının bir uygulama eklentisi olarak piyasaya sürülmesi de yer alıyor.
Yapay zeka endüstrisindeki ilerlemeler kritik açık kaynak projelerini geride kalma riskiyle karşı karşıya bırakırken, şirket Pazartesi günü yaptığı açıklamada, önde gelen araştırma odaklı güvenlik firması Trail of Bits ile ve güvenlik açığı yönetimi firmaları HackerOne ve Calif ile işbirliği içinde kurulan Patch the Planet olarak bilinen bir çaba başlattığını da duyurdu.
Proje, açık kaynak bakımcılarına yalnızca güvenlik açıklarını bulmalarına ve düzeltmelerine yardımcı olmak için değil, aynı zamanda kod tabanlarını güçlendirme ve yapay zeka güvenlik araçlarını geliştirme süreçlerine dahil etme konusunda da destek olmak için ücretsiz güvenlik danışmanlık hizmetleri sunarak çalışmalarına başladı. Buradaki fikir, hem mevcut güvenliği hem de uzun vadeli dayanıklılığı gerçekten sürdürülebilir olacak şekilde geliştirmek için mümkün olduğunca çok sayıda açık kaynaklı projeye bireyselleştirilmiş destek vermektir.
Trail of Bits CEO'su ve kurucu ortağı Dan Guido, "Patch the Planet, açık kaynaklı yazılımın yapay zeka hata avlama araçlarının önüne geçmesine yardımcı olmayı amaçlayan internet ölçeğinde bir çabadır" diyor. "Ancak bu aynı zamanda açık kaynak topluluğunun yapay zeka kodlama araçlarının yalnızca dezavantajlarını değil, faydalarını da görmesine yardımcı olma çabasıdır."
Açık kaynak geliştiricileri (tipik olarak kritik ve yaygın olarak kullanılan yazılımları az kaynakla ayakta tutan gönüllüler) genellikle hata raporlarını takip etmekte zorlanıyor. Son aylarda yapay zeka güvenlik açığı avcılığının artması, birçok bakımcı için yapay zeka tarafından oluşturulan eksik raporların birikmesiyle bu birikmiş iş yükünün aşılmaz hale gelmesine neden oldu, bu da önceliklendirmeyi zorlaştırıyor ve zaten sınırlı olan zamanı ve dikkati kritik kusurlardan uzaklaştırıyor.
OpenAI'nin siber teknoloji lideri Fouad Matin, bakımcıların "çalışmalarını açık kaynak sevgisiyle yaptıklarını ve artık CVE'leri gözden geçirmek zorunda kaldıklarını" söylüyor. Patch the Planet ile şöyle diyor: "Etkin olarak yaptığımız şey, kod tabanı değerlendirmeleri, potansiyel raporları doğrulama, yamalar oluşturma ve bunları indirme gibi bakımcıların yükünü azaltmak için token perspektifinden mümkün olduğunca verimli hale getirmek. Yazılım dünyasının mümkün olduğunca büyük bir kısmına yama uygulamak için ister token ister insan gücü olsun maliyetleri dengelemek istiyoruz."
Matin, OpenAI'nin bu yılın başından bu yana araştırma aşamasında olan Codex Security tarayıcısı için hem açık kaynak hem de özel kod kullanımını "20 trilyon token" tutarında sübvanse ettiğini ekliyor.
Patch the Planet'e halihazırda 30'dan fazla açık kaynaklı proje katılıyor ve daha fazlasının da başlaması bekleniyor. Trail of Bits, projeyi başlatmak için yakın zamanda 25 mühendisin (veya işgücünün yaklaşık beşte birinin) eş zamanlı olarak bir dizi bakımcıyla işbirliği üzerinde çalıştığı beş günlük bir açılış sprint'i gerçekleştirdi. OpenAI ve Trail of Bits, projenin daha ilk haftasında zaten yüzlerce hatayı ortaya çıkardığını ve düzinelerce yama ürettiğini söylüyor. Guido, OpenAI'den gelen finansmanın yanı sıra sınırsız model erişimiyle Trail of Bits'in Patch the Planet çalışmasına olan yoğun bağlılığını uzun vadede sürdürmeyi planladığını söylüyor.
Guido, "Büyük ölçekli açık kaynaklı güvenlik sorunları üzerinde çalışma fırsatına sahip olmamız o kadar nadir ki" diyor. "Ve Patch the Planet herkese uyan tek bir çözüm değil. Her bir proje için tüm bakımcılarla konuşuyoruz ve onların en yüksek önceliklerinin ne olduğunu anlıyoruz; bu ister daha iyi bir test altyapısı veya özel fuzzer'lar oluşturmak, ister sadece proje genelinde teknik verileri temizlemek olsun, çünkü bu onların daha hızlı çalışmasını, daha hızlı çalışmasını ve daha hızlı yama yapmasını sağlayacak şeydir."
