Yapay zeka destekli siber saldırılara yönelik endişeler artarken, OpenAI Pazartesi günü siber güvenlik odaklı bir dizi duyuru yaptı. Bunlar arasında, sınırlı erişimli güvenlik modeli GPT-5.5-Cyber'ın geliştirilmiş bir sürümü, hükümetler ve kurumlarla genişletilmiş uluslararası işbirliği ve Codex Security tarayıcısının bir uygulama eklentisi olarak yayınlanması yer alıyor. Ancak, yapay zeka endüstrisindeki ilerlemeler kritik açık kaynak projelerini giderek daha fazla risk altında bırakırken, şirket aynı gün Patch the Planet adlı bir girişim başlattığını duyurdu.
Araştırma odaklı güvenlik firması Trail of Bits ile kurulan ve güvenlik açığı yönetim firmaları HackerOne ve Calif işbirliğiyle yürütülen bu proje, açık kaynak bakımcılarına ücretsiz güvenlik danışmanlığı sunarak güvenlik açıklarını bulma ve yamalama süreçlerinde destek olmayı hedefliyor. Proje kapsamında bakımcıların kod tabanlarını güçlendirmeleri ve yapay zeka güvenlik araçlarını geliştirme süreçlerine entegre etmeleri için bireysel destek sağlanıyor.
Trail of Bits CEO'su ve kurucu ortağı Dan Guido, 'Patch the Planet, açık kaynak yazılımların yapay zeka hata avlama araçlarının önüne geçmesine yardımcı olmak için internet ölçeğinde bir çaba. Aynı zamanda açık kaynak topluluğunun yapay zeka kodlama araçlarının sadece dezavantajlarını değil, faydalarını da görmesini sağlamayı amaçlıyor' dedi.
Açık kaynak geliştiricileri, genellikle gönüllü olarak kritik ve yaygın olarak kullanılan yazılımları sınırlı kaynaklarla ayakta tutmaya çalışırken, hata raporlarıyla başa çıkmakta zorlanıyor. Son aylarda yapay zeka destekli güvenlik açığı avcılığının yükselişi, birçok bakımcı için bu birikmiş iş yükünü aşılmaz hale getirdi; yapay zeka tarafından üretilen düşük kaliteli raporlar yığılırken, kritik hatalara ayrılan sınırlı zaman ve dikkat daha da azalıyor.
OpenAI'nin siber güvenlik teknik lideri Fouad Matin, 'Bakımcılar işlerini açık kaynak sevgisiyle yapıyor, ancak şimdi düşük kaliteli CVE raporlarını incelemekle uğraşıyorlar' dedi. Patch the Planet ile 'kod tabanı değerlendirmeleri, potansiyel raporların doğrulanması, yamaların oluşturulması ve uygulanması süreçlerini token açısından mümkün olduğunca verimli hale getirerek bakımcıların yükünü azaltmayı hedefliyoruz' diye ekledi.
Önemli Gelişmeler
Projeye şimdiden 30'dan fazla açık kaynak proje katılım gösterdi ve daha fazlası da sırada. Trail of Bits, projeyi başlatmak için beş günlük bir 'sprint' düzenledi ve çalışanlarının yaklaşık beşte birini (25 mühendis) bakımcılarla işbirliği yapmaya yönlendirdi. OpenAI ve Trail of Bits, ilk haftasında yüzlerce hatanın tespit edildiğini ve düzinelerce yamanın üretildiğini belirtti. Guido, OpenAI'den gelen fon ve sınırsız model erişimiyle Trail of Bits'in Patch the Planet çalışmalarına uzun vadeli olarak devam edeceğini söyledi.
Kaynak: wired.com
