Anthropic, Çarşamba günü Trump yönetiminin ihracat kontrol yasağını kaldırmasıyla birlikte gelişmiş Fable ve Mythos AI modellerine erişimi yeniden açtı. İki modelin geri dönüşü, sınır yapay zeka modellerinin sorumlu bir şekilde kullanımı konusunda Başkan Trump'ın yönetimi ile yapay zeka firmaları arasında devam eden görüşmelerde önemli bir ilerleme olarak değerlendiriliyor. Son aylarda ABD hükümeti ve teknoloji sektörü arasında bu konuda yaşanan gerginlik, bu adımla bir nebze olsun yatışmış oldu.
Anthropic, Salı günü yaptığı açıklamada, modellerinin her zaman güvenli olduğunu ve hükümetin durumu gereğinden fazla büyüttüğünü savundu. Şirket, gelişmiş yetenekleri savunuculara sunma ile bunları ABD'nin rakiplerinin eline geçmesini engelleme arasındaki dengenin hala zorlu görüşmeler gerektirdiğini belirtti. Ticaret Bakanlığı, Amazon'un Fable modelinin kötüye kullanıma karşı güvenlik önlemlerinin aşılabileceği uyarısı üzerine ihracat kontrol yasağı çıkarmıştı. Anthropic, Amazon ve diğer ortaklarla işbirliği içinde rapor edilen açığı gidermek için geliştirilmiş bir güvenlik sınıflandırıcı eğittiğini duyurdu.
Ulusal Standartlar ve Teknoloji Enstitüsü'ndeki (NIST) araştırmacılar, hem eski hem de yeni güvenlik önlemlerini test ederek 'olağanüstü güçlü' olduklarına karar verdi. Ancak Anthropic, yeni sınıflandırıcının siber güvenlik araştırmacıları için bazı olumsuz yan etkileri olabileceğini, örneğin rutin kodlama ve hata ayıklama sırasında masum talepleri daha sık işaretleyebileceğini belirtti. Şirket, bu yanlış pozitifleri azaltmak için çalışmalarına devam edeceğini vurguladı.
Nasıl Önlem Alınmalı?
Fable ve Mythos anlaşmazlığı sona ermiş olsa da, yapay zeka sektörü Trump yönetiminin sınır modellerin kullanılabilirliğini denetleme konusundaki keyfi yaklaşımından endişe duyuyor. Anthropic, hükümetle potansiyel yapay zeka güvenlik risklerini ele almak için işbirliğini artıracağını, federal ajanslarla ortaklıklarını genişleteceğini ve gönüllü bir güvenlik ve değerlendirme standardı oluşturmak için çalışacağını duyurdu. Ayrıca, 'jailbreak' saldırılarının ciddiyetini sınıflandırmak için ortak bir standardın eksikliğine dikkat çekerek, Amazon, Google, Microsoft ve diğer Proje Glasswing üyeleriyle bir fikir birliği çerçevesi oluşturma çalışmalarına başladığını açıkladı.
