Anthropic, Çarşamba günü yaptığı açıklamayla, Trump yönetiminin ihracat kontrol yasağını kaldırmasının ardından gelişmiş yapay zeka modelleri Fable ve Mythos'a erişimi yeniden başlattı. Fable 5 genel kullanıma sunulurken, daha güçlü olan Mythos 5 yalnızca güvenilir ortaklardan oluşan bir koalisyonla sınırlı tutuldu. Bu gelişme, Trump yönetimi ile yapay zeka şirketleri arasında sınır ötesi modellerin sorumlu dağıtımı konusunda devam eden görüşmelerde önemli bir ilerleme olarak değerlendiriliyor.
Anthropic, Salı günü yaptığı açıklamada, modellerinin her zaman güvenli olduğunu ve hükümetin durumu gereğinden fazla büyüttüğünü savundu. Şirket, aynı zamanda siber güvenlik uzmanlarının da desteklediği bir argümanı yineleyerek, daha az güçlü yapay zeka modellerinde de benzer güvenlik açıklarının bulunduğunu belirtti. Ancak Anthropic, rapor edilen güvenlik açığını gidermek için hızlıca harekete geçtiklerini ve gelişmiş bir güvenlik sınıflandırıcısı eğittiklerini duyurdu.
Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) bünyesindeki Yapay Zeka Standartları ve İnovasyon Merkezi araştırmacıları, Anthropic'in yeni güvenlik önlemlerini test ederek 'olağanüstü güçlü' olduğunu onayladı. Ancak şirket, yeni sınıflandırıcının siber güvenlik araştırmacıları için bazı olumsuz yan etkileri olabileceği konusunda uyardı. Özellikle rutin kodlama ve hata ayıklama görevlerinde masum taleplerin yanlışlıkla işaretlenme riskinin arttığı ifade edildi.
Fable ve Mythos anlaşmazlığı çözülmüş olsa da, yapay zeka endüstrisi Trump yönetiminin sınır ötesi modellerin kullanılabilirliğini denetleme konusundaki keyfi yaklaşımından endişe duymaya devam ediyor. Anthropic, hükümetle iş birliğini artıracağını ve Project Glasswing kapsamında Amazon, Google, Microsoft gibi şirketlerle birlikte jailbreak sınıflandırmaları ve yanıtları için bir 'konsensüs çerçevesi' üzerinde çalıştığını duyurdu. Şirket, bu çerçevenin her potansiyel jailbreak'i dört kritere göre değerlendirmeyi planladığını belirtti.
