Anthropic, Çarşamba günü yaptığı açıklamayla gelişmiş yapay zeka modelleri Fable ve Mythos'a erişimi yeniden aktif hale getirdi. Bu karar, Trump yönetiminin ihracat kontrol yasağını kaldırmasının ardından geldi. Fable 5 genel kullanıma sunulurken, daha güçlü olan Mythos 5 ise yalnızca güvenilir ortaklardan oluşan bir koalisyonla sınırlandırıldı. Bu adım, Trump yönetimi ile yapay zeka firmaları arasında sınır ötesi yapay zeka modellerinin sorumlu bir şekilde kullanımı konusunda devam eden görüşmelerde önemli bir ilerleme olarak değerlendiriliyor.
Anthropic, Salı günü yaptığı açıklamada modellerinin her zaman güvenli olduğunu ve hükümetin durumu gereğinden fazla abarttığını savundu. Şirket ayrıca, gelişmiş yetenekleri savunmacılara sunma ile ABD'li rakiplerin eline geçmesini engelleme arasındaki dengenin hala tartışmalı olduğuna dikkat çekti. Amazon'un Fable'ın kötüye kullanımını önleyen güvenlik önlemlerinin aşılabileceğini bildirmesi üzerine Ticaret Bakanlığı ihracat kontrol yasağı çıkarmıştı. Anthropic, bu sorunun daha az güçlü yapay zeka modellerinde de var olduğunu ancak 'bildirilen atlatma yöntemini ele almak için hızla harekete geçtiklerini' belirtti.
Şirket, son iki haftayı 'hükümet ve Amazon dahil diğer ortaklarla' yakın iş birliği içinde geçirdiğini ve 'raporda açıklanan davranışı hedef alan ve engelleyen gelişmiş bir güvenlik sınıflandırıcısı eğittiğini' duyurdu. Ulusal Standartlar ve Teknoloji Enstitüsü'ndeki (NIST) araştırmacılar, hem önceki hem de yeni güvenlik önlemlerini test ederek 'olağanüstü derecede güçlü' oldukları konusunda hemfikir oldu. Ancak Anthropic, bu değişikliklerin siber güvenlik araştırmacıları için olumsuz yan etkileri olabileceği uyarısında bulundu: 'Yeni sınıflandırıcı, rutin kodlama ve hata ayıklama görevleri sırasında masum talepleri daha sık işaretleme maliyetine sahip.'
Fable ve Mythos anlaşmazlığı sona ermiş olsa da, yapay zeka endüstrisi Trump yönetiminin sınır ötesi modellerin kullanılabilirliğini denetleme konusundaki keyfi yaklaşımından endişe duymaya devam ediyor. Anthropic, hükümetle yakın iş birliği yapma taahhüdünü yineleyerek, federal kurumlarla ortaklıklarını 'önemli ölçüde genişlettiğini' ve 'sınır model sağlayıcıları için ortak, gönüllü bir güvenlik ve değerlendirme standardı' oluşturmak için çalışacağını belirtti. Ayrıca şirket, 'bir jailbreak'in ciddiyetini sınıflandırmak için üzerinde anlaşılmış bir standart olmamasını' sorun olarak nitelendirerek, Amazon, Google, Microsoft ve diğer Project Glasswing üyeleriyle birlikte jailbreak sınıflandırmaları ve yanıtları için bir 'konsensüs çerçevesi' üzerinde çalıştığını duyurdu.
