Anthropic, Çarşamba günü gelişmiş yapay zeka modelleri Fable ve Mythos'a erişimi yeniden aktif hale getirdi. Bu karar, Trump yönetiminin ihracat kontrol yasağını kaldırmasının ardından geldi. Fable 5 genel kullanıma sunulurken, daha güçlü olan Mythos 5, yasak öncesinde olduğu gibi yalnızca güvenilir ortaklardan oluşan bir koalisyonla sınırlandırıldı. Bu gelişme, Başkan Donald Trump'ın yönetimi ile yapay zeka şirketleri arasında sınır ötesi yapay zeka modellerinin sorumlu bir şekilde kullanımı konusunda devam eden görüşmelerde önemli bir ilerleme olarak değerlendiriliyor.
Anthropic, Salı günü yaptığı açıklamada modellerinin her zaman güvenli olduğunu ve hükümetin durumu gereğinden fazla büyüttüğünü belirtti. Bu, gelişmiş yeteneklerin savunuculara sunulması ile ABD'nin rakiplerinin eline geçmesini engelleme arasındaki dengenin hala tartışmalı olduğunu gösteriyor. Ticaret Bakanlığı, Amazon'un hükümete Fable'ın kötüye kullanıma karşı korumalarının aşılabileceği konusunda uyarıda bulunmasının ardından ihracat kontrol yasağını yürürlüğe koymuştu. Anthropic, aynı sorunun daha az güçlü AI modellerinde de bulunduğunu ancak 'bildirilen açığı gidermek için hızlıca harekete geçtiklerini' söyledi.
Son iki haftayı 'hükümet ve Amazon dahil diğer ortaklarla' yakın işbirliği içinde geçiren Anthropic, 'raporda açıklanan davranışı hedef alan ve engelleyen gelişmiş bir güvenlik sınıflandırıcısı eğittiğini' duyurdu. Ulusal Standartlar ve Teknoloji Enstitüsü'ndeki (NIST) araştırmacıların hem eski hem de yeni güvenlik önlemlerini test ettiğini ve 'olağanüstü güçlü' oldukları konusunda hemfikir olduklarını ekledi. Bununla birlikte şirket, değişikliklerin savunma amaçlı çalışan siber güvenlik araştırmacıları için bazı olumsuz yan etkileri olabileceği konusunda uyardı. Yeni sınıflandırıcının, rutin kodlama ve hata ayıklama görevleri sırasında masum talepleri daha sık işaretlediğini belirten Anthropic, yanlış pozitifleri azaltmak için iyileştirmelere devam edeceklerini ifade etti.
Fable ve Mythos anlaşmazlığı sona ermiş olsa da, yapay zeka sektörü Trump yönetiminin sınır ötesi modellerin kullanılabilirliğini değerlendirmedeki keyfi yaklaşımı konusunda endişeli. Anthropic, hükümetle yakın işbirliği yapma taahhüdünü yineleyerek, federal kurumlarla ortaklıklarını 'önemli ölçüde genişlettiğini' ve sınır ötesi model sağlayıcıları için ortak bir güvenlik ve değerlendirme standardı oluşturulmasına katkıda bulunacağını belirtti. Ayrıca, bir jailbreak'in ciddiyetini sınıflandırmak için 'üzerinde anlaşılmış bir standart' olmamasının sorunlu olduğunu vurgulayan şirket, Amazon, Google ve Microsoft gibi şirketlerle birlikte jailbreak sınıflandırmaları ve yanıtları için bir 'konsensüs çerçevesi' üzerinde çalıştığını duyurdu.
