Anthropic, gelişmiş büyük dil modelleri (LLM) Claude Fable 5 ve Claude Mythos 5'i, ABD hükümetinin 30 Haziran'da ihracat kısıtlamalarını kaldırmasının ardından yeniden kullanıma sundu. 11 gün süren kısıtlama, Amazon araştırmacılarının Fable 5'te bir jailbreak yöntemi keşfetmesi üzerine uygulanmıştı. Şirket, modelleri 1 Temmuz itibarıyla yeniden dağıtmaya başladı ancak bu kez güvenlik endişelerini gidermek için ek kısıtlamalar getirildi.
Fable 5, genel erişime açık bir LLM olarak Claude Platform, Claude.ai, Claude Code ve Claude Cowork üzerinden tüm kullanıcılara sunuluyor. Premium kullanıcılar (Pro, Max, Team ve seçili Enterprise planları) modeli 7 Temmuz'a kadar haftalık kullanım sınırının %50'sine kadar kullanabilecek, ardından kullanım kredileriyle erişim sağlanacak. Anthropic ayrıca modeli AWS, Google Cloud ve Microsoft Foundry üzerinden de kullanıma sundu.
Amazon araştırmacılarının raporu, Fable 5'e yönelik bir jailbreak yöntemiyle modelin yazılım güvenlik açıklarını tanımlayabildiğini ve hatta bir exploit sağlayabildiğini ortaya koymuştu. Anthropic, bu tekniğin 'benzersiz Mythos düzeyinde siber yetenekler ortaya çıkarmadığını' belirtse de, yeni bir güvenlik sınıflandırıcısıyla donatılmış Fable 5 sürümünü yayınladı. Bu sınıflandırıcı, raporlanan davranışı hedef alarak engelliyor.
Anthropic'in yeni sınıflandırıcısı, Amazon araştırmacılarının tespit ettiği jailbreak yöntemini '%99'dan fazla oranda engelliyor.' Çok küçük bir oranda, potansiyel olarak zararlı bir kullanıcı talebinden sonra bilgi sağlasa da, şirket bu bilginin 'bir siber saldırgana yardımcı olacak kadar detaylı olmadığını' iddia ediyor. Bu gelişme, yapay zeka güvenliği ve hükümet düzenlemeleri arasındaki hassas dengeyi bir kez daha gündeme getiriyor.
