Anthropic, öncü büyük dil modelleri (LLM) Claude Mythos 5 ve Claude Fable 5'in tekrar kullanıma sunulduğunu duyurdu. ABD hükümetinin 30 Haziran'da bu modellere uyguladığı ihracat kısıtlamalarını kaldırmasının ardından, şirket 1 Temmuz itibarıyla modelleri yeniden dağıtmaya başladı. Ancak bu kez modeller, ABD hükümetinin dile getirdiği yapay zeka güvenliği ve emniyeti endişelerini gidermek için ek kısıtlamalarla donatıldı.
Fable 5, genel erişime açık bir LLM olarak Claude Platform, Claude.ai, Claude Code ve Claude Cowork üzerinden küresel kullanıcılara sunuluyor. Premium kullanıcılar (Pro, Max, Team ve seçili Enterprise planları) 7 Temmuz'a kadar haftalık kullanım limitlerinin %50'sine kadar bu modele erişebilecek, sonrasında kullanım kredileriyle devam edecek. Ayrıca model AWS, Google Cloud ve Microsoft Foundry üzerinden de kullanıma sunuluyor.
Anthropic, ihracat kısıtlamalarına yol açan Amazon raporunu incelediğini doğruladı. Raporda araştırmacılar, Fable 5'in güvenlik önlemlerini aşarak yazılım güvenlik açıklarını tespit etmesine ve hatta bir istismar sağlamasına olanak tanıyan bir 'jailbreak' yöntemi keşfetmişti. Anthropic, bildirilen tekniğin 'benzersiz Mythos düzeyinde siber yetenekler ortaya çıkarmadığını' belirtse de, raporda tanımlanan davranışı hedef alan ve engelleyen gelişmiş bir güvenlik sınıflandırıcısına sahip yeni bir Fable 5 sürümü yayınlıyor.
Nasıl Önlem Alınmalı?
Yeni sınıflandırıcı, Amazon araştırmacıları tarafından tespit edilen jailbreak yöntemini vakaların %99'undan fazlasında engelliyor. Anthropic, çok küçük bir oranda zararlı kullanıcı taleplerine yanıt olarak bilgi sağlayabileceğini ancak bu bilgilerin 'bir siber saldırgana yardımcı olacak kadar ayrıntılı olmayacağını' iddia ediyor. Bu adım, yapay zeka güvenliği konusundaki hassasiyeti ve düzenleyici kurumlarla iş birliğini gösteriyor.
