Anthropic'in en son sınır geniş dil modelleri (LLM'ler), Claude Mythos 5 ve Claude Fable 5 yeniden kullanıma sunuldu - ancak ek güvenlik sınırlamalarıyla birlikte.
30 Haziran'da, ABD hükümetinin Anthropic'i küresel dağıtımını askıya almaya zorlayan her iki model için de ihracat kontrollerini yürürlüğe koymasından sadece 19 gün sonra, karar kaldırıldı.
Aynı gün, AI laboratuvarı her iki modeli de 1 Temmuz'dan itibaren yeniden konuşlandıracağını duyurdu.
Ancak artık ABD hükümeti tarafından dile getirilen yapay zeka emniyeti ve güvenliği endişelerini gidermeyi amaçlayan ek sınırlamalarla gelecekler.
Teknik Analiz
Fable 5, ABD Onaylı Yeni Güvenlik Önlemleriyle Donatıldı
Uzmanların Görüşleri
Mythos 5 ile aynı temel yapay zeka modeliyle desteklenen genel erişimli bir LLM olan Fable 5 (kendisi de Claude Mythos Preview'dan bir yükseltmedir) artık tüm Claude Platformu, Claude.ai, Claude Code ve Claude Cowork'teki kullanıcılara dünya çapında sunulmaktadır.
Pro, Max, Team ve seçili Enterprise planlarına abone olan premium kullanıcılar için model, 7 Temmuz'a kadar haftalık kullanım limitlerinin %50'sine kadar dahil edilecek ve sonrasında kullanım kredileri aracılığıyla satışa sunulacak.
Detaylar ve Etkileri
Anthropic ayrıca genel erişim modelinin AWS, Google Cloud ve Microsoft Foundry'de de kullanıma sunulmasını sağlıyor.
AI şirketi, ihracat kontrol direktifini yönlendiren Amazon raporunu incelediğini doğruladı. Raporda araştırmacılar, Fable 5'i harekete geçiren bir yöntem olan ve yazılımdaki güvenlik açıklarını tespit eden ve bir durumda bir istismar sağlayan, dolayısıyla modelin yerleşik korumalarını atlayan bir jailbreak yöntemi bulmuşlardı.
Anthropic, bildirilen tekniğin "Mythos düzeyinde herhangi bir benzersiz siber yeteneği açığa çıkarmadığını" söylese de şirket, "raporda açıklanan davranışı hedefleyen ve engelleyen geliştirilmiş bir güvenlik sınıflandırıcısı" ile donatılmış Fable 5'in yeni bir sürümünü yayınlıyor.
Sistem Güvenliği
Sınıflandırıcı, bir LLM ile etkileşim sırasında modelden potansiyel olarak zararlı bir görevi gerçekleştirmesinin veya potansiyel olarak zararlı çıktılar üretmesinin istendiğini algılayan ve ardından modelin isteklere yanıt vermesini engelleyen küçük, otomatik bir yapay zeka sistemidir.
Anthropic'e göre yeni sınıflandırıcı, Amazon araştırmacıları tarafından tespit edilen jailbreak'i "vakaların %99'undan fazlasında" engelliyor.
"Çok küçük bir oranda" potansiyel olarak zararlı bir kullanıcı isteği sonrasında bilgi sağlayabilir, ancak Anthropic bunun "bir siber saldırgana yardımcı olacak kadar ayrıntılı" olmayacağını iddia etti.
