Anthropic'in en yeni büyük dil modelleri (LLM) olan Claude Mythos 5 ve Claude Fable 5, ABD hükümetinin ihracat kontrollerini kaldırmasının ardından yeniden kullanıma sunuldu. 30 Haziran'da, bu iki modelin küresel dağıtımını durduran yaptırımların kaldırılmasıyla birlikte, Anthropic 1 Temmuz'dan itibaren modelleri tekrar yayınlayacağını duyurdu. Ancak bu sefer, ABD hükümetinin yapay zeka güvenliği ve emniyeti konusundaki endişelerini gidermek için ek kısıtlamalar getirildi.
Fable 5, Mythos 5 ile aynı temel yapay zeka modelini kullanan genel erişimli bir LLM olarak, Claude Platform, Claude.ai, Claude Code ve Claude Cowork dahil olmak üzere tüm platformlarda küresel kullanıcılara sunuldu. Pro, Max, Team ve belirli Enterprise planlarına abone olan premium kullanıcılar, 7 Temmuz'a kadar haftalık kullanım limitlerinin %50'sine kadar bu modele erişebilecek; sonrasında ise kullanım kredileriyle erişim sağlanacak. Ayrıca Anthropic, genel erişim modelini AWS, Google Cloud ve Microsoft Foundry üzerinden de kullanıma sunuyor.
Anthropic, ihracat kontrolüne yol açan Amazon raporunu incelediğini doğruladı. Raporda araştırmacılar, Fable 5'in güvenlik önlemlerini aşan bir jailbreak yöntemi keşfetmişti. Bu yöntemle model, yazılım açıklarını tespit edebiliyor ve hatta bir durumda bir exploit sağlayabiliyordu. Anthropic, bildirilen tekniğin 'herhangi bir benzersiz Mythos düzeyinde siber yetenek açığa çıkarmadığını' belirtse de, şirket Fable 5'in yeni bir sürümünü yayınlıyor.
Teknik Analiz
Yeni sürüm, 'raporda açıklanan davranışı hedef alan ve engelleyen gelişmiş bir güvenlik sınıflandırıcısı' ile donatıldı. Sınıflandırıcı, LLM ile etkileşim sırasında modelin potansiyel olarak zararlı bir görev veya çıktı üretmesi istendiğinde bunu tespit eden ve yanıt vermesini engelleyen küçük, otomatik bir yapay zeka sistemidir. Anthropic'e göre yeni sınıflandırıcı, Amazon araştırmacıları tarafından tespit edilen jailbreak saldırısını '%99'dan fazla oranda' engelliyor.
Sonuç ve Değerlendirme
Anthropic, sınıflandırıcının 'çok küçük bir oranda' zararlı kullanıcı taleplerine yanıt olarak bilgi sağlayabileceğini, ancak bu bilgilerin 'bir siber saldırgana yardımcı olacak kadar ayrıntılı olmayacağını' iddia etti. Bu güncelleme, yapay zeka güvenliği alanında önemli bir adım olarak görülüyor ve özellikle büyük dil modellerinin kötüye kullanımını önleme konusunda yeni bir standart oluşturuyor.
Detaylar ve Etkileri
Fable 5 ve Mythos 5'in yeniden kullanıma sunulması, yapay zeka endüstrisinde ihracat kontrolleri ve güvenlik önlemleri arasındaki hassas dengeyi gözler önüne seriyor. Anthropic'in yeni sınıflandırıcısı, diğer yapay zeka şirketlerine de benzer güvenlik önlemleri geliştirme konusunda ilham verebilir. Kullanıcılar, bu güncellemelerle birlikte modellerin daha güvenli bir şekilde kullanılabileceğini umuyor.
Kaynak: infosecurity-magazine.com
