Anthropic'in en yeni büyük dil modelleri (LLM) Claude Mythos 5 ve Claude Fable 5, ABD hükümetinin ihracat kısıtlamalarını kaldırmasının ardından yeniden kullanıma sunuldu. 30 Haziran'da, ABD hükümetinin her iki model için ihracat kontrolleri uygulamasından sadece 19 gün sonra, bu karar iptal edildi. Aynı gün Anthropic, 1 Temmuz'dan itibaren her iki modeli yeniden dağıtacağını duyurdu. Ancak modeller, ABD hükümetinin dile getirdiği yapay zeka güvenliği ve emniyeti endişelerini gidermek için ek kısıtlamalarla donatıldı.
Fable 5, Mythos 5 ile aynı temel yapay zeka modelini kullanan genel erişimli bir LLM olarak, Claude Platformu, Claude.ai, Claude Code ve Claude Cowork dahil olmak üzere tüm platformlarda küresel kullanıcılara sunuldu. Premium kullanıcılar (Pro, Max, Team ve belirli Enterprise planları) için model, 7 Temmuz'a kadar haftalık kullanım limitlerinin %50'sine kadar dahil edilecek; ardından kullanım kredileriyle erişilebilir olacak. Anthropic ayrıca modeli AWS, Google Cloud ve Microsoft Foundry'de de kullanıma sunuyor.
Yapay zeka şirketi, ihracat kontrolüne yol açan Amazon raporunu incelediğini doğruladı. Raporda araştırmacılar, Fable 5'in yazılım güvenlik açıklarını tanımlamasını ve bir durumda istismar sağlamasını sağlayan bir jailbreak yöntemi bulmuşlardı. Bu, modelin yerleşik güvenlik önlemlerini atlatıyordu. Anthropic, bildirilen tekniğin 'herhangi bir benzersiz Mythos düzeyinde siber yetenek ortaya çıkarmadığını' belirtirken, şirket Fable 5'in 'raporda açıklanan davranışı hedef alan ve engelleyen gelişmiş bir güvenlik sınıflandırıcı' ile donatılmış yeni bir sürümünü yayınlıyor.
Sınıflandırıcı, bir LLM ile etkileşim sırasında modelin potansiyel olarak zararlı bir görev veya çıktı üretmesi istendiğinde bunu tespit eden ve yanıt vermesini engelleyen küçük, otomatik bir yapay zeka sistemidir. Anthropic'e göre yeni sınıflandırıcı, Amazon araştırmacıları tarafından tespit edilen jailbreak'i '%99'dan fazla vakada' engelliyor. 'Çok küçük bir kısımda' potansiyel olarak zararlı bir kullanıcı isteğinden sonra bilgi sağlayabilir, ancak Anthropic bunun 'bir siber saldırgana yardımcı olacak kadar ayrıntılı olmayacağını' iddia ediyor.
Bu gelişme, yapay zeka güvenliği ve düzenlemeleri konusunda artan tartışmaların ortasında gerçekleşiyor. ABD hükümeti, ulusal güvenlik endişeleri nedeniyle gelişmiş yapay zeka modellerinin ihracatını kontrol etmeye çalışırken, Anthropic gibi şirketler de modellerinin kötüye kullanımını önlemek için teknik önlemler geliştiriyor. Yeni güvenlik sınıflandırıcısı, bu tür önlemlerin etkinliğini artırmaya yönelik bir adım olarak görülüyor. Ancak bazı uzmanlar, jailbreak yöntemlerinin sürekli evrim geçirdiğini ve statik sınıflandırıcıların uzun vadede yeterli olmayabileceğini belirtiyor.
Sonuç olarak, Anthropic'in Claude Fable 5 ve Mythos 5 modellerinin yeniden piyasaya sürülmesi, yapay zeka güvenliği ile inovasyon arasındaki hassas dengeyi gözler önüne seriyor. Şirket, ABD hükümetinin endişelerini gidermek için hızlı bir şekilde harekete geçerken, kullanıcılar artık modelleri daha sıkı güvenlik önlemleriyle kullanabilecek. Bu durum, yapay zeka modellerinin potansiyel risklerine karşı sürekli bir güvenlik güncellemesi ihtiyacını da ortaya koyuyor. Önümüzdeki dönemde benzer düzenlemelerin ve teknik önlemlerin artması bekleniyor.
Kaynak: infosecurity-magazine.com
